Raport Związku Przedsiębiorstw Finansowych „Zarządzanie należnościami w erze AI. Perspektywa 2030” pokazuje dość jednoznacznie, w jakim kierunku zmierza branża zarządzania wierzytelnościami. Wedle publikacji 76,5 proc. respondentów spodziewa się największego wpływu sztucznej inteligencji na automatyzację procesów operacyjnych, a 70,6 proc. na analizę danych i predykcję skuteczności odzyskania należności.
Nie ulega wątpliwości, że procesy operacyjne w zarządzaniu wierzytelnościami ulegną w znacznym stopniu automatyzacji. Specyfika branży funkcjonującej w silnie uregulowanym środowisku wymaga od adopcji sztucznej inteligencji wyjątkowej dbałości o nadzór nad wykorzystaniem tej technologii. Sztuczna inteligencja może wspierać analizę dokumentacji, porządkowanie i klasyfikowanie spraw, wyszukiwanie informacji w dużych zbiorach danych, przygotowywanie projektów pism i komunikacji, analizę historii obsługi sprawy, czy też identyfikowanie nieprawidłowości. W przypadku dużych portfeli wierzytelności szczególne znaczenie może mieć również wsparcie analityczne przy ustalaniu kolejności działań i przewidywaniu skuteczności określonych strategii.
W praktyce może to oznaczać znaczne skrócenie czasu potrzebnego na wykonanie powtarzalnych czynności i pozostawienie człowiekowi większej przestrzeni na to, czego technologia nadal nie wykonuje dobrze: ocenę konkretnej sytuacji, negocjacje, rozwiązywanie nietypowych problemów i podejmowanie decyzji wymagających znajomości szerszego kontekstu. Jest to zresztą spójne z wynikami badania ZPF. Respondenci najczęściej wskazywali negocjacje, budowanie relacji oraz podejmowanie decyzji w nietypowych lub złożonych sprawach jako obszary, w których udział człowieka pozostanie trudny do zastąpienia.
Problem polega na tym, że skala korzyści z automatyzacji idzie w parze ze skalą potencjalnego ryzyka.
Błąd człowieka dotyczy najczęściej jednostkowej sprawy. Błąd wpisany w zautomatyzowany proces może zostać szybko powielony w setkach albo tysiącach spraw, zanim zostanie zauważony. Niewłaściwa reguła klasyfikacji, nierzetelna rekomendacja modelu, nieprawidłowo dobrana grupa odbiorców czy błędnie wygenerowana komunikacja przestają być wówczas pojedynczym błędem operacyjnym, a rosną do skali problemu systemowego.
Do tego dochodzą zagrożenia charakterystyczne dla samej technologii: halucynacje, AI bias, utrata kontroli nad informacją przekazywaną zewnętrznemu dostawcy (naruszenie poufności danych osobowych, tajemnicy zawodowej, tajemnicy przedsiębiorstwa itp.), niewłaściwa konfiguracja retencji danych, nieuprawniony dostęp, brak możliwości odtworzenia sposobu wykorzystania systemu czy uzależnienie istotnego procesu od rozwiązania, nad którym organizacja ma ograniczoną kontrolę.
W branży zarządzania wierzytelnościami ryzyko jest szczególnie istotne także z powodu charakteru przetwarzanych informacji. Dokumentacja spraw może zawierać dane o sytuacji finansowej, historii zadłużenia, postępowaniach sądowych, sytuacji rodzinnej czy innych okolicznościach dotyczących konkretnej osoby. W przypadku kancelarii dochodzi do tego tajemnica zawodowa. Ustawa o radcach prawnych nakłada na radcę prawnego obowiązek zachowania w tajemnicy wszystkiego, o czym dowiedział się w związku z udzielaniem pomocy prawnej, a analogiczny obowiązek wynika z Prawa o adwokaturze.
Wdrożenie AI w podmiocie zarządzającym wierzytelnościami nie powinno zaczynać się od pytania, jaki model wybrać, a od ustalenia, jakie informacje system otrzyma, gdzie będą one przetwarzane, kto uzyska do nich dostęp, czy dostawca może wykorzystywać je do dalszego trenowania modeli, jak długo będą przechowywane oraz czy organizacja będzie w stanie odtworzyć sposób wykorzystania wygenerowanego wyniku.
RODO wymaga uwzględniania ochrony danych już na etapie projektowania procesu oraz stosowania środków technicznych i organizacyjnych adekwatnych do ryzyka. Przy niektórych zastosowaniach znaczenie będzie miał również art. 22 RODO dotyczący decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu, jeżeli wywołują one skutki prawne wobec osoby albo w podobny sposób istotnie na nią wpływają. Nie każda automatyzacja procesu windykacyjnego będzie oczywiście taką decyzją. Granica ta powinna jednak zostać świadomie oceniona już na etapie projektowania konkretnego zastosowania AI.
W polskich realiach do AI Act dochodzi obowiązująca od sierpnia 2026 r. ustawa o systemach sztucznej inteligencji, która buduje krajowe ramy stosowania i nadzoru nad unijnymi przepisami (które w najbliższym czasie zostaną wzbogacone o interpretacje Komisji Rozwoju Bezpieczeństwa Sztucznej Inteligencji). Otoczenie regulacyjne branży jest jednak znacznie szersze niż AI Act i RODO.
Część podmiotów zajmujących się zarządzaniem wierzytelnościami funkcjonuje bezpośrednio w reżimie nadzorczym rynku finansowego. Prowadzenie działalności w zakresie zarządzania sekurytyzowanymi wierzytelnościami funduszu sekurytyzacyjnego wymaga zezwolenia KNF i wiąże się między innymi z obowiązkami dotyczącymi procedur, organizacji działalności i zabezpieczenia informacji. Podmioty obsługujące kredyty również znajdują się pod nadzorem KNF.
Jest jeszcze jeden poziom regulacji, mniej widoczny, ale w praktyce bardzo istotny. Firmy windykacyjne i kancelarie często świadczą usługi na rzecz banków, towarzystw ubezpieczeniowych, funduszy i innych podmiotów rynku finansowego. Obowiązki regulacyjne klienta znajdują wówczas odzwierciedlenie w umowach z jego dostawcami. Powstaje swoisty efekt regulacji pośredniej: wymagania dotyczące bezpieczeństwa informacji, audytu, podwykonawców, ciągłości działania, lokalizacji danych czy zgłaszania incydentów stają się zobowiązaniami kontraktowymi wykonawcy.
W tym miejscu pojęcie human-in-the-loop przestaje być technologicznym hasłem, a zaczyna mieć bardzo praktyczne znaczenie.
Prawidłowo rozumiany nadzór człowieka nie polega na tym, że człowiek otrzymuje wynik systemu i mechanicznie klika „zatwierdź”. Taki model może wręcz wzmacniać ryzyko błędu automatyzacji, na które zwraca uwagę sam AI Act. Człowiek musi mieć informacje, kompetencje i faktyczną możliwość zakwestionowania rekomendacji systemu, poprawienia jej albo całkowitego odstąpienia od jej wykorzystania.
Warto przy tym doprecyzować samą kwestię odpowiedzialności. Podmiot wykorzystujący system nadal odpowiada za sposób zorganizowania procesu. AI może przygotować rekomendację, ale to organizacja musi określić, kto, na jakiej podstawie i w jakich granicach może ją wykorzystać.
Dlatego odpowiedzialne wdrożenie AI wymaga czegoś więcej niż regulaminu korzystania z LLM. Potrzebna jest wiedza o tym, jakie systemy są wykorzystywane w organizacji, do jakich celów, na jakich danych i przez kogo. Potrzebne są zasady dopuszczania nowych narzędzi, ocena dostawców, kontrola dostępu, rejestrowanie istotnych działań, testowanie jakości wyników, procedura reagowania na błędy i incydenty oraz określenie procesów, w których decyzja musi pozostać po stronie człowieka. Równie ważne są kompetencje pracowników. AI Act przewiduje obowiązek podejmowania przez dostawców i podmioty stosujące AI działań wspierających rozwój odpowiednich kompetencji osób korzystających z tych systemów.
W efekcie największą przewagą firm zarządzających wierzytelnościami do 2030 r. może okazać się nie samo posiadanie najbardziej zaawansowanych modeli, a umiejętność eksploatacji w bezpieczny i świadomy sposób.
W branży opartej na zaufaniu klientów instytucjonalnych, przetwarzającej ogromną liczbę danych i funkcjonującej w bezpośrednim i pośrednim silnie uregulowanym reżimie, bezpieczeństwo informacji, zgodność i właściwy nadzór nad AI nie są przeszkodą dla innowacji, a warunkiem jej bezpiecznego skalowania.
W Kancelarii Radców Prawnych Ryszewski, Szubierajski wychodzimy z założenia, że narzędzia AI jest tak efektywne jak wiedza jego użytkownika, dlatego kładziemy szczególny nacisk na kwestie związane z kompetencjami oraz bezpieczeństwem informacji. Wierzymy, że przyszłość zarządzania wierzytelnościami należy do tych, którzy nie tylko zaadoptują tę technologię w efektywny sposób, ale przede wszystkim uczynią to w sposób gwarantujący bezpieczeństwo naszym partnerom.
Oskar Chmielewski
Prawnik
Audytor Wiodący Systemu Zarządzania Sztuczną Inteligencją ISO 42001
Audytor Wewnętrzny Systemu Zarządzania Bezpieczeństwem Informacji ISO 27001
Absolwent studiów podyplomowych na kierunku Prawo Nowoczesnych Technologii
Koordynator Bezpieczeństwa Informacji i Compliance, AI Officer
