Algoritmi koji odlučuju tko dobiva kredit koriste tisuće varijabli — uključujući neke koje nikad niste prijavili banci. Što je u podacima i tko nosi odgovornost.
Netko je odbijen za kredit. Banka kaže: "algoritam." Koji algoritam? Koje podatke koristi? Zašto je donio tu odluku? Odgovor je obično: ne možemo vam reći.
Ovo je najproblematičnija strana AI-a u financijama — a i potencijalno najpravednija. Istovremeno.
Zašto algoritmi mogu biti pravedniji
Klasični kreditni model diskriminira na načine koje ne prepoznajemo jer su normalizirani. Kreditni referent koji vam ne daje kredit jer "nije siguran" u vaš biznis plan možda ima predrasude. Algoritam — u teoriji — ne.
Prošireni pristup: fintech tvrtke koje koriste AI modele (Klarna, Affirm, Upstart u SAD-u) demonstrirale su da mogu odobriti kredite osobama koje klasični FICO scoring odbija — i uz niži udio neplaćanja. Razlog: alternativni signali koji nisu u HROK-u ili kreditnoj kartici.
Upstart (američka AI lending platforma) tvrdi da njihov model odobrava 27% više kreditnih zahtjeva uz isti rizik profil kao klasični model, posebno za mlade i osobe bez dugačke kreditne povijesti.
Za mlade u Hrvatskoj koji nemaju kredit i još uvijek grade povijest — AI model koji gleda širu sliku može biti bolji od HROK baze koja jednostavno kaže "nedovoljno podataka."
Zašto algoritmi mogu biti pristrasniji
Problem: algoritam uči iz historijskih podataka. A historijski podaci reflektiraju historijsku diskriminaciju.
Klasičan primjer iz SAD-a: ZIP kod (poštanski broj) je snažan prediktor kreditnog defaulta. Algoritam ga koristi. Istovremeno, određeni ZIP kodovi imaju visoku korelaciju s rasom zbog historijskog redlininga (segregacijske politike stanovanja). Algoritam koji koristi ZIP kod kao varijablu neizravno diskriminira — bez ijedne eksplicitne rasne varijable u modelu.
Proxy diskriminacija — algoritam ne koristi zabranjene varijable (rasa, spol, vjera), ali koristi varijable koje su s njima korelirane:
- Uređaj koji koristite za aplikaciju (iPhone vs. stariji Android?)
- Obrasce potrošnje (kategorije koje koreliraju s demografijom)
- Jezik kojim komunicirate s bankom
Ove korelacije postoje u podacima i algoritam ih uči.
Što EU regulacija kaže
Europski AI Act koji je stupio na snagu 2024. svrstava kreditno scoriranje kao "high-risk AI sustav". To znači:
- Obvezan rizični assessment prije deployanja
- Transparentnost prema regulatoru (ne nužno prema korisniku)
- Pravo na ljudski pregled automatiziranih odluka
- Zabrana određenih praksi (diskriminatorne inference)
GDPR čl. 22 već dulje daje pravo na "obrazloženje automatiziranih odluka koje značajno utječu na osobu." U praksi: ako vas banka odbije zbog algoritma, imate pravo zatražiti obrazloženje i pravo na ljudski pregled.
U HR to malo tko zna i još manje ih zahtijeva. Ali pravo postoji.
Kako se zaštititi
- Zatražite obrazloženje — pisanim putem, banka je dužna odgovoriti
- Provjerate HROK dosje — eliminira situacije gdje je algoritam radio s pogrešnim ulaznim podacima
- Prigovorite ako je odbijanje nerazumno — HNB Savjetovalište je dostupno bez naknade
- Pokušajte kod više banaka — svaka banka ima vlastiti model, isti klijent može biti prihvaćen na jednom mjetu i odbijen na drugom
AI kreditni modeli nisu ni svi dobri ni svi loši. Mogu otvoriti vrata onima koje je klasični sustav ignorirao — i istovremeno perpetuirati predrasude sakrivene u podacima. EU regulativa počela je postavljati okvir, ali implementacija kasni za tehnologijom. Do tada: znajte svoja prava i koristite ih.
Izvori i dodatno čitanje
- EU AI Act — Annex III (High-risk AI) — klasifikacija kreditnog scoriranja kao visokorisičnog AI sustava
- GDPR čl. 22 — Automatizirana individualna odlučivanja — pravo na objašnjenje i ljudski pregled
- AZOP — Zaštita u kontekstu AI odluka — hrvatska agencija za zaštitu osobnih podataka
- Upstart — AI lending research — istraživanje o AI kreditnom proširenju
- CFPB — Algorithmic discrimination in lending — američki regulatorni pregled AI pristranosti