AI kredit scoring: pravedniji ili pristraniji od klasičnih modela?

Netko je odbijen za kredit. Banka kaže: "algoritam." Koji algoritam? Koje podatke koristi? Zašto je donio tu odluku? Odgovor je obično: ne možemo vam reći.

Ovo je najproblematičnija strana AI-a u financijama — a i potencijalno najpravednija. Istovremeno.

Zašto algoritmi mogu biti pravedniji

Klasični kreditni model diskriminira na načine koje ne prepoznajemo jer su normalizirani. Kreditni referent koji vam ne daje kredit jer "nije siguran" u vaš biznis plan možda ima predrasude. Algoritam — u teoriji — ne.

Prošireni pristup: fintech tvrtke koje koriste AI modele (Klarna, Affirm, Upstart u SAD-u) demonstrirale su da mogu odobriti kredite osobama koje klasični FICO scoring odbija — i uz niži udio neplaćanja. Razlog: alternativni signali koji nisu u HROK-u ili kreditnoj kartici.

Upstart (američka AI lending platforma) tvrdi da njihov model odobrava 27% više kreditnih zahtjeva uz isti rizik profil kao klasični model, posebno za mlade i osobe bez dugačke kreditne povijesti.

Za mlade u Hrvatskoj koji nemaju kredit i još uvijek grade povijest — AI model koji gleda širu sliku može biti bolji od HROK baze koja jednostavno kaže "nedovoljno podataka."

Zašto algoritmi mogu biti pristrasniji

Problem: algoritam uči iz historijskih podataka. A historijski podaci reflektiraju historijsku diskriminaciju.

Klasičan primjer iz SAD-a: ZIP kod (poštanski broj) je snažan prediktor kreditnog defaulta. Algoritam ga koristi. Istovremeno, određeni ZIP kodovi imaju visoku korelaciju s rasom zbog historijskog redlininga (segregacijske politike stanovanja). Algoritam koji koristi ZIP kod kao varijablu neizravno diskriminira — bez ijedne eksplicitne rasne varijable u modelu.

Proxy diskriminacija — algoritam ne koristi zabranjene varijable (rasa, spol, vjera), ali koristi varijable koje su s njima korelirane:

• Uređaj koji koristite za aplikaciju (iPhone vs. stariji Android?)
• Obrasce potrošnje (kategorije koje koreliraju s demografijom)
• Jezik kojim komunicirate s bankom

Ove korelacije postoje u podacima i algoritam ih uči.

Što EU regulacija kaže

Europski AI Act koji je stupio na snagu 2024. svrstava kreditno scoriranje kao "high-risk AI sustav". To znači:

• Obvezan rizični assessment prije deployanja
• Transparentnost prema regulatoru (ne nužno prema korisniku)
• Pravo na ljudski pregled automatiziranih odluka
• Zabrana određenih praksi (diskriminatorne inference)

GDPR čl. 22 već dulje daje pravo na "obrazloženje automatiziranih odluka koje značajno utječu na osobu." U praksi: ako vas banka odbije zbog algoritma, imate pravo zatražiti obrazloženje i pravo na ljudski pregled.

U HR to malo tko zna i još manje ih zahtijeva. Ali pravo postoji.

Kako se zaštititi

1. Zatražite obrazloženje — pisanim putem, banka je dužna odgovoriti
2. Provjerate HROK dosje — eliminira situacije gdje je algoritam radio s pogrešnim ulaznim podacima
3. Prigovorite ako je odbijanje nerazumno — HNB Savjetovalište je dostupno bez naknade
4. Pokušajte kod više banaka — svaka banka ima vlastiti model, isti klijent može biti prihvaćen na jednom mjetu i odbijen na drugom

---

AI kreditni modeli nisu ni svi dobri ni svi loši. Mogu otvoriti vrata onima koje je klasični sustav ignorirao — i istovremeno perpetuirati predrasude sakrivene u podacima. EU regulativa počela je postavljati okvir, ali implementacija kasni za tehnologijom. Do tada: znajte svoja prava i koristite ih.

---

Izvori i dodatno čitanje

• EU AI Act — Annex III (High-risk AI) — klasifikacija kreditnog scoriranja kao visokorisičnog AI sustava
• GDPR čl. 22 — Automatizirana individualna odlučivanja — pravo na objašnjenje i ljudski pregled
• AZOP — Zaštita u kontekstu AI odluka — hrvatska agencija za zaštitu osobnih podataka
• Upstart — AI lending research — istraživanje o AI kreditnom proširenju
• CFPB — Algorithmic discrimination in lending — američki regulatorni pregled AI pristranosti