AI Act stupio je na snagu 2024. — od 2026. vrijede obveze za visokorizične sustave poput kreditnog scoriranja. Što to znači za banke, osiguravatelje i vas kao korisnika u RH.
Algoritam odlučuje hoćete li dobiti kredit. Drugi algoritam izračunava koliko ćete platiti osiguranje. Treći gleda vaše digitalne tragove i procjenjuje rizik koji niste ni znali da imate.
EU AI Act — prvi sveobuhvatni zakon o AI na svijetu — kaže da to nije prihvatljivo bez objašnjenja, nadzora i odgovornosti. I polako počinje to provoditi.
Što je AI Act i kada vrijedi
AI Act stupio je na snagu 1. kolovoza 2024. Primjenjuje se u fazama:
- Od 2. veljače 2025.: zabranjene AI prakse su na snazi (socijalno bodovanje, masovno biometrijsko praćenje u javnom prostoru)
- Od 2. kolovoza 2026.: puna primjena za visokorizične AI sustave — uključujući kreditno scoriranje, procjenu kreditne sposobnosti, osiguravajuće modele
Kazne nisu simbolične: do 35 milijuna € ili 7% globalnog godišnjeg prometa za zabranjene prakse. Do 15 milijuna € ili 3% prometa za ostale povrede.
Što je "visokorizični AI" u financijama
AI Act definira visokorizičnim svaki AI sustav koji donosi ili bitno utječe na odluke o:
- Kreditnoj sposobnosti — scoriranje za kredit, hipoteku, kreditnu karticu
- Životnom osiguranju — AI koji određuje premiju na temelju procjene rizika korisnika
- Zapošljavanju — AI koji filtrira životopise ili donosi preporuke o zapošljavanju
Za ove sustave, od kolovoza 2026. tvrtke moraju:
- Registrirati sustav u EU bazi podataka visokorizičnih AI sustava
- Dokumentirati kako model radi, na kojim podacima je treniran, koje su njegove granice
- Omogućiti nadzor od strane čovjeka — algoritmom se ne smije donijeti konačna odluka bez ljudskog pregleda
- Objasniti odluku korisniku — ako vam banka odbije kredit zbog AI scoringa, ima obvezu objasniti zašto
Što to znači za vas kao korisnika u RH
Pravo na objašnjenje. Ako od kolovoza 2026. dobijete odbijeni zahtjev za kredit ili neuobičajeno visoku premiju osiguranja, a tvrtka koristi AI model — imate pravo tražiti objašnjenje. Ne "algoritam je odlučio", nego stvarno objašnjenje koje faktore je sustav uzeo u obzir.
AZOP kao nadzorno tijelo. Hrvatska priprema zakonski okvir za AI nadzor. Agencija za zaštitu osobnih podataka (AZOP) preuzima dio nadzorne uloge — posebno kada AI obrađuje vaše osobne podatke.
Banke počinju mijenjati procese. Banke koje danas imaju automatizirana kreditna odobravanja moraju do kolovoza 2026. imati dokumentaciju, registro i human oversight mehanizme. Ovo nije trivijalno — i neke banke u HR kasne s pripremom.
Što AI Act ne rješava
Regulativa je ambiciozna, ali ima rupe. "Objašnjenje" algoritma ne mora biti razumljivo prosječnom korisniku. "Nadzor od strane čovjeka" može biti nominalan — netko koji potpisuje bez stvarnog razumijevanja modela.
I dalje ostaje pitanje: što ako AI model sistematski diskriminira — ne po zabranjenoj kategoriji (spol, rasa) nego po koreliranim proxy varijablama kao što su poštanski broj ili tip uređaja s kojeg pristupate aplikaciji? AI Act to ne rješava automatski.
Ali je korak. Transparentnost kao regulatorni zahtjev, pravo na objašnjenje kao standardna praksa — to su promjene koje mijenjaju kulturu, ne samo papire.
Izvori i dodatno čitanje
- MojNovac — EU AI Act: što znači za vaš novac i vaša prava
- CompliQuest — EU AI Act: obveze za tvrtke 2026.
- Financije.hr — Hrvatska priprema zakonski okvir za AI nadzor
- VisionCompliance — AI Act: vodič za hrvatska poduzeća
- Financije.hr — Hrvatska treba odrediti nadzorno tijelo za AI
- European Commission — EU AI Act