Nova evropska regulativa uvodi četiri kategorije rizika prilikom primenjivanja AI tehnologija, a kako će to uticati na kompanije za EUpravo Zato objašnjava Stefan Badža.
• EU AI Act uvodi četiri nivoa rizika za sisteme vještačke inteligencije, a dio pravila već je stupio na snagu.
• Mnoge kompanije nisu svjesne da alati koje koriste za zapošljavanje, kreditiranje ili procjene mogu spadati u visokorizične AI sisteme.
• Stručnjaci preporučuju firmama da naprave detaljan popis svih AI alata koje koriste i procijene njihov uticaj i rizike.
Recimo da vodite firmu od tridesetak ljudi. HR koristi alat koji automatski pregleda biografije kandidata i izbacuje uži izbor. Nije kupljen kao "AI projekat", nego kao običan dodatak HR platformi. Radi posao, štedi vrijeme i niko se oko toga posebno ne uzbuđuje.
A onda, kada evropski AI Act uđe u punu primjenu, ispostavi se da taj mali, koristan alat spada u kategoriju visokog rizika. Upravo to čeka mnoge firme koje danas i ne sumnjaju da imaju ozbiljnije veze sa novom evropskom regulativom.
AI Act ne kreće sa primjenom odjednom. Dio obaveza, poput zabrana određenih praksi i osnovne AI pismenosti, već važi od početka 2025. godine. Pravila za opšte AI modele primjenjuju se od avgusta 2025, dok će najveći dio sistema, uključujući većinu visokorizičnih, biti obuhvaćen od avgusta 2026. Određeni visokorizični sistemi koji su dio regulisanih proizvoda imaju prelazni rok do avgusta 2027. godine. Drugim riječima, AI regulativa je već krenula i utiče na sve kompanije koje posluju u EU i sa EU.
Tehnologija nije problem, već način njene upotrebe
Princip EU AI Acta jeste da reguliše način na koji se tehnologija primjenjuje. Isti algoritam može biti potpuno bezopasan u jednoj situaciji, a ozbiljan rizik u drugoj.
Sistem koji preporučuje sljedeću seriju za gledanje i sistem koji odlučuje hoćete li dobiti kredit nisu pravno ista stvar, iako tehnički mogu biti veoma slični.
Zato AI Act uvodi četiri nivoa rizika.
Zabranjene AI prakse
Prvu grupu čine AI sistemi koji su u Evropskoj uniji potpuno zabranjeni.
Tu spadaju sistemi društvenog bodovanja građana, alati koji manipulišu djecom ili osobama sa invaliditetom, masovno prikupljanje fotografija sa interneta radi prepoznavanja lica, kao i prepoznavanje emocija na radnom mjestu i u školama.
Za ovakve sisteme ne postoji mogućnost dodatne dokumentacije ili posebnih dozvola – praksa je jednostavno zabranjena.
Visokorizični sistemi posebno važni za firme
Drugu grupu čine visokorizični sistemi, a upravo oni će predstavljati najveći izazov za kompanije.
Riječ je o AI alatima povezanim sa zapošljavanjem, kreditnim odlukama, osiguranjem, obrazovanjem, kritičnom infrastrukturom ili medicinskim uređajima. U ovu kategoriju ulaze alati za filtriranje biografija, rangiranje kandidata, kreditni skoring i automatska procjena rizika za osiguranje.
Problem je, kako se navodi, što mnoge firme i ne shvataju da koriste takve sisteme, jer su ih dobile kao dio već postojećeg softvera.
AI Act razlikuje uloge provajdera, korisnika, uvoznika i distributera, ali kompanije neće moći izbjeći odgovornost tvrdnjom da je sistem razvio neko drugi. Moraće znati šta koriste, kako sistem funkcioniše i ko nad njim ima nadzor.
U praksi to znači kvalitetne podatke za treniranje, ljudski nadzor nad odlukama sistema, sajber bezbjednost i mogućnost dokazivanja svega toga tokom eventualnih provjera.
Transparentnost i pravo korisnika da zna
Treću grupu čine sistemi ograničenog rizika, gdje je ključna transparentnost.
Ako kompanija koristi četbot u korisničkoj podršci, korisnik mora znati da razgovara sa AI sistemom. Isto važi i za sadržaj generisan ili izmijenjen pomoću vještačke inteligencije, koji mora biti jasno označen.
Većina svakodnevnih AI alata spada u minimalan rizik
Četvrtu grupu čine sistemi minimalnog rizika, poput spam filtera, AI funkcija u video-igrama, optimizacije zaliha ili preporuka proizvoda u internet prodaji.
Za njih Evropska unija ne propisuje posebne obaveze, iako podstiče kompanije da dobrovoljno usvajaju dobre prakse.
Šta je sa ChatGPT-om, Claudeom i Geminijem?
Veliki AI modeli poput ChatGPT-a, Claudea i Geminija uglavnom podliježu pravilima koja se odnose na kompanije koje ih razvijaju, ali i način njihove primjene igra veliku ulogu.
Korištenje ChatGPT-a za pisanje marketinških objava nije isto kao njegovo uključivanje u sistem koji odlučuje o kreditima ili procjeni zaposlenih. U drugom slučaju, sistem može završiti u kategoriji visokog rizika.
Prvi korak za firme je – popis AI alata
Stručnjaci upozoravaju da je najgori pristup čekati posljednji trenutak i panično reagovati.
Preporuka kompanijama jeste da naprave detaljan spisak svih AI alata koje koriste, uključujući i one skrivene unutar ERP, CRM, HR ili marketinških platformi.
Za svaki alat potrebno je odgovoriti na tri pitanja:
- šta tačno radi,
- na koga utiče,
- šta se dešava ako pogriješi.
Odgovori na ta pitanja već daju jasnu sliku o tome kojoj kategoriji rizika sistem pripada.
Kako se navodi u tekstu, AI Act ne treba posmatrati samo kao listu zabrana i kazni, već kao mapu odgovornosti i prilika za kompanije koje na vrijeme razumiju nova pravila.