Brojne velike međunarodne organizacije, među kojima su Amnesti internešenel i Evropska komisija, zalažu se za zabranu alata vještačke inteligencije koji omogućavaju takozvano "razgolićavanje" osoba na fotografijama.
Više od 100 humanitarnih organizacija i organizacija za zaštitu djece pozvalo je na hitnu akciju protiv aplikacija i alata zasnovanih na vještačkoj inteligenciji koji služe za "razgolićavanje", upozoravajući na ozbiljne posljedice po bezbjednost i ljudska prava. U toj koaliciji nalaze se i Amnesti internešenel, Evropska komisija, Interpol, organizacija Safe Online, Save the Children, kao i brojni stručnjaci za zaštitu djece i zagovornici ljudskih prava.
Ova inicijativa pokrenuta je nakon burnih reakcija povodom takozvanog "Grok" skandala, kada su korisnici AI čatbota kompanije Ilona Maska tražili da sa fotografija žena ukloni odjeću. Sve je počelo trendom "obuci je u bikini", kojim su fotografije mijenjane tako da žene na njima izgledaju kao da nose kupaći kostim, ali je vrlo brzo došlo do stvaranja sve eksplicitnijih i seksualizovanijih sadržaja.
Takve lažne i neautorizovane slike potom su masovno dijeljene na društvenoj mreži X, gdje su bile dostupne milionima korisnika. Procjene govore da je Grok do sada generisao oko tri miliona neautorizovanih eksplicitnih slika.
U sve većem broju slučajeva, sadržaji nastali uz pomoć AI alata za nudifikaciju povezuju se sa ucjenama, prinudom i materijalima seksualnog zlostavljanja djece, pri čemu su žrtve najčešće žene i djeca.
Ozbiljna prijetnja bezbjednosti djece i ljudskom dostojanstvu
Globalna koalicija upozorava da ovakve aplikacije i alati predstavljaju ozbiljnu i neprihvatljivu prijetnju bezbjednosti djece i ljudskom dostojanstvu.
"Alati za razgolićavanje stvorili su do sada neviđenu prijetnju našoj djeci. Vještačka inteligencija, tehnologija koja bi trebalo da proširi ljudske mogućnosti, pretvorena je u oružje protiv dece", izjavila je Marija Manojlović, direktorka organizacije Safe Online.
"Štetu umanjujemo time što je nazivamo ‘onlajn’, kao da je manje ozbiljna od onoga što se dešava u stvarnom svijetu, ali trauma je stvarna", dodala je ona.
Iako se ove aplikacije često predstavljaju kao namijenjene odraslima, sve češće se koriste za stvaranje nezakonitih seksualnih sadržaja koji uključuju djecu, bez ikakvog pristanka, efikasnih zaštitnih mehanizama ili odgovornosti.
"Tehnološke kompanije imaju mogućnost da prepoznaju i blokiraju razgolićeni sadržaj koji uključuje djecu. Distribucija materijala seksualnog zlostavljanja djece je nezakonita u svim pravnim sistemima i digitalne platforme moraju biti usklađene sa pravilima koja važe i za druge kanale proizvodnje i distribucije", naglasila je Manojlović.
"Iskreno je šokantno da se ove platforme monetizuju, a da nemaju obavezu da prijavljuju počinioce ili sarađuju sa industrijskim partnerima kako bi se prekinuli tokovi plaćanja. To su mehanizmi zaštite koji postoje u stvarnom svijetu i moraju se primjenjivati i na internet", dodala je ona.
Pritisak da se AI tehnologije za nudifikaciju zabrane sve je veći, a zagovornici zabrane ističu da one nemaju nikakvu društveno korisnu svrhu. Zbog toga koalicija zahtijeva da se ovakvi alati blokiraju, kao i da se njihovi kreatori i platforme koje ih distribuiraju pozovu na odgovornost.
(EUpravo zato/Euronews)