Uprkos tužbama i žalbama, Meta je otišla korak dalje i odobrila novu seriju oglasa koji promovišu materijale sa seksualnim zlostavljanjem djece.
Kompanija Meta susrela se sa brojnim žalbama i tužbama zbog lažnih oglasa i oglasa neprimjerenog sadržaja, a posljednje u nizu je odobrenje plaćenih oglasa koji su sadržali slike seksualnog zlostavljanja djece generisane vještačkom inteligencijom.
Kako navodi BBC, Meta je u posljednjih deset mjeseci odobrila stotine takvih oglasa, a značajan dio njih prikazan je korisnicima u Indiji, otkriva novi izvještaj američkih aktivista.
BBC je prije izvjesnog vremena otkrio da Instagram u Indiji prikazuje plaćene oglase koji promovišu materijale sa seksualnim zlostavljanjem djece, nakon čega je indijska vlada naložila Meti da sa Instagrama ukloni sav problematičan sadržaj i oglase koji ga promovišu.
Novi nalazi
Organizacija Tech Transparency Project (TTP) iz Vašingtona bavila se istragom i objavila da je na Facebooku i Instagramu pronašla 332 oglasa sa spornim materijalom, a većina njih objavljena je tokom avgusta ove godine.
U izvještaju se navodi da je identifikovano i nekoliko fotografija stvarne djece, uključujući člana jedne evropske kraljevske porodice, a te fotografije su kasnije korištene u oglasima i zatim manipulisane vještačkom inteligencijom.
Otprilike četvrtina pronađenih oglasa prikazana je u Indiji, a veći dio njih je objavljen nakon što je indijska vlada izdala nalog za uklanjanje i održala sastanak sa visokim zvaničnicima Mete. Distribucija materijala sa seksualnim zlostavljanjem djece u Indiji je krivično djelo. Metina sopstvena pravila takođe propisuju da oglasi ne smiju sadržati materijale koji seksualno iskorišćavaju ili ugrožavaju djecu.
Metin odgovor
Nakon upita BBC-ja o novim nalazima, iz Mete su poručili: "Ne tolerišemo aplikacije za skidanje odjeće niti bilo koji oblik iskorišćavanja djece, bilo da je riječ o stvarnim osobama ili onima koje je generisala vještačka inteligencija. Ovi kriminalci stalno mijenjaju taktike kako bi izbjegli otkrivanje i zato neprestano jačamo naše sisteme detekcije i sprovođenja pravila".
U novom odgovoru Meta se branila i time da su mnogi prijavljeni oglasi već bili uklonjeni.
"Izgradili smo snažne odbrambene mehanizme, uključujući sisteme koji blokiraju sporne oglase, kao i stalni nadzor u slučaju da nam nešto promakne. Zato su mnogi prijavljeni oglasi već bili uklonjeni, većina je imala manje od 200 prikaza, a ukupni trošak oglašavanja bio je manji od 5000 dolara".
Propusti u sistemu odobravanja
Oglasi na Metinim platformama objavljuju se tek nakon odobrenja, a TTP navodi da gotovo svi pronađeni oglasi počinju fotografijom djeteta, a tokom reprodukcije videa vještačka inteligencija manipuliše slikom kako bi prikazala eksplicitne seksualne radnje. TTP je čak opisao oglas prikazan u Indiji, gdje je fotografija djevojčice animirana tako da izvodi eksplicitan seksualni čin, dok glas govori: "Nema ograničenja. Svi likovi su stvarni ljudi i postoji mnogo opcija. Ovo je AI koji muškarci zapravo koriste".
Trag vodi do Kine i Telegrama
Većina od 332 oglasa usmjeravala je korisnike na aplikacije za generisanje AI slika, uglavnom kineskih programera, a oglasi koje je BBC pronašao u svojoj istrazi usmjeravali su korisnike i na aplikaciju Telegram, gdje su materijale mogli kupiti za oko jedan dolar. Iz Telegrama su tada odgovorili da koriste automatizovanu i ljudsku moderaciju te da su "praktično eliminisali javno širenje" takvog sadržaja.
TTP navodi da su se novi oglasi nastavili pojavljivati i nakon što su Metu obavijestili o svojim nalazima. Kao dokaz su podijelili detalje o 17 oglasa, od kojih je 11 prikazano u Indiji 1. i 2. septembra.
(EUpravo zato/Index)