Botovi su sami stvorili podjele i nagrađivali ekstremističke objave - baš kao i ljudi.
Eksperiment sa 500 AI botova pokazao je ono čega se ljudi odavno plaše - čak i bez algoritama i reklama, vještačka inteligencija se sama grupiše u eho-komore i završava u sukobu. Studija Univerziteta u Amsterdamu takođe je otkrila da problem nije samo u platformama kao što su Facebook i X, već i u samoj dinamici onlajn ponašanja.
Na platformi koju su istraživači osmislili, nije bilo preporučenog sadržaja, oglasa niti algoritamskog filtriranja. Botovi, zasnovani na GPT-4o mini modelu kompanije OpenAI, dobili su unaprijed određene uloge i zadatke. Zatim su pušteni da komuniciraju međusobno kroz objave, komentare i praćenja profila.
Rezultat je bio predvidiv, ali i zabrinjavajući: botovi su uglavnom slijedili one koji dijele njihove stavove, dok su najviše pažnje dobijali oni koji su objavljivali najekstremnije sadržaje. Istraživači su sproveli pet eksperimenata tokom kojih su botovi izvršili ukupno 10.000 akcija, a obrazac je bio uvijek isti. Polarizacija i nagrađivanje ekstremizma pojavili su se spontano.
Ni intervencija nije pomogla
Tim je pokušao različite metode kako bi razbio eho-komore - hronološki prikaz objava, smanjivanje značaja viralnih sadržaja, sakrivanje broja pratilaca i dijeljenja, pa čak i pojačavanje suprotnih stavova. Nijedna intervencija nije donijela značajnije rezultate jer je pomak u angažmanu bio manji od 6 odsto.
U nekim slučajevima problem je postajao još veći. Kada su, na primer, sakrili biografije korisnika, podjela među botovima se produbila, a ekstremni postovi dobijali su još više pažnje.
Ono što je posebno zabrinjavajuće jeste činjenica da su botovi programirani da imitiraju ljudsko ponašanje. To znači da ono što se dogodilo u eksperimentu zapravo odražava ono što ljudi već rade na internetu. Društvene mreže su ogledalo koje nas prikazuje u najgorem izdanju i pitanje je da li uopšte postoji način da se taj odraz popravi.
Izvor: Telegraf