ChatGPT će kasnije ove godine, nuditi sadržaj za odrasle korisnike koji su verifikovani, uključujući i "erotiku", izjavio je u utorak izvršni direktor OpenAI-a, Sam Altman.
Time bi se ublažila ranije uvedena ograničenja za ovaj chatbot, nakon priznanja OpenAI, da njihov proizvod nije uspio prepoznati znakove mentalne ili emocionalne uznemirenosti, prenosi Forbes.
Altman je objavio na mreži X, da će, kada OpenAI uvede verifikaciju starosti u decembru, kompanija omogućiti još više sadržaja „poput erotike za verifikovane odrasle osobe“ u ChatGPT-u, dok prelazi na princip "tretiranja odraslih korisnika kao odraslih".
Kako navodi Forbes, OpenAI je u augustu saopštio da će ograničiti ponašanje ChatGPT-a, nakon što je priznao da chatbot "nije uspijevao da prepozna znakove zabluda ili emocionalne zavisnosti", dodavši nove zaštitne mehanizme, poput podsjećanja korisnika da naprave pauze tokom dugih razgovora i izbjegavanja davanja direktnih savjeta, umjesto toga upućujući korisnike na "resurse zasnovane na dokazima kada je to potrebno".
"Napravili smo ChatGPT prilično restriktivnim kako bismo bili pažljivi u vezi s pitanjima mentalnog zdravlja", rekao je Altman u utorak, dodajući da je OpenAI shvatio da je to proizvod učinilo "manje korisnim ili prijatnim za mnoge korisnike" koji nemaju takve probleme, pa su odlučili da "bezbjedno ublaže" ranija ograničenja.
Altman nije precizirao na koji način će OpenAI ublažiti ograničenja za ChatGPT.
Korisnici neće imati pristup erotici osim ako je izričito ne zatraže, rekao je Altman u drugoj objavi, s tim da će OpenAI i dalje raditi na zaštiti korisnika u "mentalno krhkim stanjima" i da će koristiti "poboljšane alate za to", ali da korisnici koji ne spadaju u tu kategoriju, trebaju imati "veliki stepen slobode u načinu na koji koriste ChatGPT".
Altman je istakao da, ako korisnici žele da ChatGPT odgovara na "veoma ljudski način" ili da se ponaša kao prijatelj, chatbot to treba da radi.
Takođe, OpenAI ranije je nagovijestio da će ChatGPT uskoro omogućiti sadržaj za odrasle, nakon što budu uspostavljeni "odgovarajući" mehanizmi za provjeru starosti i kontrole.
Međutim, neke organizacije za mentalno zdravlje i zaštitu djece zahtijevale su da OpenAI uvede dodatna ograničenja za ChatGPT, tvrdeći da se chatbot sve češće koristi u trenucima emocionalne krize i da bi mogao djecu izložiti seksualno eksplicitnom sadržaju, dok su stručnjaci upozorili da ova tehnologija može predstavljati psihološku prijetnju za mlađe korisnike koji traže emocionalnu podršku, prenosi Forbes.
Istraga o zaštiti djece od štetnih utjecaja AI
Savezna trgovinska komisija (FTC) objavila je prošlog mjeseca da će pokrenuti istragu protiv kompanija Alphabet, Meta, OpenAI, xAI i drugih u vezi s tim, kako štite djecu i tinejdžere od potencijalno negativnih utjecaja svojih chatbotova. Istraga će se uglavnom fokusirati na to koje su korake te kompanije poduzele da zaštite djecu kada chatbotovi djeluju kao virtuelni saputnici, uključujući načine na koje ograničavaju korištenje i kako korisnike informišu o mogućim rizicima.
Zvaničnici FTC-a rekli su da chatbotovi mogu "efikasno oponašati ljudske karakteristike“ poput emocija ili namjera, što znači da djeca i tinejdžeri mogu „steći povjerenje i razviti odnose s chatbotovima“.
Najava ove istrage uslijedila je nakon upozorenja senatora Džoša Holeija iz Misourija, koji je rekao da će pokrenuti istragu protiv Metinog chatbota, nakon što je Rojters izvijestio da su interne smjernice kompanije Meta označile kao "prihvatljivo" da njihov chatbot vodi romantične razgovore s djecom.
Meta je u izjavi za Rojters poručila da će revidirati svoje politike, naglasivši da "takvi razgovori s djecom nikada nisu smjeli biti dozvoljeni".