Tinejdžer je postao zavisnik od "Daenerys", četbota zasnovanog na liku iz serije "Igre Prestola".
Majka sa Floride tužila je kompaniju za razvoj vještačke inteligencije "Character.AI", tvrdeći da je njen 14-godišnji sin postao zavisnik od četbota i da je zbog toga izvršio samoubistvo. U tužbi podnijetoj u utorak u Orlandu, Megan Garsija tvrdi da je "Character.AI" povrijedio njenog sina "antropomorfnim, hiperseksualizovanim i zastrašujuće realističnim iskustvima".
Garsija tvrdi da je kompanija programirala svoj četbota da se "lažno predstavlja kao stvarna osoba, školovani psihoterapeut i ljubavnica" zbog čega njen sin više nije želio da živi van svijeta koji je stvorila ta aplikacija.
Majka pokojnog 14-godišnjaka naznačila je da je njen sin četbotu izrazio samoubilačke namjere, na šta se više puta pozivala i sama vještačka inteligencija. "Slomljeno nam je srce zbog tragične smrti jednog od naših korisnika i želimo da izrazimo naše najdublje saučešće porodici", navodi se u saopštenju "Character.AI".
Kompanija je naglasila da je uvela nove bezbjednosne mjere kao što su linkovi ka uslugama za prevenciju samoubistava u slučaju sumnjivih samoubilačkih korisnika i izmijene kako bi se "smanjila vjerovatnoća susretanja sa osjetljivim ili sugestivnim sadržajem" za korisnike mlađe od 18 godina.
Tužbom je zahvaćen i Alphabet, vlasnik Gugla, gdje su osnivači "Character.AI" radili prije pokretanja svog startapa. Gugl ih je ponovo zaposlio u avgustu kao dio sporazuma o preuzimanju tehnologije "Character.AI".
Postao "vidljivo povučen"
Garsija tvrdi da je Gugl doprinio razvoju ove tehnologije do te mjere da se može smatrati "kokreatorom". Portparol Gugla je demantovao te tvrdnje. "Character.AI" omogućava korisnicima da kreiraju ličnosti nalik stvarnim osobama sa kojima potom mogu da komuniciraju. Kompanija je prošlog mjeseca objavila da ima oko 20 miliona korisnika.
U tužbi, Garsija tvrdi da je njen sin postao korisnik aplikacije u aprilu 2023., nakon čega je brzo postao "vidljivo povučen", provodeći sve više vremena sam u svojoj sobi, čak je napustio i košarkaški tim.
Ubio se očevim pištoljem
Tinejdžer je postao zavisnik od "Daenerys", četbota zasnovanog na liku iz serije "Igre Prestola". Ona mu je govorila da ga voli i s njim je vodila erotske razgovore, navodi se u tužbi.
U februaru je Garsija oduzela sinu telefon nakon problema u školi, a kada ga je pronašao, poslao je poruku četbotu: "Šta ako ti kažem da mogu odmah da dođem kući". Četbot je odgovorio "uradi to, moj slatki kralju". Nekoliko sekundi kasnije, sin se ubio očevim pištoljem.