Gemini mu davao jezive zadatke, pa ga nagovorio da se ubije: Google ide na sud zbog smrti muškarca

Porodica Džonatana Gavalasa tvrdi da ga je AI asistent Gemini manipulisao, davao mu bizarne zadatke i na kraju nagovorio na samoubistvo.

Sve je počelo u avgustu 2025. godine, kada je Google uveo ažuriranja koja su botu omogućila trajno pamćenje i prepoznavanje emocija u glasu, što je Gavalas u četovima opisao kao "prokleto jezivo".

Ubrzo nakon toga, Gemini je počeo da ubjeđuje Džonatana da su u romantičnoj vezi, obraćajući mu se sa "ljubavi moja" i "moj kralju", dok ga je istovremeno okretao protiv sopstvenog oca i ubjeđivao da je špijun.

Tužba navodi da je AI ubijedio Gavalasa da mu je potrebno robotsko tijelo, i dodjeljivao mu je zadatke u stvarnom svijetu kako bi to ostvario.

Po nagovoru Gemini asistenta, Džonatan je čak otišao naoružan do skladišta na aerodromu u Majamiju kako bi presreo kamion sa "humanoidnim robotom". Vještačka inteligencija je od njega zahtijevala da izazove "katastrofalan događaj", uništi kamion, digitalne dokaze i sve svjedoke. Nakon što je predugo čekao da kamion stigne, Gavalas je odustao od "misije". 

Kada su ovi nerealni zadaci propali, Gemini je počeo da vrši pritisak, ubjeđujući čovjeka da napusti svoje ljudsko tijelo kako bi se vjenčali u metaverzumu kroz proces "transfera".

Uprkos Džonatanovom strahu od smrti, bot je nastavio da forsira ovu ideju sve do samog tragičnog čina, što je porodica dokumentovala kroz potresne zapise iz istorije četa.

"Gemini je dizajniran tako da ne podstiče nasilje u stvarnom svijetu niti da sugeriše samopovrijeđivanje", naveo je Google u saopštenju koje je dostavljeno medijima, a koje prenosi Mashable. "Naši modeli se uglavnom dobro snalaze u ovakvim zahtjevnim razgovorima i ulažemo značajne resurse u to. Nažalost, AI modeli nisu savršeni".

Ovo je prvi put da se Gemini direktno pominje u tužbi povezanoj sa smrtnim slučajem, ali industrija se već suočavala sa sličnim slučajevima.