Istraživači su otkrili ozbiljan propust koji je hakerima omogućavao da kroz obična tekstualna obavještenja manipulišu Google Gemini asistentom i preuzmu kontrolu nad pametnim kućama i kamerama telefona.
Ako ste korisnik Android telefona, vjerovatno uopšte ne razmišljate o bezbjednosti kada vam na ekranu iskoči uobičajeno obavještenje, posebno ako ono izgleda kao obična SMS ili WhatsApp poruka .
Međutim, najnovije istraživanje sugeriše da ova svakodnevna obavještenja mogu da stvore daleko bizarniji bezbjednosni rizik od sumnjivih linkova koje ponekad primamo. U ovom slučaju, opasnu poruku uopšte ne morate da otvorite, dodirnete ili preuzmete. Dovoljno je samo da je primijeti Google Gemini.
Ovu ozbiljnu zabrinutost podigla je kompanija za sajber-bezbjednost SafeBreach Labs, koja je otkrila bezbjednosni propust u sistemu ubrizgavanja komandi, a koji direktno utiče na Google Gemini asistenta na Android uređajima.
Napad funkcioniše tako što napadači šalju skrivene instrukcije kroz obična tekstualna obavještenja. Kada Gemini automatski skenira pristigle poruke kako bi vam ponudio kontekstualne odgovore, on nesvjesno upija i maliciozne komande.
Stručnjaci su dokazali da ova tehnika omogućava hakerima da manipulišu odgovorima vještačke inteligencije, lažiraju poruke od povjerljivih kontakata, kontrolišu pametne kućne uređaje ili čak "otruju" dugoročnu memoriju samog Gemini sistema.
Šta su sve napadači mogli da urade
Kada bi Gemini jednom progutao "inficirano" obavještenje, istraživači su uspijevali da natjeraju AI asistenta da izvrši niz neovlašćenih zadataka bez ikakvog zvučnog ili vizuelnog upozorenja na telefonu korisnika.
SafeBreach je demonstrirao nekoliko izuzetno opasnih scenarija:
- Kontrola nad pametnom kućom: Nasilno pokretanje Google Home aplikacije kako bi se otključali pametni prozori, upalio bojler ili mijenjala temperatura.
- Tajno prisluškivanje: Komanda koja tjera telefon da se trenutno uključi u aktivni Zoom video-poziv, čime se uređaj pretvara u daljinsku špijunsku kameru.
- Trovanje memorije: Trajno mijenjanje sačuvanih informacija u memoriji asistenta, čime se osigurava da maliciozne komande ostanu aktivne danima kasnije u potpuno novim četovima.
- Lažno predstavljanje: Naredba sistemu da pogleda istoriju obavještenja, preuzme ime prvog stvarnog pošiljaoca (poput supružnika ili šefa) i isporuči lažnu, lokalizovanu poruku u njihovo ime.
Srećom, ovaj propust je već zakrpljen. SafeBreach je odmah privatno prijavio ovaj problem kompaniji Google, koja je u međuvremenu lansirala serversku nadogradnju i blokirala ovaj specifičan oblik manipulacije.
Nema dokaza da su stvarni hakeri ikada iskoristili ovu ranjivost na terenu.