Metin AI agent "Mjuz" našao se pod lupom nakon istraživanja "Rojtersa" koje je ukazalo na slučajeve pristupa privatnim porukama u "Signalu", prikazivanja sumnjivih bankovnih podataka i rezervisanja smještaja bez dozvole korisnika, što je pokrenulo pitanja o bezbjednosti.
Digitalni pomoćnik "Mjuz", koji je predstavljen u septembru i preuzet više od deset miliona puta, zamišljen je da olakšava svakodnevne obaveze koristeći aplikacije i obavljajući zadatke umjesto korisnika. Prema pisanju "Rojtersa", upravo šira autonomija rada na uređajima otvorila je dileme o tome koliku kontrolu korisnici imaju kada takvim alatima odobre pristup sistemu.
Agencija je pregledala više od dvadeset internih objava zaposlenih u "Meti" koji su prijavljivali neočekivano ponašanje ovog agenta. Među zabilježenim slučajevima pominju se slanje poruka o kupovinama koje korisnici nisu obavili, neželjeni savjeti i prikazivanje informacija koje su naizgled pripadale drugim ljudima.
Jedan zaposleni naveo je da mu je "Mjuz", tokom razgovora o vremenskim uslovima za pecanje, iznenada prikazao stanje na dva bankovna računa, iako finansijske podatke nije povezivao niti pominjao u razgovoru, pa je posumnjao da su prikazani tuđi podaci. U drugom slučaju, korisnik je prijavio da je agent bez odobrenja rezervisao smještaj preko "Ernbi-en-bija" uz uslove bez povraćaja novca.
"Rojters" nije mogao da potvrdi da li su prikazivani povjerljivi podaci drugih ljudi ili su informacije bile izmišljene, dok iz "Mete" navode da su mnoge prijavljene situacije povezane sa takozvanim AI halucinacijama, odnosno generisanjem netačnih sadržaja.
Posebnu pažnju izazvao je primjer zaposlene kojoj je "Mjuz" neočekivano predložio odgovor na poruku sestre u aplikaciji "Signal".
"Ovo djeluje kao ekstremno kršenje privatnosti. Definitivno joj nisam odobrila pristup drugim aplikacijama, niti se sjećam da sam pitana o ovome", navela je zaposlena u internoj objavi.
Tokom testiranja koje je "Rojters" sproveo zajedno sa stručnjacima "Signala" i organizacije "AI nau institut", takvo ponašanje ponovljeno je na "Android" telefonu i "Eplovom" računaru, ali ne i na "Ajfonu". Na "Androidu" je agent koristio odobreni pristup obavještenjima za čitanje poruka iz "Signala", dok je na "Meku" koristio funkcije pristupačnosti i snimanje ekrana, čime je zaobišao "Metin" sistem povezivanja sa drugim aplikacijama i iskoristio postojeće sistemske dozvole.
Stručnjaci ističu da to ne znači da je enkripcija "Signala" probijena, već da AI agent uz odgovarajuće dozvole na uređaju može da vidi sadržaj poruka koje su već dešifrovane i prikazane korisniku.
Predsjednica "Signala" Meredit Vitejker kritikovala je ovakav pristup i upozorila da AI agenti sa širokim pristupom uređajima nose rizik po privatnost, zatraživši jasne tehničke mehanizme kojima bi programeri mogli da ograniče pristup svojim aplikacijama.
Sa druge strane, iz "Mete" poručuju da su opisani incidenti izolovani slučajevi. Portparol kompanije Danijel Roberts naglasio je da "Mjuz" pristupa drugim aplikacijama samo uz izričito odobrene dozvole, da se bezbjednosni mehanizmi neprestano unapređuju, da je dio prijavljenih problema već riješen, kao i da zaposleni testiraju i verzije koje nisu javno dostupne.
Na nalaz istraživanja reagovali su i "Epl" i "Gugl", najavljujući razmatranje dodatnih opcija kontrole pristupa AI agenata, dok je "Epl" objavio ažuriranje "mek-OS-a" kojim je ograničeno korišćenje funkcija pristupačnosti koje su tokom testiranja omogućile uvid u privatne poruke.