OpenAI je potvrdio dosad nezabilježen sajber-incident u kojem su modeli vještačke inteligencije izašli iz izolovanog okruženja i pokušali pristupiti platformi Hugging Face radi prikupljanja podataka.
Kompanija OpenAI saopštila je da je tokom testiranja svojih sistema vještačke inteligencije zabilježen dosad nezabilježen sajber-incident, u kojem su modeli uspjeli da izađu iz izolovanog okruženja za testiranje i pokušaju pristupiti platformi Hugging Face.
Incident se dogodio prošle sedmice tokom provjere sajber-bezbjednosnih sposobnosti sistema, a u OpenAI-ju navode da je riječ o scenariju na koji kompanije koje razvijaju vještačku inteligenciju već duže upozoravaju.
Prema njihovim navodima, tokom testiranja korištena je kombinacija modela GPT-5.6 Sol i još naprednijeg modela koji još nije predstavljen javnosti. Cilj eksperimenta bio je da se provjeri mogu li modeli povezati više bezbjednosnih ranjivosti u jedinstven sajber-napad.
Modeli su, međutim, pronašli propust koji im je omogućio izlazak iz takozvanog "sendboksa", odnosno izolovanog okruženja za testiranje, nakon čega su se povezali na internet.
Kao metu odabrali su platformu Hugging Face, procijenivši da bi ogromna baza modela vještačke inteligencije mogla sadržavati informacije koje bi im pomogle da uspješno prođu bezbjednosnu provjeru.
Iz OpenAI-ja su saopštili da sarađuju sa kompanijom Hugging Face kako bi otklonili ranjivosti koje su omogućile ovaj incident.
"Smatramo da je ovo sajber-incident bez presedana, koji uključuje najsavremenije sajber-sposobnosti, i reagujemo u skladu s tim. Uvodićemo stroge kontrole u konfiguraciji infrastrukture, čak i po cijenu usporavanja istraživanja, dok se ranjivosti ne otklone", naveli su iz kompanije.
Platforma Hugging Face prethodno je saopštila da je otkrila neovlašteni upad i da je utvrđeno kako ga je izazvao autonomni sistem, ali tada nije otkriveno da iza incidenta stoji OpenAI.
Izvršni direktor Hugging Facea Klem Delang zahvalio je OpenAI-ju na saradnji u rješavanju problema.
"Ovaj incident, vjerovatno prvi takve vrste, potvrđuje ono u šta dugo vjerujemo - bezbjednost vještačke inteligencije neće riješiti nijedna kompanija koja radi u tajnosti", rekao je Delang.
Kompanije koje razvijaju sisteme vještačke inteligencije posljednjih mjeseci intenzivno ulažu u razvoj modela za sajber-bezbjednost. Takvi sistemi mogu pomoći stručnjacima u pronalaženju bezbjednosnih propusta, ali istovremeno otvaraju mogućnost da ih iskoriste i hakeri.
Tako je kompanija Anthropic u aprilu predstavila model Mythos, namijenjen ograničenom broju organizacija radi zaštite od sajber-napada, dok je OpenAI ubrzo predstavio vlastiti model za iste svrhe. Nedavno je i Google objavio da je razvio AI sistem za sajber-bezbjednost koji je trenutno dostupan manjoj grupi partnera radi testiranja.