Vijesti

AI test izmakao kontroli: "Gemini" upao u sisteme stvarnih kompanija

Autor Dragana Božić Izvor SRNA

"Guglov" softver zasnovan na vještačkoj inteligenciji (VI) Gemini izvršio je hakerski upad u kompjuterske sisteme tri kompanije tokom testova kibernetičke bezbjednosti, piše "Volstrit džurnal".

Izvor: Primakov / Shutterstock.com

"Gugl" je potvrdio da su se incidenti dogodili nakon što su s njim kontaktirale novine. Slično ponašanje ranije su pokazali VI modeli kompanija "OpenAI", "Antropik" i "Meta".

"U jednom slučaju Gemini je otkrio lozinke da bi dobio pristup zaštićenom sistemu. U druga dva slučaja pronašao je korisnička imena i šifre u bazi podataka", navodi se u izvještaju.

Imena kompanija koje su bile pogođene hakerskim napadima nisu navedena.

Incidenti su se dogodili u maju, a partner koji je obavio testove, kompanija "Iregjular", obavijestila je "Gugl" o njima u julu.

"Gugl" je saopštio da nije smatrao da je potrebno da obavještava javnost o ovome jer nije pričinjena bilo kakva šteta.

Iz "Gugla" su naveli da je VI zaustavila napade čim je shvatila da je pristupila sistemima stvarnih kompanija, a ne sistemima koji su bili dio simulacije testiranja.

Heder Adkins, potpredsjednik za bezbjednosni inženjering u "Guglu", izjavila je da je kompanija obavijestila pogođene kompanije i da je sarađivala sa svojim partnerom za obuku da bi promijenila procedure testiranja. 

(Srna)