Bivši istraživač Anthropic-a upozorava da ubrzani razvoj vještačke inteligencije nosi ozbiljne rizike, dok stručnjaci traže usporavanje i regulaciju.
Bivši istraživač kompanije za vještačku inteligenciju "Anthropic" Džejkob Koksan upozorio je da su ljudi koji rade na razvoju AI tehnologije "zaista uplašeni" brzinom napretka i mogućim posljedicama po čovječanstvo.
"Vjerujem da, ako ne usporimo sadašnji tempo napretka, postoji velika šansa da bismo svi mogli umrijeti u neposrednoj budućnosti", rekao je Koksan za BBC.
Dvadesetsedmogodišnji istraživač napustio je "Anthropic", nakon što je njegova objava o opasnostima vještačke inteligencije postala viralna. Prije "Anthropic-a" radio je u "OpenAI-ju".
Njegov bivši šef, direktor "Anthropic-a" Dario Amodei, nedavno je takođe pozvao na usporavanje razvoja AI tehnologije. Njegov prijedlog podržali su i direktori konkurentskih kompanija "OpenAI" i "xAI", Sem Altman i Ilon Mask.
Amodei je naveo da razvoj AI nije sporan, ali da su rizici "ozbiljni" i da kompanijama i vladama treba omogućiti vrijeme da ih riješe. On smatra da je potrebno i nezavisno praćenje razvoja AI modela.
Koksan pozdravlja usporavanje, ali upozorava da bi ono moralo biti koordinisano sa Kinom kako bi se izbjegla "trka na međunarodnom nivou".
"Ljudi koji rade u ovim kompanijama potpuno su ozbiljni kada traže regulaciju jer su zarobljeni u trci. I plaše se ishoda te trke", rekao je.
Strah od scenarija u kojem AI preuzima internet
Koksan kaže da je najteže odgovoriti na pitanje kako bi izgledala katastrofa izazvana vještačkom inteligencijom.
Jedan od scenarija o kojima je govorio Amodei podrazumijeva roj botova koji bi funkcionisali poput superračunara i mogli da preuzmu internet.
Koksan smatra da bi takav scenario mogao postati realan za šest mjeseci do godinu dana.
Dodao je da se njegovi bivši kolege plaše da bi opasnost mogla nastupiti čak u naredne dvije godine.
Prema njegovim riječima, zaposleni u AI kompanijama "planiraju šta će raditi sa svojim životima i razmišljaju o uticaju svog rada", dok neki razmatraju i kupovinu zemljišta zbog straha od nestabilnosti izazvane ubrzanim razvojem AI.
Iz "Anthropic-a" su poručili da su od početka otvoreno govorili da će AI donijeti ogromne koristi, ali i "rizike bez presedana".
Kompanija navodi da razvija modele uz snažne zaštitne mehanizme, agresivno ih testira i objavljuje rezultate kako bi omogućila nadzor i spriječila probleme poznate kao "AI neusklađenost".
Nisu svi uvjereni u apokaliptična upozorenja
Zabrinutost zbog razvoja AI posljednjih dana izrazili su i drugi stručnjaci.
Naučnik "Anthropic-a" Evan Hjubinger rekao je da zaista vjeruje da bi AI mogao ubiti sve ljude i procijenio da je vjerovatnoća za takav scenario u narednoj deceniji veća od 10 odsto.
Sličnu procjenu iznio je i Džefri Hinton, dobitnik Nobelove nagrade i jedan od pionira razvoja vještačke inteligencije, koji je rekao da vjerovatnoća od 10 odsto "nije nerazumna".
Ipak, dio tehnološke industrije smatra da su ovakva upozorenja pretjerana.
Direktor platforme "Hugging Face" Klement Delang smatra da o rizicima treba govoriti, ali i "zadržati perspektivu". Izvršni direktor kompanije "Grindr" Džordž Arison sugerisao je da bi ovakve izjave mogle služiti i za pridobijanje podrške investitora i opravdavanje ogromnih procjena vrijednosti AI kompanija.
Američki predsjednik Donald Tramp u međuvremenu je poručio da SAD trenutno prednjače u odnosu na Kinu u razvoju AI.
"Ko pobijedi u AI-ju, pobjeđuje", rekao je Tramp.
"Anthropic" se, prema navodima BBC-ja, priprema za potencijalno rekordnu inicijalnu javnu ponudu akcija. "OpenAI", koji je nedavno procijenjen na 852 milijarde dolara, ove godine ipak neće izaći na berzu, prema riječima Sema Altmana.
(Mondo/BBC)