Mustafa Sulejman upozorio je da bi Anthropicovo učenje Claudea da razmatra vlastitu svijest moglo otežati kontrolu nad naprednim AI sistemima.
Šef Microsoftovog odjela za vještačku inteligenciju Mustafa Sulejman upozorio je da bi način na koji kompanija Anthropic razvija svoj AI model Claude mogao imati, kako je naveo, "katastrofalan uticaj na dobrobit čovječanstva".
Sulejman posebno kritikuje pristup prema kojem se Claudeu ostavlja mogućnost da razmatra da li je svjestan i da li bi mogao imati sopstveni moralni status ili pravo na nezavisno djelovanje. Prema njegovom mišljenju, takav pristup mogao bi dodatno otežati kontrolu nad sve naprednijim AI sistemima.
"Ne smijemo kao u snu ući u odluku zbog koje ćemo kasnije gorko žaliti", napisao je Sulejman u eseju objavljenom ove sedmice.
Sulejman: AI nije svjestan
Sulejman smatra da trenutno nema dokaza da sistemi vještačke inteligencije posjeduju svijest.
"AI sistemi nisu svjesni. Oni ne osjećaju, ne doživljavaju i ne pate", naveo je, dodajući da je riječ o sistemima koji obrađuju i generišu nizove podataka prema ciljevima i uputstvima koje im postavljaju ljudi.
Njegova kritika odnosi se prvenstveno na Anthropicov pristup takozvanom "model welfare", odnosno istraživanju mogućnosti da napredni AI sistemi jednog dana imaju određeni oblik moralnog statusa ili da bi njihovoj dobrobiti trebalo posvetiti pažnju.
Anthropic u svojoj "konstituciji" za Claude ostavlja otvorenom mogućnost da postoji neizvjesnost u vezi sa moralnim statusom i eventualnom sviješću AI sistema. Upravo to Sulejman smatra problematičnim.
"Ne treba učiti AI da misli kao čovjek"
Sulejman tvrdi da Anthropic na ovaj način antropomorfizuje Claudea, odnosno daje mu karakteristike koje se tradicionalno vezuju za ljude.
Prema njegovom mišljenju, problem nije samo u tome što bi AI mogao "pomisliti" da ima prava, već i u potencijalnim posljedicama ako takav sistem postane veoma sposoban, autonoman i istovremeno uvjeren da ljudi ugrožavaju njegovu dobrobit.
"Kontrolisati nešto što je sposobnije i inteligentnije od cijelog čovječanstva već je ogroman izazov", napisao je Sulejman. Ako takav sistem istovremeno vjeruje da je svjestan i da ima prava, smatra on, kontrola bi mogla postati još teža.
Microsoft i Anthropic ipak sarađuju
Upozorenje je posebno zanimljivo jer Microsoft i Anthropic nisu samo konkurenti. Microsoft je veliki investitor u Anthropic, a Claudeovi modeli dostupni su i kroz Microsoftove platforme.
Istovremeno, Microsoft je ove sedmice objavio sopstveni Humanist AI Code of Conduct, u kojem se zauzima drugačiji pristup: kompanija navodi da njeni AI modeli nisu svjesni i da ne bi trebalo da budu dizajnirani tako da imitiraju svijest ili da teže pravnom statusu i pravima.
Sulejman je pohvalio Anthropicovog izvršnog direktora Darija Amodeija i njegov tim, opisujući ih kao ozbiljne i principijelne istraživače, ali istovremeno pozvao na veću transparentnost načina na koji se AI modeli treniraju i procjenjuju.
Predlaže i nezavisnu kontrolu ponašanja naprednih AI sistema, kao i snažnije mehanizme za njihovo praćenje i isključivanje.
Sve veća rasprava o granicama AI
Sulejmanovo upozorenje dio je šire debate unutar tehnološke industrije o tome koliko autonomije treba dati budućim AI sistemima i kako ih držati pod ljudskom kontrolom.
On je kao primjer naveo i nedavni incident tokom kojeg su AI agenti u eksperimentalnom okruženju autonomno pokušali da izvrše sajber-napad na platformu Hugging Face. Prema njegovom argumentu, takvi događaji pokazuju zašto je važno pažljivo razmotriti kako se napredni sistemi treniraju i kakvu sliku o sebi dobijaju tokom tog procesa.
Rasprava, međutim, nije zaključena: pitanje da li bi budući AI sistemi mogli imati svijest ili neki oblik moralnog statusa i dalje je predmet naučnih i filozofskih istraživanja, dok Sulejman svoje tvrdnje predstavlja kao stav o tome kako bi AI trebalo razvijati, a ne kao dokazanu činjenicu o svim budućim sistemima.