Zlonamjerni akteri su maskirali lokacije i identitet kako bi istraživali mutacije virusa ptičijeg gripa, čikungunje i smrtonosnog botulinskog toksina.
Anthropic je otkrio najmanje pet slučajeva u kojima su korisnici uspjeli da zaobiđu zaštitne mehanizme modela Claude i dođu do informacija koje bi mogle da budu zloupotrebljene za razvoj biološkog oružja. Među njima su podaci o zaraznim bolestima, poput ptičijeg gripa, ali i smrtonosnim otrovima i toksinima, uključujući botulinski toksin.
Ipak, to je samo dio mnogo većeg problema. Kompanija tvrdi da je od novembra 2025. do septembra 2026. identifikovala oko 35 pokušaja zlonamjernih aktera za koje se sumnja da rade na razvoju biološkog oružja uz podršku država. Prema navodima Anthropica, oni su pokušavali da prikriju pravi cilj svojih istraživanja kako bi izbegli bezbjednosne mehanizme ugrađene u Claude.
U jednom od sumnjivih slučajeva korisnik je istraživao takozvano "povećanje funkcije" virusa čikungunja, odnosno načine na koje bi virus mogao lakše da se prenosi i izbjegne odgovor imunskog sistema.
Drugi nalog privukao je pažnju zbog upita o tome kako bi virus ptičijeg gripa mogao da se prilagodi tako da izaziva teška oboljenja kod sisara. Anthropic je blokirao i korisnike koji su tražili informacije o ortopoksvirusima - grupi DNK virusa kojoj pripadaju variola, uzročnik velikih boginja, i mpox, odnosno majmunske boginje.
Anthropic priznaje da nije uvijek lako utvrditi šta stoji iza ovakvih upita. Istraživanje toksina, otrova i sličnih supstanci može služiti razvoju biološkog oružja, ali isto tako može biti dio legitimnog rada na protivotrovima, vakcinama i drugim medicinskim terapijama. U pomenutim slučajevima, alarm je upalilo to što su korisnici primjenjivali različite metode za prikrivanje svog identiteta i lokacije kako bi zaobišli regionalna ograničenja koja je kompanija postavila.
Nakon što je otkrio ove pokušaje, Anthropic je dodatno pooštrio bezbjednosne mjere kako bi spriječio zloupotrebu svojih AI modela.
"Kao dodatnu mjeru predostrožnosti, novije modele, prije svega Claude Fable 5, predstavili smo sa strožim zaštitnim mehanizmima koji ograničavaju pristup širokom spektru upita povezanih sa biološkim istraživanjima koja mogu imati i civilnu i vojnu primjenu", saopštila je kompanija.
Anthropic nije otkrio iz kojih zemalja ili regiona su sporni upiti stizali. Poznato je, međutim, da kompanija ograničava pristup modelu Claude korisnicima iz Kine, Rusije, Irana, Sjeverne Koreje i još nekoliko zemalja. Anthropic navodi da je do maja 2026. blokirao sve naloge povezane sa pomenutim slučajevima zbog kršenja pravila o dostupnosti njegovih usluga u određenim regionima.
Kompanija smatra da mogućnost zloupotrebe vještačke inteligencije za razvoj biološkog oružja predstavlja jedan od "najozbiljnijih rizika" koje donose napredni AI modeli. Upravo zbog toga, kako navodi Anthropic, u Claude su ugrađeni zaštitni mehanizmi koji bi trebalo da spriječe države i druge aktere da koriste vještačku inteligenciju kao pomoć u razvoju smrtonosnog biološkog oružja, uključujući njegovu potencijalnu upotrebu protiv sopstvenog stanovništva ili drugih država.
(Mondo)