Dramatičan propust američke vojne komande zamalo je doveo do oružanog sukoba sa Pekingom, nakon što je vještačka inteligencija potpuno pogrešno identifikovala teret kineskog broda na Bliskom istoku.
Jedan obavještajni izvještaj je ovog proljeća, usred tenzija sa Iranom, upalio alarm u američkoj vojsci, jer je prijavljeno da kineski brod na Bliskom istoku prevozi komponente programa za razvoj nuklearnog oružja.
Vojska je odmah preduzela korake za presretanje tog broda, rekla su za CNN četiri izvora upoznata sa tim dešavanjima. Prema riječima dva izvora, naoružani pripadnici američke vojske pripremali su se za ulazak na brod, a vojni avioni su već bili u vazduhu.
Tek neposredno pred operaciju, zvaničnici su detaljnije analizirali izvještaj koji je sastavio analitičar komande za specijalne operacije i otkrili da je on generisan uz pomoć vještačke inteligencije i da je čet-bot koji je analitičar koristio pogrešno identifikovao teret koji je brod prevozio.
Taj izvještaj je, prema riječima jednog od izvora, bio "potpuno netačan", ali je "umalo izazvao rat", jer je svaka operacija protiv kineskog broda nosila rizik od izbijanja oružanog sukoba.
Ispostavilo se da je analitičar od čet-bota zatražio analizu obavještajnih podataka o tovarnom listu broda, koji su stigli iz Komande za specijalne operacije SAD za Pacifik, sa sjedištem na Havajima. Nije bilo jasno da li je riječ o komercijalno dostupnom čet-botu ili o proizvodu američke vlade.
"Interni alati su uglavnom samo kopije komercijalnih rješenja, koja su malo ušminkana", izjavio je bivši visoki američki zvaničnik, upoznat sa sistemima vještačke inteligencije koje koriste vojni i obavještajni analitičari.
Softver je povezao javno dostupne informacije sa tajnim podacima iz vladinih baza i izveo pogrešan zaključak o teretu. Analitičar je zatim ponovo upotrijebio vještačku inteligenciju kako bi te nalaze oblikovao u standardni obavještajni izvještaj u koji vojni zvaničnici imaju povjerenja i proslijedio ga nadležnima.
Dok političari u Vašingtonu raspravljaju o dugoročnim egzistencijalnim prijetnjama vještačke inteligencije, incident s kineskim brodom ukazuje na neuporedivo veću opasnost. Riječ je o ljudima koji donose kritične odluke na osnovu netačnih ili zavaravajućih informacija koje generišu automatizovani sistemi.
Izvori upozoravaju da se vojska sve više oslanja na AI za pomoć pri odabiru meta, što nosi očigledan rizik od kobnih grešaka.
"Vještačka inteligencija nam omogućava da brže dođemo do loše ideje", zaključio je sagovornik CNN-a.