Vojnici su bili spremni za ukrcavanje, a vojni su zrakoplovi već poletjeli kada se otkrilo da je obavještajno izvješće bilo pogrešno.
Obavještajni dokument sastavljen uz pomoć umjetne inteligencije zamalo je izazvao ozbiljan sukob između Sjedinjenih Američkih Država i Kine.
U tom se izvješću tvrdilo da jedan kineski brod na Bliskom istoku prevozi dijelove vezane uz nuklearni program.
Zbog toga je američka vojska pripremala presretanje plovila. Naoružani su vojnici, prema navodima, bili spremni za ukrcaj, dok su vojni zrakoplovi već bili u zraku. Akcija je obustavljena u zadnji čas, nakon što se dodatnom provjerom pokazalo da je bitan dio izvješća nastao krivim tumačenjem podataka koje je generirao AI alat.
Umjetna inteligencija pogrešno povezala podatke
Jedan je američki analitičar od chatbota zatražio obradu podataka iz brodskog manifesta. Tijekom postupka sustav je spojio javno dostupne informacije s podacima iz državnih baza te je potom izveo netočan zaključak o teretu na brodu.
Nije poznato radi li se o komercijalnom chatbotu ili o posebnom alatu koji je razvila američka vlada. Isto tako nije potvrđeno što je kineski brod uistinu prevozio.
Zapovjedništvo za specijalne operacije na Pacifiku te Pentagon nisu odgovorili na upite o ovom slučaju. Jedan izvor upoznat sa slučajem izvješće je opisao kao potpuno netočno i upozorio da je takva pogreška mogla dovesti do oružanog sukoba dviju velikih sila.
SAD ubrzava primjenu AI-ja u vojsci
Američka vojska u posljednjih nekoliko mjeseci ubrzano uvodi umjetnu inteligenciju u razna područja — od analize obavještajnih podataka i biranja ciljeva pa do logistike i raspodjele sredstava.
Ministar obrane Pete Hegseth početkom je godine predstavio strategiju za brže uvođenje umjetne inteligencije u američku vojsku. Prema tom planu, napredni bi AI modeli trebali postati dostupni milijunima civilnih i vojnih djelatnika.
Problem leži u tome što pojedini dijelovi američkog sustava rabe različite alate, standarde i načine provjere. Ne postoji jedinstven postupak kojim bi se prije slanja utvrdila točnost svih informacija koje AI sustavi generiraju.
Upozorenje zbog ljudskog faktora
Ovaj slučaj pokazuje kako najveći rizik možda nije samo u pogrešci umjetne inteligencije, nego i u ljudima koji njezine rezultate prihvaćaju bez dostatne provjere.
Izvori upozoravaju da se AI sve češće rabi pri procjeni ciljeva i donošenju vojnih odluka, premda još uvijek nema jasnih pravila o tome kako osigurati stvarni ljudski nadzor. Posebna opasnost nastaje kada analitičari, pod pritiskom da podatke obrade što brže, nekritički prihvate zaključke računalnog sustava.
Slučaj s kineskim brodom zato iznova otvara pitanje u kolikoj se mjeri vojne i obavještajne odluke smiju oslanjati na umjetnu inteligenciju, pogotovo kada bi jedna jedina pogreška mogla imati posljedice po međunarodnu sigurnost.
