Obavještajno izvješće izrađeno uz pomoć umjetne inteligencije zamalo je dovelo do američke vojne operacije protiv kineskog broda tijekom rata s Iranom, objavio je CNN. Američki dužnosnici tek su neposredno prije planiranog presretanja otkrili da je izvješće sadržavalo ozbiljne pogreške u identifikaciji tereta.
Prema informacijama četiriju izvora upoznatih sa slučajem, američka vojska počela je pripremati operaciju nakon što je u izvješću navedeno da kineski brod na Bliskom istoku prevozi dijelove namijenjene programu nuklearnog naoružanja. Dvojica izvora navela su da su se naoružani pripadnici američke vojske pripremali za ukrcavanje na brod, dok su vojni zrakoplovi već bili u zraku.
Umjetna inteligencija pogrešno identificirala teret
Situacija se promijenila kada su dužnosnici detaljnije provjerili obavještajno izvješće koje je sastavio analitičar američkog Zapovjedništva za specijalne operacije.
Utvrđeno je da je analitičar pri izradi izvješća koristio umjetnu inteligenciju, a chatbot je pogrešno identificirao materijal koji je brod prevozio. CNN nije uspio doznati o kakvom se teretu točno radilo.
Jedan od izvora izvješće je opisao kao „potpuno lažno“, upozoravajući da je situacija „zamalo izazvala rat“.
Moguća američka vojna akcija protiv kineskog broda mogla je dovesti do ozbiljne eskalacije i oružanog sukoba između Washingtona i Pekinga.
Chatbot spojio javne i tajne obavještajne podatke
Prema navodima izvora, analitičar je chatbotu postavio pitanje povezano s obavještajnim podacima o popisu tereta na brodu. Podaci su potjecali iz američkog Zapovjedništva za specijalne operacije na Pacifiku, sa sjedištem na Havajima.
Chatbot je pritom spojio javno dostupne obavještajne informacije s tajnim podacima dobivenima presretanjem komunikacija kojima raspolaže američka vlada. Na temelju tih podataka izveo je pogrešan zaključak o materijalu koji se navodno nalazio na brodu.
Nije poznato je li analitičar koristio komercijalno dostupan chatbot ili alat koji je razvila američka vlada.
Nakon toga analitičar se ponovno poslužio umjetnom inteligencijom kako bi rezultate oblikovao u standardno obavještajno izvješće, vrstu dokumenta kojoj vojni dužnosnici vjeruju. Izvješće je potom distribuirano.
Pentagon ubrzava primjenu umjetne inteligencije
Ovaj slučaj otvara pitanja o sigurnosti korištenja umjetne inteligencije u vojnim i obavještajnim operacijama, osobito pri procjeni potencijalnih ciljeva tijekom oružanih sukoba.
Američka vojska i obavještajna zajednica sve više koriste AI za analiziranje velikih količina podataka, odabir ciljeva, logistiku i upravljanje opskrbnim lancima. Cilj je ubrzati donošenje odluka i spriječiti tehnološko zaostajanje za potencijalnim protivnicima.
Američki ministar obrane Pete Hegseth u siječnju je predstavio strategiju ubrzanja primjene umjetne inteligencije u Ministarstvu obrane. Strategija predviđa širu dostupnost AI alata vojnim i civilnim djelatnicima.
Međutim, američki dužnosnici upozoravaju da se različiti dijelovi vojske i obavještajne zajednice koriste različitim alatima, pravilima i sigurnosnim standardima. Ne postoji jedinstven sustav provjere informacija koje ti alati generiraju, zbog čega se njihova pouzdanost može značajno razlikovati.
Upozorenja zbog ljudskog nadzora i pogrešnih odluka
Slučaj kineskog broda istaknuo je neposredan rizik: donošenje vojnih odluka na temelju netočnih ili obmanjujućih informacija koje je proizvela umjetna inteligencija.
Jedan od izvora upozorio je da se upotreba AI-ja pri odabiru ciljeva ubrzava, dok jasne smjernice o ljudskom nadzoru i sprječavanju civilnih žrtava ili slučajnog napada na vlastite snage nisu dovoljno definirane.
Prema riječima izvora upoznatih sa situacijom, slične pogreške, poznate kao „halucinacije“ umjetne inteligencije, nisu izoliran slučaj u američkoj obavještajnoj zajednici.
Kako je jedan od izvora sažeo problem: „Umjetna inteligencija omogućuje vam da brže dođete do loše ideje.“