Militantne skupine počele su koristiti umjetnu inteligenciju čim su programi poput ChatGPT-a postali široko dostupni. U godinama nakon toga, sve više koriste programe generativne umjetne inteligencije za stvaranje fotografija i videozapisa koji izgledaju realistično.
Dok ostatak svijeta žuri iskoristiti moć umjetne inteligencije (AI), militantne skupine također eksperimentiraju s tom tehnologijom, čak i ako nisu sasvim sigurne što bi s njom točno učinile.
Za ekstremističke organizacije, umjetna inteligencija mogla bi biti moćan alat za regrutiranje novih članova, izbacivanje realističnih deepfake slika i usavršavanje njihovih kibernetičkih napada, upozorili su stručnjaci za nacionalnu sigurnost i špijunske agencije.
Netko tko je prošli mjesec objavio poruku na pro-Islamska država web stranici pozvao je druge pristaše IS-a da umjetnu inteligenciju uključe u svoje operacije. “Jedna od najboljih stvari u vezi s umjetnom inteligencijom je koliko ju je lako koristiti,” napisao je korisnik na engleskom jeziku.
“Neke obavještajne agencije brinu da će umjetna inteligencija pridonijeti regutiranju,” nastavio je korisnik. “Stoga pretvorite njihove noćne more u stvarnost.”
Tisuće AI videozapisa koji prikazuju seksualizirane maloljetnike dijele se na TikToku, otkriva izvještaj.
IS, koji je prije nekoliko godina zauzeo teritorij u Iraku i Siriji, ali je sada decentralizirani savez militantnih skupina koje dijele nasilnu ideologiju, shvatio je prije mnogo godina da društveni mediji mogu biti snažan alat za regrutiranje i dezinformiranje, pa nije iznenađujuće da grupa testira umjetnu inteligenciju, kažu stručnjaci za nacionalnu sigurnost.
Za slabo povezane, loše resursirane ekstremističke skupine – ili čak za pojedinog lošeg aktera s internetskom vezom – umjetna inteligencija može se koristiti za masovno izbacivanje propagande ili deepfakeova, šireći njihov doseg i povećavajući njihov utjecaj.
“Za svakog protivnika, umjetna inteligencija stvarno olakšava obavljanje stvari,” rekao je John Laliberte, bivši istraživač ranjivosti u Nacionalnoj sigurnosnoj agenciji koji je sada izvršni direktor tvrtke za kibernetičku sigurnost ClearVector.
“Uz umjetnu inteligenciju, čak i mala grupa koja nema puno novca još uvijek može ostvariti utjecaj.”
Kako ekstremističke skupine eksperimentiraju
Militantne skupine počele su koristiti umjetnu inteligenciju čim su programi poput ChatGPT-a postali široko dostupni. U godinama nakon toga, sve više koriste programe generativne umjetne inteligencije za stvaranje fotografija i videozapisa koji izgledaju realistično.
Kada se manipulira algoritmima društvenih medija, ovaj lažni sadržaj može pomoći regutiranju novih vjernika, zbunjivanju ili zastrašivanju protivnika te širenju propagande na razini nezamislivoj prije samo nekoliko godina.
Takve su skupine prije dvije godine širile lažne slike rata između Izraela i Hamasa, prikazujući krvave, napuštene bebe u bombardiranim zgradama. Slike su potaknule bijes i polarizaciju, zamagljujući stvarne strahote rata. Nasilne grupe na Bliskom istoku koristile su te fotografije za regrutiranje novih članova, kao i antisemitske skupine mržnje u SAD-u i drugdje.
Nešto slično dogodilo se prošle godine nakon napada za koji je tvrdila da ga je izveo ogranak IS-a, a u kojem je ubijeno gotovo 140 ljudi na koncertnom mjestu u Rusiji. U danima nakon pucnjave, AI-izrađeni propagandni videozapisi kružili su naširoko na forumima za rasprave i društvenim medijima, tražeći nove regrute.
IS je također izradio deepfake audio snimke vlastitih vođa kako recitiraju sveto pismo i koristio AI za brzo prevođenje poruka na više jezika, prema istraživačima iz SITE Intelligence Group, tvrtke koja prati ekstremističke aktivnosti i istražuje evoluirajuću upotrebu AI od strane IS-a.
Takve skupine zaostaju za Kinom, Rusijom ili Iranom i još uvijek vide sofisticiranije upotrebe umjetne inteligencije kao “aspirativne”, prema Marcusu Fowleru, bivšem agentu CIA-e koji je sada izvršni direktor u Darktrace Federal, tvrtki za kibernetičku sigurnost koja radi s federalnom vladom.
Ali rizici su previsoki da bi se zanemarili i vjerojatno će rasti kako se širi upotreba jeftine, moćne umjetne inteligencije, rekao je.
Hakeri već koriste sintetički audio i video za phishing kampanje, u kojima pokušavaju oponašati visokog poslovnog ili vladinog čelnika kako bi dobili pristup osjetljivim mrežama. Također mogu koristiti AI za pisanje zlonamjernog koda ili automatizaciju nekih aspekata kibernetičkih napada.
Više zabrinjava mogućnost da bi militantne skupine mogle pokušati koristiti AI za pomoć u proizvodnji biološkog ili kemijskog oružja, nadoknađujući nedostatak tehničke stručnosti. Taj je rizik uključen u ažuriranu Procjenu prijetnji domovini (Homeland Threat Assessment) Ministarstva domovinske sigurnosti, objavljenu ranije ove godine.
“ISIS se rano uključio na Twitter i pronašao načine da društvene medije iskoristi u svoju korist,” rekao je Fowler. “Oni uvijek traže sljedeću stvar koju će dodati svom arsenalu.”
Suprotstavljanje rastućoj prijetnji
Zakonodavci su iznijeli nekoliko prijedloga, ističući hitnu potrebu za djelovanjem.
Mark Warner, senator Virginije i vodeći demokrat u Senatskom obavještajnom odboru, rekao je, primjerice, da SAD mora olakšati programerima umjetne inteligencije razmjenu informacija o tome kako njihove proizvode koriste loši akteri, bilo da su to ekstremisti, kriminalni hakeri ili strani špijuni.
“Od kraja 2022. godine, s javnim objavljivanjem ChatGPT-a, bilo je očito da će se ista fascinacija i eksperimentiranje s generativnom umjetnom inteligencijom koju ima javnost primijeniti i na niz zlonamjernih aktera,” rekao je Warner.
Tijekom nedavnog saslušanja o ekstremističkim prijetnjama, zastupnici Zastupničkog doma saznali su da su IS i al-Qaida održali radionice za obuku kako bi pomogli pristašama da nauče koristiti AI.
Zakon koji je prošlog mjeseca usvojen u Zastupničkom domu SAD-a zahtijevao bi od dužnosnika domovinske sigurnosti da svake godine procjenjuju rizike umjetne inteligencije koje predstavljaju takve skupine.
Obrana od zlonamjerne upotrebe umjetne inteligencije ne razlikuje se od pripreme za konvencionalnije napade, rekao je August Pfluger, zastupnik Teksasa i sponzor zakona.
“Naše politike i sposobnosti moraju ići u korak s prijetnjama sutrašnjice,” izjavio je Warner.