Bujica lažnih videozapisa i slika generiranih umjetnom inteligencijom preplavila je društvene mreže tijekom prvih tjedana rata u Iranu. Videozapisi — koji prikazuju ogromne eksplozije koje se nikada nisu dogodile, desetkovane gradske ulice koje nikada nisu napadnute ili vojnike koji prosvjeduju protiv rata, a koji zapravo ne postoje — dodali su kaotičan i zbunjujući sloj online sukobu.
The New York Times identificirao je više od 110 jedinstvenih AI-generiranih slika i videozapisa o ratu na Bliskom istoku iz protekla dva tjedna. Ti su lažni prikazi pokrivali svaki aspekt borbi: lažno su prikazivali Izraelce kako vrište i skrivaju se dok eksplozije razdiru Tel Aviv, Irance kako oplakuju svoje mrtve te američke vojne brodove bombardirane projektilima i torpedima.
Kolektivno su viđeni milijunima puta na mrežama poput X-a, TikToka i Facebooka, te bezbroj puta unutar privatnih aplikacija za razmjenu poruka popularnih u regiji i širom svijeta.
Times je identificirao AI sadržaj provjeravajući očite znakove — poput prikaza zgrada koje ne postoje, nerazumljivog teksta i ponašanja ili pokreta koji prkose očekivanjima — te nevidljive vodene žigove ugrađene u datoteke. Objave su također provjerene s više alata za detekciju umjetne inteligencije i uspoređene s izvještajima novinskih organizacija.
Novi val digitalne propagande
Sofisticirani novi val AI alata omogućuje ove lažne snimke, dopuštajući gotovo svakome da stvori realistične simulacije rata koje mogu zavarati golo oko uz malo ili nimalo troškova. Sličan se sadržaj širio i u drugim sukobima, uključujući rat između Ukrajine i Rusije. No, ovaj rat ima više frontova, što je dovelo do bujanja lažnog sadržaja otkako su Sjedinjene Države i Izrael prvi put napali Iran, tvrde stručnjaci.
“Čak i u usporedbi s početkom rata u Ukrajini, stvari su sada vrlo drugačije”, rekao je Marc Owen Jones, izvanredni profesor medijske analitike na Sveučilištu Northwestern u Kataru. “Vjerojatno vidimo daleko više sadržaja povezanog s umjetnom inteligencijom nego ikada prije.”
Ukupno, AI lažnjaci uključivali su:
- 37 lažnih slika i videa koji lažno prikazuju aktivni rat
- 5 lažnih slika i videa koji lažno prikazuju pripreme za rat
- 8 lažnih slika i videa koji lažno prikazuju razaranja
- 5 lažnih slika i videa koji lažno prikazuju vojnike koji plaču
- 43 memea i očita korištenja umjetne inteligencije
- 13 ostalih lažnih slika i videozapisa
Sadržaj je postao moćno informacijsko oružje za Teheran dok nastoji poljuljati toleranciju javnosti prema ratu prikazujući scene pustošenja i uništenja u cijeloj regiji. Većina AI videozapisa o ratu promiče proiranske stavove, često kako bi se lažno demonstrirala njihova vojna nadmoć i sofisticiranost, prema studiji tvrtke Cyabra.
Holivudski efekti naspram stvarnosti
U jednom od najdjeljenijih lažnih videozapisa, drhtava scena snimljena s balkona u Tel Avivu prikazuje horizont pogođen projektilima dok se u prvom planu nalazi izraelska zastava. Video je pregledan milijunima puta, a preuzeli su ga i utjecajne osobe na društvenim mrežama te rubni portali s vijestima.
Izraelska zastava u prvom planu bila je jedan od jasnih znakova da je video generirala umjetna inteligencija. Kako bi stvorili takve videozapise, kreatori obično pišu jednostavne tekstualne upute koje opisuju npr. “drhtavi snimak raketnog napada na Izrael”. AI alati tada često sami ubacuju izraelsku zastavu ili Davidovu zvijezdu kako bi ispunili zahtjev.
Na internetu se dijeli i obilje autentičnih snimaka rata. Mnoge od tih slika i videa su mnogo umjerenije od scena koje su izradili AI alati. Prave snimke raketnih napada često su snimljene izdaleka, obično noću, pri čemu su projektili vidljivi tek kao jarka svjetla u daljini. Eksplozije na stvarnim snimkama češće se prikazuju kao stupovi dima, a ne kao vatrene kugle.
Nasuprot tome, neki AI videozapisi prikazuju rat poput pretjeranog holivudskog akcijskog filma, s golemim eksplozijama koje rezultiraju “gljivama”, soničnim udarima i hipersoničnim projektilima koji ostavljaju užarene tragove na nebu. Ponekad se i stvarne snimke pojačavaju AI alatima kako bi eksplozije izgledale razornije, što dodatno zamagljuje granicu između stvarnog i lažnog.
Slučaj nosača zrakoplova
U jednom su slučaju AI lažnjaci odigrali veliku ulogu u raspravi o sudbini nosača zrakoplova USS Abraham Lincoln. Iranska mornarica sugerirala je 1. ožujka da su uspješno napali brod, što je dovelo do poplave AI-generiranih snimaka broda u plamenu. Sjedinjene Države su kasnije izjavile da je napad bio neuspješan i da je brod neoštećen.
Neke AI slike i videozapisi nisu se ni trudili sakriti da su lažni, djelujući umjesto toga kao novi oblik digitalne propagande koji oživljava političke argumente. To uključuje laskave prikaze svjetskih vođa kao moćnih ljudi ili dehumanizirajuće prikaze opozicijskih čelnika.
Nedostatak kontrole na platformama
Tvrtke koje stoje iza društvenih mreža učinile su malo u borbi protiv pošasti AI videa koji su preplavili njihove platforme prošle godine nakon što je OpenAI objavio Soru, aplikaciju za generiranje videa. Iako videozapisi mogu uključivati vidljive i nevidljive vodene žigove koji ih označavaju kao lažne, njih je lako ukloniti ili prekriti.
Elon Muskov X najavio je prošlog tjedna da će suspendirati račune od primanja prihoda na 90 dana ako objave AI sadržaj o “oružanom sukobu” bez odgovarajuće oznake, u pokušaju da spriječi korisnike da profitiraju od neistina. Međutim, mnogi računi povezani s Iranom čine se daleko više usredotočenima na širenje svojih poruka nego na zarađivanje novca.
“Ovo je prirodna fronta koju Iran pokušava iskoristiti”, rekla je Valerie Wirtschafter, suradnica na Institutu Brookings. “To je zapravo alat rata.”