U eri umjetne inteligencije, Hany Farid bori se dokazati što je stvarno prije nego što internet sam donese presudu.
E-poruke su počele pristizati u nedjelju ujutro, kako to obično biva s onim najgorim. Hany Farid otvorio je prvu poruku u svom domu u brdima iznad Berkeleya i pronašao poveznicu na viralni videozapis koji navodno prikazuje projektil američke proizvodnje kako pogađa osnovnu školu u Iranu. U napadu je navodno ubijeno više od 150 ljudi, uglavnom djece. „Je li ovo internetska prijevara ili međunarodni ratni zločin? Pokušavamo verificirati što je stvarno”, stajalo je u poruci.
Farid je uzeo olovku i bilježnicu, nagnuo se prema računalu i pokrenuo snimku. Vidio je plavo nebo, telefonske žice i nekoliko palmi koje se njišu na vjetru. Zatim je ekranom proletio projektil, jasan i prepoznatljiv unatoč brzini od 800 kilometara na sat. Izgledalo je kao scena iz videoigre. Proteklih dana Farid je pregledao na desetke uvjerljivih videozapisa generiranih umjetnom inteligencijom koji prikazuju lažna bombardiranja, lažne padove zrakoplova, požare i smaknuća. Njegov prvi nagon bio je skeptičnost. Bio je gotovo siguran da je i ovaj videozapis lažan.
Grickajući olovku, pogledao je snimku ponovno, usporavajući je i rastavljajući je kadar po kadar. Kamera se tresla na način koji je djelovao uvjerljivo za amatersku snimku mobitelom. Sjene su bile geometrijski točne. Gledao je kako projektil pogađa zgradu i primijetio kratko kašnjenje prije nego što se začula eksplozija i visoki vriskovi, što je bilo u skladu s brzinom zvuka. Možda je video ipak stvaran. Na društvenim je mrežama već bio pregledan najmanje 1,1 milijun puta. Sa svakom sekundom koja je prolazila, ta je snimka postajala stvarnost, bez obzira na to je li autentična ili nije.
„Svatko može stvoriti videozapis bilo čega ili bilo koga, kako radi ili govori bilo što”, napisao je Farid u odgovoru. „Za ovo će mi trebati malo vremena.”
Gubitak povjerenja u vlastiti vid
Više od dva desetljeća šezdesetogodišnji Farid bio je vodeći svjetski stručnjak na polju digitalne forenzike, no u posljednjih šest mjeseci prestao je vjerovati vlastitim očima. Karijeru je izgradio na razlikovanju vizualne stvarnosti od deepfake tehnologije, svakodnevno odgovarajući na zahtjeve vlada, organizacija za ljudska prava, novinara i policije koji su bili sve više zbunjeni i prevareni online svijetom. Faridovo vlastito istraživanje dokazalo je da većina ljudi više ne može razlikovati stvarnu fotografiju od digitalne kreacije, stvarni glas od klona stvorenog umjetnom inteligencijom niti stvarni videoisječak od potpune fabrikacije. U posljednje vrijeme, počeo je padati na vlastitim testovima.
„Osjećam se kao da slijepim”, priznao je Farid, zabrinut da umjetna inteligencija zamagljuje istinu, iskrivljuje stvarnost, narušava demokracije i polako slama i njega samog. Zbog toga su on i supruga počeli planirati odlazak iz Kalifornije, želeći zamijeniti tehnološku kulturu Silicijske doline farmom u ruralnom Vermontu.
Ponovno je pokrenuo videozapis. Nebo, bomba, dim, vriskovi. U proteklih sat vremena najmanje desetak medijskih kuća poslalo mu je upit o toj snimci. Objavila ju je i podijelila službena iranska novinska agencija, no to Faridu nije značilo mnogo jer je nedavno vidio deepfake snimke koje su kreirale i dijelile strane vlade, pa čak i osoblje Bijele kuće. Ge locirao je videozapis pomoću baze podataka koja sadrži milijune slika iz cijelog svijeta i trag ga je odveo do ulice u iranskom gradu Minabu, nekoliko stotina metara od jedne osnovne škole.
Možda je sama snimka bila stvarna, pomislio je Farid, no netko je naknadno umetnuo projektil Tomahawk u kadar. Stabilizirao je videozapis kako bi uklonio podrhtavanje kamere, a zatim je pratio putanju projektila kroz niz pojedinačnih kadrova, tražeći dosljednost. Putanja projektila bila je ravna, a njegova brzina stalna. Zumirao je sliku kako bi izmjerio piksele i izračunao da je projektil dug oko pet i pol metara, što je bila točna veličina.
Nebo, bomba, dim, vriskovi. Pogledao je snimku još barem sto puta, sumnjajući u vlastite instinkte i ponovno provjeravajući matematičke izračune. Veći dio svoje karijere bio je zadužen za pronalaženje rijetkih krivotvorina u svijetu zajedničkih istina. No sada su krivotvorine postale norma, a istina je postala nedokučiva. Čak i nakon cijelog dana analize i konzultacija s drugim stručnjacima za vizualne medije – koji su potvrdili autentičnost videozapisa – jedva se natjerao proglasiti ga stvarnim.
„Sveukupno gledajući, ne nalazimo uvjerljive dokaze da je videozapis lažan ili da se njime manipuliralo”, napisao je Farid na kraju.
Ugasio je računalo i izašao iz kuće. Vozio je brdski bicikl kroz brežuljke Berkeleya, jureći i prepuštajući se vjetru. Popušio je cigaru i otišao u krevet, no kasnije te noći u snu se ponovno vratio tom videozapisu. Ovoga puta nije brojao piksele niti mjerio sjene. Nalazio se unutar škole, sjedio je u učionici punoj desetogodišnjaka i gledao kako bojna glava detonira, osjećajući eksplozivni udar, kašljući od prašine i slušajući vriskove djece. Probudio se i ponovno sjeo za računalo, pretražujući internet za novim vijestima o bombardiranju.
„Ne možete ubiti stotinu učenica i samo reći ‘ups’”, napisao je kolegi dok je čitao objave na društvenim mrežama. Neki su korisnici citirali Faridovu analizu kako bi potvrdili da je video stvaran. Drugi su ga odbacivali tvrdeći da je pristran i da videozapis izgleda lažno. Nekoliko novih videozapisa o bombardiranju, generiranih umjetnom inteligencijom, već se pojavilo na mreži, prikazujući lažne generale koji izdaju zapovijedi ili lažne roditelje koji oplakuju lažne učenice. Internet je već prelazio preko vijesti o jednom od najsmrtonosnijih bombardiranja u ratu, a Farid je u svom sandučiću već ugledao novi zahtjev. Bio je to posve drugačiji videozapis koji je prikazivao novu eksploziju u nekom drugom dijelu svijeta.
„Možete li nam, molim vas, pomoći da shvatimo što se, dovraga, ovdje zapravo događa?”
Tehnologija koja vodi u mračna mjesta
Bilo je to pitanje koje je u njegov sandučić stizalo desetak puta dnevno. Što se to događa sa svijetom?
Je li to doista bio predsjednik Joe Biden koji je zvao tisuće demokratskih birača dan prije predizbora u New Hampshireu i govorio im da ne glasaju? Je li to stvarno bio Donald Trump koji baca vreće smeća kroz prozor Bijele kuće? Jesu li to bile stvarne eksplicitne fotografije učenika devetih razreda koje kruže jednom srednjom školom u Pennsylvaniji ili slike koje je njihov školski kolega generirao besplatnom aplikacijom? Je li to stvarno Tom Hanks koji reklamira nepoznati stomatološki plan? Je li na Zoom sastanku doista bio izvršni direktor koji traži transfer od 25 milijuna dolara ili sjevernokorejski prevarant? Je li u ruci Alexa Prettija bio pravi pištolj ili samo sjena? Je li to doista bila nečija dvanaestogodišnja kći koja vrišti u slušalicu i govori da je oteta?
„Nedostaju mi dani kada je najveća briga bio zrnati videozapis morskog psa koji pliva poplavljenom ulicom”, rekao je Farid jedne večeri dok je sjedio na terasi sa svojom suprugom Emily Cooper. Odložio je telefon i natočio viski. „Tehnologija postaje toliko dobra da me to odvodi na vrlo mračna mjesta.”
„Zato što više ne možeš prepoznati razliku samo gledanjem?”, upitala je Cooper.
„Zato što nitko više ne može”, odgovorio je Farid. „Ne vjerujem ničemu. Kod svake slike koju vidim, u glavi povlačim linije za sjene i računam geometriju, pokušavajući shvatiti što zapravo gledam. Gotovo je. Za godinu ili dvije, naš cijeli vizualni sustav postat će potpuno beskoristan.”
„I što onda? Odustaješ? Ideš u mirovinu?”
„Ne znam”, rekao je.
Upoznali su se prije 15 godina kada je Farid došao održati predavanje na Sveučilištu Kalifornija u Berkeleyju, u vrijeme dok je još bio uvjeren da ima rješenja. Njegov je otac pedeset godina radio kao kemičar u tvrtki Eastman Kodak, a Farid je odrastao posjećujući mračnu komoru i gledajući kako se fotografije razvijaju u kemijskim kupeljima i pretvaraju u materijalne dokaze. Kasnije je pomogao u dizajnu digitalnog otiska koji je otkrivao dječju pornografiju skrivenu na internetu – tehnologije koja je dovela do više od 30 milijuna prijava zlostavljanja godišnje, stotina uhićenja i brojnih spašavanja djece. Kada su se deepfakes počeli širiti internetom, izradio je softver koji je otkrivao trenutak kada se govornikova usta pomaknu nesinkronizirano s audiom. Suosnovao je tvrtku GetReal Security i pomogao u izradi alata za mjerenje osvjetljenja, sjena i perspektive, provjeravajući online vizuale s zakonima fizike u stvarnom svijetu.
Cooper je bila vodeća znanstvenica za vid na Berkeleyju. Proučavala je kako ljudi percipiraju stvarnost, dok je njezin suprug istraživao kako se ta stvarnost može lažirati. Surađivali su na studijama o deepfake tehnologiji, no proteklih mjeseci to je istraživanje počelo prodirati u njihov privatni život. Umjesto da rješava jedan slučaj svakih nekoliko tjedana, Farid je radio kao savjetnik i vještak, balansirajući s desetak slučajeva dnevno. Prvi put u karijeri postao je ne samo analitičar nego i žrtva, kada je netko lažirao broj njegova mobitela i upotrijebio umjetnu inteligenciju kako bi klonirao njegov glas. Haker je uputio pozive Faridovu kolegi koji je radio na osjetljivom slučaju, predstavljajući se kao Farid i tražeći povjerljive informacije. Nakon toga, Farid i Cooper odlučili su da svoj identitet više nikada ne uzimaju zdravo za gotovo. Osmislili su tajnu sigurnosnu riječ kako bi potvrdili da su doista oni s druge strane linije na početku svakog važnijeg telefonskog razgovora.
Farid je pogledao u svoj telefon i ugledao novu poruku. „Provjeravam točnost viralnog videozapisa na kojem majka i dijete prilaze lijesu prekrivenom zastavom, za koji sumnjamo da je generiran umjetnom inteligencijom”, stajalo je u tekstu. Spustio je telefon i zagledao se s terase prema zaljevu San Francisca i suncu koje je zalazilo iza mosta Golden Gate.
„Ne mogu više podnijeti ovo mjesto”, rekao je. „Ovi tehnološki divovi spalit će sve do temelja dokle god ostvaruju profit. Ne zanima ih ništa što bi ih moglo usporiti.”
„To me plaši zbog naših studenata”, nadovezala se Cooper. „Počinje me hvatati strah.”
Ona nije bila sklona pretjerivanju. Njezin je suprug znao biti nagao i eksplozivan – optimist po prirodi koji je zbog dokaza postajao sve veći pesimist. Ona se držala preciznosti i činjenica, no čak su i one postale neosporne. Njezino vlastito istraživanje bilo je usmjereno na 3D percepciju, no šira kriza koja se odvijala na njezinu polju bila je nemoguća za ignoriranje. Ljudi su provodili sve više vremena u zatvorenom prostoru gledajući u ekrane, a sve manje gledajući u daljinu, što je u nekim slučajevima uzrokovalo trajno produljenje očne jabučice. Rezultat je bio zamagljen vid, dramatičan porast stope kratkovidnosti i sve veći rizik od očnih bolesti, što su njezine kolege počele nazivati javnozdravstvenom krizom i epidemijom sljepoće koja se mogla spriječiti.
Potencijalni lijek bili su prirodno svjetlo i pogled u daljinu, pa su stoga proteklih mjeseci tražili imanje u ruralnom Vermontu. Na kraju su kupili drvenu kuću iz 1920-ih, udaljenu oko pola sata vožnje od koledža Dartmouth, gdje su oboje mogli raditi kao profesori, dok bi Farid nastavio analizirati slike za svoju tvrtku. Imanje je obuhvaćalo 100 hektara šumskih staza, bez ijedne druge kuće na vidiku.
„Moram se resetirati”, rekao je Farid. „Zrak, prostor. Tako sam spreman osjećati se udaljeno.”
Telefon na stolu ponovno je zasvijetlio.
„Misliš li da je uopće moguće pobjeći?”, upitala je Cooper.
„Vjerojatno ne”, odgovorio je Farid. „Barem ne u potpunosti. Ali moramo pokušati.”
Tehnologija kao oružje
Spustio se s brda na svom motociklu kako bi održao posljednje javno predavanje u proljetnom semestru na Berkeleyju, prolazeći pokraj posvuda prisutnih plakata za umjetnu inteligenciju koji su preplavili to područje. Bili su to oglasi za startup tvrtke koje obećavaju revoluciju u medicini, obrazovanju i poslovanju. „Prestanite zapošljavati ljude”, pisalo je na jednom od njih. Farid je parkirao na kampusu i ušetao u amfiteatar gdje ga je čekalo 75 studenata.
Bio je jedan od najpopularnijih profesora na sveučilištu – energičan, izravan i istinski fasciniran napretkom tehnologije o kojoj je predavao. Imao je digitalne asistente koji su pisali kodove umjesto njega. Imao je automobil koji je mogao sam voziti autocestom. Imao je aplikacije koje su mogle dotjerati stil u njegovim e-porukama ili pretvoriti fotografiju njegove police s začinima u recept za večeru. No, studenti računarstva u njegovim grupama borili su se pronalaskom posla jer su tvrtke čekale vidjeti što sve strojevi mogu učiniti sami. Prvi put u karijeri, Farid je stajao pred studentima i ponekad nije znao što bi im savjetovao.
Sjetio se slike koja ga je progonila još otkad je bio mladi profesor na Dartmouthu, gdje se u knjižnici nalazio mural meksičkog umjetnika Josea Clementea Orozca. Prikazivao je skupinu akademika prikazanih kao kosturi u diplomskim odorama koji drže knjige, okrenuti leđima svijetu koji gori, dok jedan od njih porađa novi kostur s diplomom u rukama. „Velik dio akademske zajednice zadovoljan je bavljenjem ezoteričnim problemima i skrivanjem od istine”, rekao je Farid. Cijelu svoju karijeru proveo je pokušavajući ne biti taj kostur. Vjerovao je da je njegova odgovornost okrenuti se i suočiti s vatrom.
„Ova se tehnologija koristi kao oružje protiv nas”, poručio je studentima. „Vlak je napustio stanicu i ubrzava brzinom koja je nevjerojatna.”
Hodao je ispred ploče i počeo prikazivati slajdove videozapisa generiranih umjetnom inteligencijom iz proteklih nekoliko godina. Lažna slika eksplozije u Pentagonu nakratko je uzdrmala burzu 2023. godine, izbrisavši više od 500 milijardi dolara u nekoliko minuta. Krivotvorine iz rata u Ukrajini još je uvijek bilo relativno lako identificirati zbog čudnih boja eksplozija i nepravilnih oblika zgrada. Krivotvorine iz Gaze bile su znatno bolje. Do početka rata u Iranu, kratke snimke umjetne inteligencije postale su praktički nerazlučive od stvarnih videozapisa. Danas se tisuće sjevernokorejskih agenata javljaju na natječaje za rad na daljinu u američkim tvrtkama, koristeći umjetnu inteligenciju kako bi uživo na Zoom pozivima oponašali Amerikance, a potom tim plaćama financiraju nuklearni program svoje zemlje. Kriminalac bez ikakvog tehničkog znanja, naglasio je Farid, danas može upotrijebiti jednu fotografiju i audioisječak od deset sekundi kako bi na internetu preuzeo bilo čiji identitet.
„Možda mislite da možete uočiti razliku dok sjedite i skrolate po ekranu”, rekao je. „Vjerujte mi, ne možete. I tu na scenu stupaju naše metode.”
Pomogao je u osmišljavanju algoritamskih alata za provjeru nečijih specifičnih pokreta, vokalnih inflekcija i protoka krvi. Kada stvarna osoba govori, njezine se zjenice šire, a srce pumpa krv u lice. Farid je ponekad mogao izmjeriti suptilne promjene u boji kože kako bi vidio otkucaje srca u stvarnom vremenu, dok je avatar umjetne inteligencije u tom smislu bio potpuno statičan.
Farid je istaknuo da je i dalje uvjeren kako može riješiti gotovo svaku zagonetku povezanu s umjetnom inteligencijom, no problem je bio u tome što je svaka istraga zahtijevala vrijeme. Vrijeme poluraspada prosječne objave na društvenim mrežama bilo je kraće od 90 sekundi. „Nakon dvadeset minuta, igra je uglavnom gotova”, rekao je Farid. Mnogo puta bi završio svoju analizu, podigao pogled s računala i shvatio da je šteta već učinjena. Krivotvorina se utvrdila kao činjenica, a činjenica se pretvorila u sumnju.
Jedan je student u prvom redu podigao ruku.
„Dakle, stvaranje deepfake sadržaja je jednostavno, jeftino, brzo i pouzdano, a otkrivanje je skupo i teško?”, upitao je.
„Da”, odgovorio je Farid.
„Postoji li rješenje u bliskoj budućnosti ili smo jednostavno gotovi?”
Profesor je zastao i udahnuo. Pomislio je na Orozcov mural, na školu u Iranu, na deepfake snimke koje se gomilaju u njegovu sandučiću i na farmu koja ga čeka u Vermontu. Još uvijek je vjerovao da rješenja postoje, no najprije je želio da ljudi shvate s čime se suočavaju.
„Prilično smo gotovi”, rekao je.
Mir i bijeg u divljinu Vermonta
Motorna pila oživjela je u utorak ujutro u kasno proljeće. Farid je stavio zaštitne naočale i osjetio vibracije kako mu se kroz ruke šire u prsa. Prerezao je oboreno stablo javora i gledao kako se drvo komada u čiste trupce, koje je Cooper zatim stavljala u cjepač i slagala u urednu gomilu. Rezanje, cijepanje, slaganje. U Vermontu su bili manje od dva tjedna i već su se potpuno predali fizičkom radu.
Njihova se drvena kuća nalazila na kraju makadamskog puta, na strmom brdu s kojeg se pružao pogled na riječne doline i Zelene planine. Nije bilo odvoza smeća, poštanske dostave niti drugih kuća na vidiku. Kako bi prebrodili zimu, morat će sami čistiti svoj put i grijati kuću. Farid je procijenio da će im trebati oko deset tona ogrjevnog drva. Radili su sat vremena, a potom se odmaknuli kako bi pogledali gomilu.
„Ide nam odlično”, rekao je Farid. „Tako je zadovoljavajuće gledati kako raste.”
„Jesi li umoran?”, upitala je Cooper.
„Osjećam se dobro”, odgovorio je. „Idemo dalje, treba nam još.”
Obuli su čizme i krenuli u šumu u potragu za suhim drvima. Svoje su imanje otkrivali postupno, šetnju po šetnju, učeći ponovno usporiti i pažljivo promatrati okolinu: livadu u cvatu, planinski potok koji teče preko mahovinom prekrivenog granita, pticu koja leti iznad malog ribnjaka i napuštenu kolibu koja propada. Stigli su do čistine na vrhu brda i Cooper je zastala kako bi uživala u pogledu na okolne planine, dok je Farid obilazio teren. Pronašao je oboreno stablo breze, primio granu i viknuo supruzi.
„Što misliš?”, upitao je.
„Prekrasno je”, odgovorila je.
Gledala ga je kako nosi brezu natrag kroz livadu, držeći je iznad glave poput trofeja. Otkako su stigli u Vermont, moglo se primijetiti kako mu se golem teret podiže s ramena, a isto je osjećala i ona. Pila je čaj ujutro, uživajući u tišini i dopuštajući očima da upijaju krajolik. Počela je eksperimentirati s pisanjem fikcije. Na jesen će Cooper i Farid ponovno početi predavati i istraživati na Dartmouthu, no do tada je ostalo još nekoliko mjeseci. Kada su posljednji put živjeli u Vermontu, oslanjali su se na nestabilan internet koji nije imao propusnost za Zoom sastanke, videozapise ili beskonačne društvene mreže. Možda je ta razina isključenosti ponovno bila moguća.
Dovukli su brezu do spremišta i Farid je ponovno pokrenuo pilu. Rezanje, cijepanje, slaganje. Radili su dok livada nije utonula u sjenu, ramena su ga bolesno žarila, a piljevina mu je prekrilu ruke. Odmaknuo se i vidio da je hrpa drva visoka gotovo metar i pol i da već pokriva jedan zid spremišta.
„Pogledaj što smo danas napravili”, rekao je. „Ovo je najkonkretniji napredak koji sam postigao u bilo kojem radu u posljednjih šest mjeseci.”
„Jesi li umoran?”, upitala je Cooper.
„Iscrpljen”, priznao je. U Vermontu je odlazio na spavanje s osjećajem da mu motorna pila i dalje zvoni u ušima, spavajući čvrsto sve do jutra.
Povratak u digitalni mulj
Prva e-poruka stigla je prije zore.
Internet je tijekom noći preplavio novi val lažnih slika, uključujući stotine fotografija Colea Tomasa Allena, koji je navodno upao na večeru dopisnika Bijele kuće sa sačmaricom u pokušaju atentata na predsjednika Trumpa. Na Facebooku se pojavio videozapis osiguranja poboljšan umjetnom inteligencijom koji prikazuje Allena kako prolazi pokraj stražara koji u stvarnosti uopće ne postoje. Na platformi X pojavile su se montirane fotografije na kojima Allen pozira uz Toma Hanksa i Baracka Obamu. Tvrdilo se da je bio igrač Dallas Cowboysa, astronaut na misiji Artemis II, osobni vozač Taylor Swift i tjelohranitelj Pape.
„Svaki put kada se dogodi neka velika vijest, jednostavno se utapamo u ovom digitalnom mulju”, rekao je Farid.
Stavio je telefon u džep i izašao van. Cijepao je drva i šetao stazama s Cooper, no e-poruke su nastavile stizati.
„Pregledavamo ovaj novi videozapis incidenta u kojem je sudjelovao zrakoplov United Flight 179”, glasila je jedna poruka.
„Provjeravam videozapis koji tvrdi da prikazuje džamiju pogođenu u južnom Libanonu.”
„Nalazim se u zatvoru od 2019. godine na temelju lažnih videodokaza.”
Skrenuo je sa staze i krenuo dublje u šumu, tražeći rub imanja. Popeo se na brdo i pronašao stari kameni zid, visok do prsa i dug najmanje trideset metara, koji je prolazio sredinom šume. Farid je stajao tamo neko vrijeme, prelazeći rukom preko mahovine i izblijedjelog sivog kamenja, prije nego što se okrenuo natrag prema stazi i ponovno provjerio telefon.
„Želio bih vas zamoliti za pomoć u istrazi materijala o seksualnom zlostavljanju koji se prenosi uživo.”
„Je li ovo stvarna eksplozija u zračnoj luci u Dubaiju? Možete li ponuditi svoju stručnu procjenu?”
Vratio se prema kući, prošao pokraj hrpe drva i ušao unutra.
„Idem nadoknaditi malo posla”, rekao je supruzi.
„U redu, idem i ja”, odgovorila je.
Smjestio se u svoj ured i upalio računalo. Izvan prozora, stabla breze njišu se na vjetru, a sunce polako zalazi iza Zelenih planina. Pojačao je zvuk, otvorio videozapis i začuo seriju eksplozija. Nagnuo se prema plavom sjaju monitora i nastavio gledati kako vatra gori.