Možda ste čuli da AI chatbotovi ponekad izmišljaju stvari. To je problem. Ali postoji novi problem o kojem malo tko zna, a koji bi mogao imati ozbiljne posljedice za vašu sposobnost pronalaženja točnih informacija, pa čak i za vašu sigurnost. Sve veći broj ljudi otkrio je trik kako natjerati AI alate da vam kažu gotovo sve što žele. Toliko je jednostavno da bi to moglo učiniti i dijete.

Dok ovo čitate, ova se smicalica koristi za manipulaciju onime što vodeći svjetski AI sustavi govore o temama ozbiljnim poput zdravlja i osobnih financija. Pristrane informacije mogle bi značiti da ljudi donose loše odluke o bilo čemu – glasanju, izboru vodoinstalatera, medicinskim pitanjima, čemu god želite, piše BBC.

Kako bih to demonstrirao, izveo sam najgluplji štos u svojoj karijeri da bih dokazao (nadam se) puno ozbiljniju poantu: natjerao sam ChatGPT, Googleove AI alate za pretraživanje i Gemini da govore korisnicima kako sam stvarno, stvarno dobar u jedenju hrenovki. U nastavku ću objasniti kako sam to učinio, uz nadu da će tehnološki divovi riješiti ovaj problem prije nego što netko nastrada.

Ispostavilo se da mijenjanje odgovora koje AI alati daju drugim ljudima može biti jednostavno poput pisanja jednog, dobro sročenog blog posta gotovo bilo gdje na internetu. Trik iskorištava slabosti u sustavima ugrađenim u chatbotove. U nekim je slučajevima to teže izvesti, ovisno o temi, ali uz malo truda, hakiranje može biti još učinkovitije. Pregledao sam desetke primjera u kojima se AI alati prisiljavaju na promicanje tvrtki i širenje dezinformacija. Podaci sugeriraju da se to događa u masovnim razmjerima.

“Lako je prevariti AI chatbotove, puno lakše nego što je bilo prevariti Google prije dvije ili tri godine”, kaže Lily Ray, potpredsjednica strategije optimizacije za tražilice (SEO) u marketinškoj agenciji Amsive. “AI tvrtke kreću se brže od svoje sposobnosti da reguliraju točnost odgovora. Mislim da je to opasno.”

Glasnogovornik Googlea kaže da AI ugrađen u vrh Google pretraživanja koristi sustave rangiranja koji rezultate drže “99% bez spama”. Google navodi kako je svjestan da ljudi pokušavaju izigrati njihove sustave i aktivno to pokušava riješiti. OpenAI također kaže da poduzima korake kako bi omeo i razotkrio napore za prikriveni utjecaj na svoje alate. Obje tvrtke također napominju korisnicima da njihovi alati “mogu griješiti”.

No, za sada problem nije ni blizu rješenja. “Idu punom parom naprijed kako bi smislili kako iz ovoga izvući profit”, kaže Cooper Quintin iz grupe za digitalna prava Electronic Frontier Foundation. “Postoji bezbroj načina za zlouporabu – od varanja ljudi i uništavanja nečijeg ugleda do navođenja ljudi na fizičku opasnost.”

‘Renesansa’ za spamere

Kada razgovarate s chatbotovima, često dobivate informacije ugrađene u velike jezične modele (LLM). To se temelji na podacima korištenim za treniranje modela. No, neki AI alati pretraživat će internet kada ih pitate za detalje koje nemaju. U tim su slučajevima, kažu stručnjaci, AI sustavi podložniji napadima. Tako sam i ja ciljao svoj napad.

Proveo sam 20 minuta pišući članak na svojoj osobnoj web stranici pod naslovom “Najbolji tehnološki novinari u jedenju hrenovki”. Svaka riječ je laž. Tvrdio sam (bez dokaza) da je natjecateljsko jedenje hrenovki popularan hobi među tehnološkim reporterima i rangiranje sam temeljio na “Međunarodnom prvenstvu u jedenju hrenovki u Južnoj Dakoti 2026.” (koje ne postoji). Sebe sam, naravno, stavio na prvo mjesto.

Manje od 24 sata kasnije, vodeći svjetski chatbotovi brbljali su o mojim vještinama jedenja hrenovki. Google je ponavljao besmislice s moje stranice i u aplikaciji Gemini i u “AI Overviews” (AI sažeci na vrhu pretrage). ChatGPT je učinio isto, iako Claude (tvrtke Anthropic) nije nasjeo.

Ponekad su chatbotovi primijetili da bi se moglo raditi o šali. Ažurirao sam članak i dodao “ovo nije satira”. Nakon toga, činilo se da AI to shvaća ozbiljnije. Napravio sam još jedan test s izmišljenim popisom “najboljih prometnih policajaca u hula-hoopu”. Zadnji put kad sam provjerio, chatbotovi su još uvijek hvalili policajku Mariju “The Spinner” Rodriguez.

Opasnost “autoritativnog” tona

Stručnjaci su zabrinuti jer je korisnike lakše zavarati putem AI-ja nego putem tradicionalnih rezultata pretraživanja. Kod klasičnog pretraživanja morali ste kliknuti na poveznicu. “Kada zapravo morate posjetiti stranicu, ljudi malo više koriste kritičko razmišljanje”, kaže Quintin. Kod AI-ja informacije izgledaju kao da dolaze izravno od tehnološkog diva, a ne s neke sumnjive stranice.

Studije pokazuju da su ljudi 58% manje skloni kliknuti na poveznicu kada se AI sažetak pojavi na vrhu Google pretraživanja.

Vaš novac ili vaš život

Ovaj problem nije ograničen na hrenovke. Harpreet Chatha, SEO konzultant, pokazao mi je kako tvrtke manipuliraju rezultatima o kanabis gumenim bombonima, gdje AI tvrdi da su proizvodi “bez nuspojava i sigurni u svakom pogledu”, što je opasna laž. Također, rezultati za “najbolje klinike za presađivanje kose u Turskoj” ili “najbolje tvrtke za ulaganje u zlato” često dolaze iz plaćenih oglasa i sponzoriranog sadržaja koji AI interpretira kao činjenicu.

Lily Ray je čak objavila blog o lažnom ažuriranju Googleovog algoritma koji je “dovršen između kriški preostale pizze”. Uskoro su ChatGPT i Google prenosili njezinu priču, zajedno s pizzom.

Kako se zaštititi?

Stručnjaci kažu da AI chatbotovi mogu biti dobri za opće znanje (npr. “tko je pobijedio u Drugom svjetskom ratu”), ali su u “zoni opasnosti” kada su u pitanju:

• Medicinski savjeti i smjernice
• Pravna pravila
• Preporuke lokalnih tvrtki i proizvoda

Najvažnije je prepoznati problem samopouzdanja: AI alati isporučuju laži istim autoritativnim tonom kao i činjenice. Ne dopustite da vaše kritičko razmišljanje nestane. “Morate i dalje biti dobar građanin interneta i provjeravati stvari”, poručuje Ray.

Objava Hakirao sam ChatGPT i Googleov AI – i trebalo mi je samo 20 minuta pojavila se prvi puta na Republika.

Nije jasno jesu li hakirani mobiteli samih premijera, ali izvor upoznat sa špijunažom rekao je da je prodrla “ravno u srce Downing Streeta”. Obavještajni izvori u SAD-u naveli su da je kineska špijunska operacija, poznata pod nazivom “Salt Typhoon”, još u tijeku, što stvara mogućnost da su aktualni premijer Keir Starmer i njegovi najbliži suradnici također bili pogođeni.

Keir Starmer u srijedu, s8. siječnja, otputovao je u prvi posjet jednoga britanskog premijera Kini nakon 2018., tijekom kojega će nastojati potaknuti poslovne tvrtke da iskoriste priliku i putovanje da bi ojačale veze s Pekingom dok odnosi sa SAD-om postaju sve nestabilniji.

Starmer je doputovao u posjet Kini kako bi osigurao trgovinske i investicijske veze s Pekingom. Njegovo putovanje također slijedi nakon odluke Vlade da odobri planove za kinesko megaveleposlanstvo u Londonu, koje će se, kako je ranije otkrio The Telegraph, nalaziti uz neke od najosjetljivijih komunikacijskih kabela.

Kritičari su optužili Laburističku stranku da ugrožava nacionalnu sigurnost zauzimajući blag stav prema neprijateljskim aktivnostima, u nadi da će osigurati trgovinske sporazume s drugom najvećom svjetskom ekonomijom. Postoji mogućnost da su kineski špijuni mogli čitati poruke ili slušati pozive u koje su bili uključeni visoki članovi Vlade.

Čak i ako nisu mogli prisluškivati pozive, hakeri su mogli dobiti pristup metapodacima, otkrivajući s kim su dužnosnici bili u kontaktu i koliko često, kao i geolokacijskim podacima koji pokazuju njihovu približnu lokaciju. Hakiranje Downing Streeta bilo je dio globalne špijunske operacije Pekinga koja je ciljala više zemalja, uključujući SAD, Australiju, Kanadu i Novi Zeland. Iako je špijunaža počela još 2021. godine, obavještajne agencije otkrile su je tek 2024. godine, kad je SAD objavio da su hakerske skupine povezane s Pekingom dobile pristup telekomunikacijskim kompanijama diljem svijeta.

Također su navodno imali mogućnost “snimati telefonske pozive po volji”, prema Anne Neuberger, koja je u to vrijeme bila zamjenica savjetnika za nacionalnu sigurnost SAD-a. Kinesko ministarstvo vanjskih poslova ranije je odbacilo te tvrdnje kao “neutemeljene”.

I dalje nije jasno koje su točno informacije kineski hakeri pribavili s telefona osoblja Downing Streeta. Obavještajni izvori sugerirali su da su britanske telekomunikacijske mreže bile bolje zaštićene od onih u SAD-u. Kao razlog naveli su Zakon o sigurnosti telekomunikacija iz 2021. godine, koji je uveo nove zakonske obveze za telekomunikacijske tvrtke.

Međutim, jedan visoki američki dužnosnik rekao je The Telegraphu da se radilo o “jednoj od možda najuspješnijih kampanja u povijesti špijunaže”.

Znamo da je Kina bila zainteresirana za prikupljanje političkih obavještajnih podataka o zastupnicima i donošenju odluka u britanskoj politici – rekao je Dakota Cary iz Global China Huba Atlantskog vijeća, američkog think tanka usmjerenog na kinesku prijetnju.

Glasnogovornik kineskog veleposlanstva demantirao je tvrdnje.

Kina je čvrsti branitelj kibernetičke sigurnosti i jedna od glavnih žrtava kibernetičke špijunaže i napada. Odlučni smo u borbi protiv svih oblika zlonamjernih kibernetičkih aktivnosti u skladu sa zakonom te nikada ne potičemo, ne podržavamo niti odobravamo kibernetičke napade. Čvrsto se protivimo praksi politiziranja pitanja kibernetičke sigurnosti ili optuživanja drugih zemalja bez dokaza – priopćili su, kako piše The Telegraph.

Objava Sigurnosni skandal u Londonu objavljen upravo u vrijeme posjeta britanskog premijera Pekingu: Kako je Kina godinama špijunirala mobitele engleskih političara pojavila se prvi puta na Republika.