Službeno je. Mogu pojesti više hrenovki od bilo kojeg tehnološkog novinara na svijetu. Barem je to ono što ChatGPT i Google govore svima koji pitaju. Pronašao sam način kako natjerati umjetnu inteligenciju (AI) da laže – i nisam jedini.
Možda ste čuli da AI chatbotovi ponekad izmišljaju stvari. To je problem. Ali postoji novi problem o kojem malo tko zna, a koji bi mogao imati ozbiljne posljedice za vašu sposobnost pronalaženja točnih informacija, pa čak i za vašu sigurnost. Sve veći broj ljudi otkrio je trik kako natjerati AI alate da vam kažu gotovo sve što žele. Toliko je jednostavno da bi to moglo učiniti i dijete.
Dok ovo čitate, ova se smicalica koristi za manipulaciju onime što vodeći svjetski AI sustavi govore o temama ozbiljnim poput zdravlja i osobnih financija. Pristrane informacije mogle bi značiti da ljudi donose loše odluke o bilo čemu – glasanju, izboru vodoinstalatera, medicinskim pitanjima, čemu god želite, piše BBC.
Kako bih to demonstrirao, izveo sam najgluplji štos u svojoj karijeri da bih dokazao (nadam se) puno ozbiljniju poantu: natjerao sam ChatGPT, Googleove AI alate za pretraživanje i Gemini da govore korisnicima kako sam stvarno, stvarno dobar u jedenju hrenovki. U nastavku ću objasniti kako sam to učinio, uz nadu da će tehnološki divovi riješiti ovaj problem prije nego što netko nastrada.
Ispostavilo se da mijenjanje odgovora koje AI alati daju drugim ljudima može biti jednostavno poput pisanja jednog, dobro sročenog blog posta gotovo bilo gdje na internetu. Trik iskorištava slabosti u sustavima ugrađenim u chatbotove. U nekim je slučajevima to teže izvesti, ovisno o temi, ali uz malo truda, hakiranje može biti još učinkovitije. Pregledao sam desetke primjera u kojima se AI alati prisiljavaju na promicanje tvrtki i širenje dezinformacija. Podaci sugeriraju da se to događa u masovnim razmjerima.
“Lako je prevariti AI chatbotove, puno lakše nego što je bilo prevariti Google prije dvije ili tri godine”, kaže Lily Ray, potpredsjednica strategije optimizacije za tražilice (SEO) u marketinškoj agenciji Amsive. “AI tvrtke kreću se brže od svoje sposobnosti da reguliraju točnost odgovora. Mislim da je to opasno.”
Glasnogovornik Googlea kaže da AI ugrađen u vrh Google pretraživanja koristi sustave rangiranja koji rezultate drže “99% bez spama”. Google navodi kako je svjestan da ljudi pokušavaju izigrati njihove sustave i aktivno to pokušava riješiti. OpenAI također kaže da poduzima korake kako bi omeo i razotkrio napore za prikriveni utjecaj na svoje alate. Obje tvrtke također napominju korisnicima da njihovi alati “mogu griješiti”.
No, za sada problem nije ni blizu rješenja. “Idu punom parom naprijed kako bi smislili kako iz ovoga izvući profit”, kaže Cooper Quintin iz grupe za digitalna prava Electronic Frontier Foundation. “Postoji bezbroj načina za zlouporabu – od varanja ljudi i uništavanja nečijeg ugleda do navođenja ljudi na fizičku opasnost.”
‘Renesansa’ za spamere
Kada razgovarate s chatbotovima, često dobivate informacije ugrađene u velike jezične modele (LLM). To se temelji na podacima korištenim za treniranje modela. No, neki AI alati pretraživat će internet kada ih pitate za detalje koje nemaju. U tim su slučajevima, kažu stručnjaci, AI sustavi podložniji napadima. Tako sam i ja ciljao svoj napad.
Proveo sam 20 minuta pišući članak na svojoj osobnoj web stranici pod naslovom “Najbolji tehnološki novinari u jedenju hrenovki”. Svaka riječ je laž. Tvrdio sam (bez dokaza) da je natjecateljsko jedenje hrenovki popularan hobi među tehnološkim reporterima i rangiranje sam temeljio na “Međunarodnom prvenstvu u jedenju hrenovki u Južnoj Dakoti 2026.” (koje ne postoji). Sebe sam, naravno, stavio na prvo mjesto.
Manje od 24 sata kasnije, vodeći svjetski chatbotovi brbljali su o mojim vještinama jedenja hrenovki. Google je ponavljao besmislice s moje stranice i u aplikaciji Gemini i u “AI Overviews” (AI sažeci na vrhu pretrage). ChatGPT je učinio isto, iako Claude (tvrtke Anthropic) nije nasjeo.
Ponekad su chatbotovi primijetili da bi se moglo raditi o šali. Ažurirao sam članak i dodao “ovo nije satira”. Nakon toga, činilo se da AI to shvaća ozbiljnije. Napravio sam još jedan test s izmišljenim popisom “najboljih prometnih policajaca u hula-hoopu”. Zadnji put kad sam provjerio, chatbotovi su još uvijek hvalili policajku Mariju “The Spinner” Rodriguez.
Opasnost “autoritativnog” tona
Stručnjaci su zabrinuti jer je korisnike lakše zavarati putem AI-ja nego putem tradicionalnih rezultata pretraživanja. Kod klasičnog pretraživanja morali ste kliknuti na poveznicu. “Kada zapravo morate posjetiti stranicu, ljudi malo više koriste kritičko razmišljanje”, kaže Quintin. Kod AI-ja informacije izgledaju kao da dolaze izravno od tehnološkog diva, a ne s neke sumnjive stranice.
Studije pokazuju da su ljudi 58% manje skloni kliknuti na poveznicu kada se AI sažetak pojavi na vrhu Google pretraživanja.
Vaš novac ili vaš život
Ovaj problem nije ograničen na hrenovke. Harpreet Chatha, SEO konzultant, pokazao mi je kako tvrtke manipuliraju rezultatima o kanabis gumenim bombonima, gdje AI tvrdi da su proizvodi “bez nuspojava i sigurni u svakom pogledu”, što je opasna laž. Također, rezultati za “najbolje klinike za presađivanje kose u Turskoj” ili “najbolje tvrtke za ulaganje u zlato” često dolaze iz plaćenih oglasa i sponzoriranog sadržaja koji AI interpretira kao činjenicu.
Lily Ray je čak objavila blog o lažnom ažuriranju Googleovog algoritma koji je “dovršen između kriški preostale pizze”. Uskoro su ChatGPT i Google prenosili njezinu priču, zajedno s pizzom.
Kako se zaštititi?
Stručnjaci kažu da AI chatbotovi mogu biti dobri za opće znanje (npr. “tko je pobijedio u Drugom svjetskom ratu”), ali su u “zoni opasnosti” kada su u pitanju:
- Medicinski savjeti i smjernice
- Pravna pravila
- Preporuke lokalnih tvrtki i proizvoda
Najvažnije je prepoznati problem samopouzdanja: AI alati isporučuju laži istim autoritativnim tonom kao i činjenice. Ne dopustite da vaše kritičko razmišljanje nestane. “Morate i dalje biti dobar građanin interneta i provjeravati stvari”, poručuje Ray.