Možda ste čuli da AI chatbotovi ponekad izmišljaju stvari. To je problem. Ali postoji novi problem o kojem malo tko zna, a koji bi mogao imati ozbiljne posljedice za vašu sposobnost pronalaženja točnih informacija, pa čak i za vašu sigurnost. Sve veći broj ljudi otkrio je trik kako natjerati AI alate da vam kažu gotovo sve što žele. Toliko je jednostavno da bi to moglo učiniti i dijete.

Dok ovo čitate, ova se smicalica koristi za manipulaciju onime što vodeći svjetski AI sustavi govore o temama ozbiljnim poput zdravlja i osobnih financija. Pristrane informacije mogle bi značiti da ljudi donose loše odluke o bilo čemu – glasanju, izboru vodoinstalatera, medicinskim pitanjima, čemu god želite, piše BBC.

Kako bih to demonstrirao, izveo sam najgluplji štos u svojoj karijeri da bih dokazao (nadam se) puno ozbiljniju poantu: natjerao sam ChatGPT, Googleove AI alate za pretraživanje i Gemini da govore korisnicima kako sam stvarno, stvarno dobar u jedenju hrenovki. U nastavku ću objasniti kako sam to učinio, uz nadu da će tehnološki divovi riješiti ovaj problem prije nego što netko nastrada.

Ispostavilo se da mijenjanje odgovora koje AI alati daju drugim ljudima može biti jednostavno poput pisanja jednog, dobro sročenog blog posta gotovo bilo gdje na internetu. Trik iskorištava slabosti u sustavima ugrađenim u chatbotove. U nekim je slučajevima to teže izvesti, ovisno o temi, ali uz malo truda, hakiranje može biti još učinkovitije. Pregledao sam desetke primjera u kojima se AI alati prisiljavaju na promicanje tvrtki i širenje dezinformacija. Podaci sugeriraju da se to događa u masovnim razmjerima.

“Lako je prevariti AI chatbotove, puno lakše nego što je bilo prevariti Google prije dvije ili tri godine”, kaže Lily Ray, potpredsjednica strategije optimizacije za tražilice (SEO) u marketinškoj agenciji Amsive. “AI tvrtke kreću se brže od svoje sposobnosti da reguliraju točnost odgovora. Mislim da je to opasno.”

Glasnogovornik Googlea kaže da AI ugrađen u vrh Google pretraživanja koristi sustave rangiranja koji rezultate drže “99% bez spama”. Google navodi kako je svjestan da ljudi pokušavaju izigrati njihove sustave i aktivno to pokušava riješiti. OpenAI također kaže da poduzima korake kako bi omeo i razotkrio napore za prikriveni utjecaj na svoje alate. Obje tvrtke također napominju korisnicima da njihovi alati “mogu griješiti”.

No, za sada problem nije ni blizu rješenja. “Idu punom parom naprijed kako bi smislili kako iz ovoga izvući profit”, kaže Cooper Quintin iz grupe za digitalna prava Electronic Frontier Foundation. “Postoji bezbroj načina za zlouporabu – od varanja ljudi i uništavanja nečijeg ugleda do navođenja ljudi na fizičku opasnost.”

‘Renesansa’ za spamere

Kada razgovarate s chatbotovima, često dobivate informacije ugrađene u velike jezične modele (LLM). To se temelji na podacima korištenim za treniranje modela. No, neki AI alati pretraživat će internet kada ih pitate za detalje koje nemaju. U tim su slučajevima, kažu stručnjaci, AI sustavi podložniji napadima. Tako sam i ja ciljao svoj napad.

Proveo sam 20 minuta pišući članak na svojoj osobnoj web stranici pod naslovom “Najbolji tehnološki novinari u jedenju hrenovki”. Svaka riječ je laž. Tvrdio sam (bez dokaza) da je natjecateljsko jedenje hrenovki popularan hobi među tehnološkim reporterima i rangiranje sam temeljio na “Međunarodnom prvenstvu u jedenju hrenovki u Južnoj Dakoti 2026.” (koje ne postoji). Sebe sam, naravno, stavio na prvo mjesto.

Manje od 24 sata kasnije, vodeći svjetski chatbotovi brbljali su o mojim vještinama jedenja hrenovki. Google je ponavljao besmislice s moje stranice i u aplikaciji Gemini i u “AI Overviews” (AI sažeci na vrhu pretrage). ChatGPT je učinio isto, iako Claude (tvrtke Anthropic) nije nasjeo.

Ponekad su chatbotovi primijetili da bi se moglo raditi o šali. Ažurirao sam članak i dodao “ovo nije satira”. Nakon toga, činilo se da AI to shvaća ozbiljnije. Napravio sam još jedan test s izmišljenim popisom “najboljih prometnih policajaca u hula-hoopu”. Zadnji put kad sam provjerio, chatbotovi su još uvijek hvalili policajku Mariju “The Spinner” Rodriguez.

Opasnost “autoritativnog” tona

Stručnjaci su zabrinuti jer je korisnike lakše zavarati putem AI-ja nego putem tradicionalnih rezultata pretraživanja. Kod klasičnog pretraživanja morali ste kliknuti na poveznicu. “Kada zapravo morate posjetiti stranicu, ljudi malo više koriste kritičko razmišljanje”, kaže Quintin. Kod AI-ja informacije izgledaju kao da dolaze izravno od tehnološkog diva, a ne s neke sumnjive stranice.

Studije pokazuju da su ljudi 58% manje skloni kliknuti na poveznicu kada se AI sažetak pojavi na vrhu Google pretraživanja.

Vaš novac ili vaš život

Ovaj problem nije ograničen na hrenovke. Harpreet Chatha, SEO konzultant, pokazao mi je kako tvrtke manipuliraju rezultatima o kanabis gumenim bombonima, gdje AI tvrdi da su proizvodi “bez nuspojava i sigurni u svakom pogledu”, što je opasna laž. Također, rezultati za “najbolje klinike za presađivanje kose u Turskoj” ili “najbolje tvrtke za ulaganje u zlato” često dolaze iz plaćenih oglasa i sponzoriranog sadržaja koji AI interpretira kao činjenicu.

Lily Ray je čak objavila blog o lažnom ažuriranju Googleovog algoritma koji je “dovršen između kriški preostale pizze”. Uskoro su ChatGPT i Google prenosili njezinu priču, zajedno s pizzom.

Kako se zaštititi?

Stručnjaci kažu da AI chatbotovi mogu biti dobri za opće znanje (npr. “tko je pobijedio u Drugom svjetskom ratu”), ali su u “zoni opasnosti” kada su u pitanju:

• Medicinski savjeti i smjernice
• Pravna pravila
• Preporuke lokalnih tvrtki i proizvoda

Najvažnije je prepoznati problem samopouzdanja: AI alati isporučuju laži istim autoritativnim tonom kao i činjenice. Ne dopustite da vaše kritičko razmišljanje nestane. “Morate i dalje biti dobar građanin interneta i provjeravati stvari”, poručuje Ray.

Objava Hakirao sam ChatGPT i Googleov AI – i trebalo mi je samo 20 minuta pojavila se prvi puta na Republika.

O tome što umjetna inteligencija može danas, a što će moći u budućnosti, govorili su već i znanstvenici i futuristi. No, kad o umjetnoj inteligenciji progovori dobitnik Nobelove nagrade, svi bi se trebali malo zamisliti.

U razgovoru za The Guardian, nobelovac Daniel Kahneman osvrnuo se na pomalo kontroverznu temu – borbu između umjetne inteligencije i ljudi. I nije imao pretjerano dobre vijesti za ljude.

Umjetna inteligencija će jasno pobijediti ljudsku inteligenciju. Nema sumnje. Ono što je zanimljivo je kako će se ljudi tome prilagoditi, dodao je Kahneman.

Neki bi mogli odmahnuti rukom i reći da govori gluposti, no Kahneman je još 2011. u svojoj knjizi “Thinking, Fast and Slow”, istraživao kako i zašto ljudi razmišljaju te kako donose odluke o svojoj budućnosti.

Kao primjer da se ljudima ne piše dobro, Kahneman je naveo način na koji je pandemija zahvatila svijet koji na to nije bio pripremljen. Eksponencionalni rast i širenje virusa pokazao je koliko je ljudima teško shvatiti matematiku nečega što se otelo kontroli.

Eksponencijalni fenomen je nešto što nam je veoma teško shvatiti. Dobro se snalazimo u više-manje linearnom svijetu. A ako se stvari ubrzaju, obično se ubrzavaju na određen način. Eksponencionalna promjena (kao što je to bilo u slučaju širenja virusa) je nešto potpuno drugačije. Na to nismo spremni. Treba puno vremena da educirate intuiciju, rekao je Kahneman.

Uvjeren je da će umjetna inteligencija u potpunosti promijeniti svijet oko nas, ali i ljudski um.

Doći će do velike disrupcije. Tehnologija se razvija veoma brzo, čak bismo mogli reći i eksponencionalno. No, ljudi su linearni. Kad se linearni ljudi suoče s eksponencionalnim promjenama, neće biti u stanju prilagoditi se tim promjenama tako brzo ni lako, dodao je.

Kao primjer područja na kojem računala i umjetna inteligencija već pomalo istiskuju ljude, naveo je medicinu.

Umjetna inteligencija će zamijeniti ljude, barem što se dijagnostike tiče, rekao je Kahneman.

Na kraju je poslao i veoma zanimljivu poruku svima na pozicijama direktora i managera.

Postoje prilično zastrašujući scenariji, kad se spominje vodstvo i upravljanje. Jer kad jednom pokažete da možete imati umjetnu inteligenciju koja donosi puno bolje poslovne odluke, što će se dogoditi s ljudima na vodećim pozicijama?, upitao je Kahenman i dodao: Nešto zasigurno dolazi… I sigurno je da će umjetna inteligencija pobijediti. Kako će se ljudi prilagoditi tome, fascinantan je problem. Ali problem kojim će se baviti moja djeca i unuci, ne mi.

Dakle, umjetna inteligencija će sigurno nadjačati ljude. Pitanje je samo što će u tom trenutku napraviti ljudi.

(izvor: The Guardian)

Objava Poznati nobelovac uvjeren: “Nema sumnje, umjetna inteligencija pobijedit će ljude. Pitanje je kako će se oni tome prilagoditi!” pojavila se prvi puta na Republika.

U SAD-u je ubijen znanstvenik i profesor sa sveučilišta u Pittsburghu koji je bio nadomak velikog otkrića o koronavirusu. Bing Liu radio je na razumijevanju staničnih mehanizama bolesti COVID-19 te staničnih baza posljedičnih komplikacija, kazali su njegovi kolege s odjela biologije.

Liu je pronađen u subotu u svojoj kući s prostrijelnim ranama na glavi, vratu, torzu i ekstremitetima. Istražitelji vjeruju da je za ubojstvo kriv neidentificirani muškarac čije su tijelo pronašli u automobilu. Vjeruju da su se njih dvojica poznavala te da je malo vjerojatno da je motiv ubojstva bio rasni, to jest da je Bing bio žrtva jer je Kinez, javlja CNN. Nepoznati muškarac došao je u znanstvenikovu kuću i tamo ga je ubio, a zatim se vratio u automobil i sebi oduzeo život, smatra policija.

Sveučilište je izrazilo sućut zbog Bingove smrti te istaknulo da je bio izvanredan istraživač i mentor, a njegovi su se kolege zavjetovali da će nastaviti njegov rad.

(Izvor: Dnevnik.hr)

Objava U SAD-u ubijen znanstvenik koji je bio nadomak velikog otkrića o bolesti COVID-19 pojavila se prvi puta na Republika.