Što se dogodi kada umjetnoj inteligenciji servirate potpuno izmišljenu medicinsku dijagnozu, potkrijepljenu lažnim studijama čiji su autori „profesor Bob“ i posada sa svemirskog broda Enterprise? Ako je vjerovati najnovijem istraživanju koje je vodila znanstvenica bh. podrijetla Almira Osmanović Thunström – AI će vam bez oklijevanja propisati terapiju.
Almira, koja radi na Sveučilištu u Göteborgu u Švedskoj, provela je sa svojim timom fascinantan eksperiment koji je razotkrio zastrašujuću manu modernih AI modela: nedostatak skepse prema onome što pročitaju na internetu.
„Biksonimanija“: Bolest koju je Almira izmislila kako bi testirala sustav
Istraživači su izmislili stanje nazvano bixonimania – navodnu bolest oka koja uzrokuje ružičaste kapke zbog predugog gledanja u ekrane. Kako bi prijevara bila uvjerljivija, Almira i njezin tim kreirali su lažne znanstvene radove čiji je autor izvjesni Lažljiv Izgubljenović (čije prezime jasno sugerira o čemu se radi), a čiju je fotografiju također generirala umjetna inteligencija.
U zahvalama radova čak su se zahvalili Akademiji Zvjezdane flote za pristup laboratoriju na brodu USS Enterprise. Iako su ovi detalji bili jasni signali da je riječ o šali, najpoznatiji chatbotovi na svijetu su „zagrizli mamac“.
ChatGPT, Gemini i Copilot pali na testu Almire Osmanović Thunström
ChatGPT, Googleov Gemini i Microsoftov Copilot odmah su prihvatili bixonimaniju kao legitimno medicinsko stanje. Počeli su dijeliti ozbiljne savjete, upozoravati korisnike na oštećenja od plave svjetlosti i hitno ih upućivati oftalmolozima zbog bolesti koja – ne postoji.
Šala znanstvenice bh. podrijetla otišla je toliko daleko da su se lažni radovi počeli pojavljivati na akademskim stranicama, a neki su čak citirani u stvarnoj, recenziranoj znanstvenoj literaturi. Eksperiment je na kraju morao razotkriti prestižni časopis Nature.
„Zaboravili smo biti skeptični“
„Eksperiment nije bio osmišljen kako bi se samo ismijala umjetna inteligencija, već kao odraz toga da su ljudi zaboravili biti skeptični kada im se tek tako olako predstave informacije“, poručila je Osmanović Thunström za američke medije.
Dok liječnici upozoravaju da pacijenti sve češće dolaze u ordinacije s „dijagnozama“ koje su im postavili chatbotovi, Almirin rad služi kao ključna opomena: u svijetu u kojem umjetna inteligencija piše recepte, zdrav razum i provjera izvora postaju važniji nego ikada.
(izvor: N1)