Scenariji koje Wooldridge navodi uključuju smrtonosne nadogradnje za autonomna vozila, hakiranja koja bi prizemljila zrakoplove ili kolaps velike tvrtke, piše jutarnji.hr.
Utrka za plasiranje umjetne inteligencije na tržište povećala je rizik od katastrofe nalik onoj s njemačkim zračnim brodom Hindenburgom, koja bi mogla poljuljati globalno povjerenje u tu tehnologiju, upozorava jedan od vodećih istraživača.
Michael Wooldridge, profesor koji se bavi umjetnom inteligencijom (AI) na Sveučilištu u Oxfordu, izjavio je da opasnost proizlazi iz golemih komercijalnih pritisaka pod kojima se nalaze tehnološke tvrtke kako bi izbacile nove AI alate, pri čemu kompanije grozničavo nastoje osvojiti korisnike prije nego što u potpunosti postanu jasne sposobnosti i potencijalni nedostaci tih proizvoda.
Naglo širenje AI chatbotova sa “sigurnosnim barijerama” koje se lako zaobilaze, pokazuje kako se komercijalni interesi stavljaju ispred opreznijeg razvoja i sigurnosnog testiranja, rekao je Wooldridge, kako prenosi britanski The Guardian. “To je klasičan tehnološki scenarij”, kazao je. “Imate tehnologiju koja je vrlo, vrlo obećavajuća, ali nije testirana onoliko rigorozno koliko biste željeli, a komercijalni pritisak iza nje je nepodnošljiv”.
Wooldridge, koji će u srijedu održati predavanje povodom nagrade Michael Faraday Kraljevskog društva pod naslovom “Ovo nije umjetna inteligencija koja nam je obećana”, kaže da je “Hindenburg moment” vrlo moguć dok tvrtke žure s uvođenjem naprednijih AI alata.
Rizik od mrtve tehnologije
Hindenburg, zračni brod dug 245 metara koji je obavljao povratne letove preko Atlantika, pripremao se za slijetanje u New Jerseyju 1937. godine kada se zapalio i u roku od nekoliko sekundi postao buktinja, pri čemu je poginulo 36 članova posade, putnika i zemaljskog osoblja. Požar je izazvala iskra koja je zapalila 200.000 kubičnih metara vodika koji je održavao zračni brod u zraku.
“Katastrofa Hindenburga uništila je globalni interes za zračne brodove – od tog trenutka to je postala mrtva tehnologija, a tome sličan trenutak predstavlja stvarni rizik za AI”, ističe Wooldridge. Budući da je umjetna inteligencija ugrađena u toliko mnogo sustava, veliki incident mogao bi pogoditi gotovo bilo koji sektor.
Scenariji koje Wooldridge navodi uključuju smrtonosne softverske nadogradnje za autonomna vozila, hakiranja pokretana umjetnom inteligencijom koja bi prizemljila zrakoplove globalnih zrakoplovnih kompanija ili kolaps neke velike tvrtke nalik slučaju banke Barings, uzrokovan time što bi AI učinio nešto glupo. “To su vrlo, vrlo vjerojatni scenariji… Postoji mnogo načina na koje bi AI mogao pred očima svekolike javnosti uzrokovati neko zlo”, rekao je.
Unatoč tim zabrinutostima, Wooldridge ističe kako mu nije namjera napadati modernu umjetnu inteligenciju. On polazi od razlike između onoga što su istraživači očekivali i onoga što se pojavilo. Mnogi su stručnjaci, kako prenosi Guardian, očekivali AI koji izračunava rješenja problema i daje odgovore koji su pouzdani i potpuni. “Suvremeni AI nije ni pouzdan ni potpun – vrlo je, vrlo približan”, rekao je.
To proizlazi iz činjenice da veliki jezični modeli, koji stoje u temelju današnjih AI chatbotova, generiraju odgovore predviđanjem iduće riječi ili dijela riječi na temelju distribucija vjerojatnosti usvojenih tijekom treniranja. To dovodi do AI sustava s “nazubljenim” sposobnostima – nevjerojatno učinkovit u nekim zadacima, ali vrlo loš u drugima.
Problem je, prema Wooldridgeu, u tome što AI chatbotovi nepredvidivo griješe i nemaju svijest o tome kada su u krivu, ali su dizajnirani da bez obzira na to pružaju samouvjerene odgovore. Kada su ti odgovori isporučeni u tonu nalik ljudskom i s podilaženjem, lako mogu dovesti ljude u zabludu, dodao je.
‘Trebamo AI iz Zvjezdanih staza‘
Rizik je, kako navodi Wooldridge, u tome da ljudi počnu tretirati AI kao da je čovjek. U istraživanju Centra za demokraciju i tehnologiju iz 2025. godine, gotovo trećina studenata izjavila je da su oni ili neki od njihovih prijatelja imali romantičnu vezu s AI-jem.
“Tvrtke žele predstaviti AI kao nešto s karakteristikama nalik ljudskima, ali mislim da je to vrlo opasan put”, rekao je Wooldridge. “Moramo razumjeti da su to samo računske tablice, alati i ništa više od toga”, upozorio je.
S druge strane, Wooldridge vidi pozitivne strane u tipu AI-ja kakav je prikazan u ranim godinama serije Zvjezdane staze. U jednoj epizodi iz 1968. godine pod nazivom “Dan golubice (The Day of the Dove)”, Spock ispituje računalo svemirskog broda Enterprise, a ono mu glasom i tonom izrazito malo nalik ljudskom odgovara da nema dovoljno podataka za odgovor.
“To nije ono što mi dobivamo. Mi dobivamo pretjerano samouvjeren AI koji kaže: ‘Da, evo odgovora‘… Možda nam je potreban AI koji će nam govoriti glasom računala iz Zvjezdanih staza. Nikada ne biste pomislili da je to ljudsko biće”, zaključuje Michael Wooldridge, kako je prenio The Guardian.