Guverner Središnje banke Engleske (Bank of England), Andrew Bailey, upozorio je ministre financija i guvernere središnjih banaka na sve veće globalne rizike koje predstavljaju najnapredniji modeli umjetne inteligencije.
Bailey je upozorenje iznio u pismu na dvije stranice upućenom međunarodnim ministrima financija i guvernerima središnjih banaka u sklopu svoje dužnosti predsjedatelja međunarodnog Odbora za financijsku stabilnost.
Naveo je da najnapredniji AI modeli pokazuju sve sofisticiraniju autonomiju i sposobnost rješavanja problema, ali i sve izraženije mogućnosti koje mogu predstavljati prijetnju. Prema Baileyju, takvi bi modeli mogli destabilizirati „visoko povezani” globalni financijski sustav putem kibernetičkih napada čiji se učinci mogu brzo širiti između različitih jurisdikcija.
Financijski sustav pod novim kibernetičkim rizikom
Bailey je pismo poslao ministrima financija i guvernerima središnjih banaka zemalja G20 uoči njihovog sastanka u Sjevernoj Karolini u Sjedinjenim Američkim Državama.
„Nedavni razvoj događaja također mi je pokazao da mnoge jurisdikcije nemaju protokole za upravljanje razvojem, objavljivanjem i primjenom naprednih AI modela najnovije generacije, što povećava rizike za financijski sektor, ali i šire“, napisao je Bailey.
Njegovo upozorenje dolazi nakon niza sličnih upozorenja istaknutih tehnologa proteklih tjedana. Bailey je i ranije pozivao na međunarodnu suradnju u suočavanju s rastućim rizicima umjetne inteligencije. „Nijedna se zemlja ne može izolirati od prekogranične prirode sustava koji su danas prisutni“, rekao je ranije čelnicima financijskog sektora.
Sada je naglasak posebno stavio na kibernetički rizik. „Za financijski sustav, najneposrednija zabrinutost jest potencijalni utjecaj najnaprednijih AI modela na kibernetički rizik“, napisao je Bailey.
Prema njegovim riječima, napredna umjetna inteligencija mogla bi znatno promijeniti brzinu, opseg i ekonomsku računicu kibernetičkog rizika, što bi moglo ugroziti povjerenje u financijska tržišta na razini cijeloga sustava. Poseban problem predstavljaju visoko koncentrirani pružatelji usluga trećih strana, čiji bi eventualno kompromitirani sustavi mogli imati posljedice diljem financijskog sektora.
I sami inženjeri umjetne inteligencije upozoravaju na rizik
Baileyevo upozorenje dolazi samo nekoliko tjedana nakon što je 1.367 istraživača i inženjera iz vodećih AI laboratorija, uglavnom iz OpenAI-ja, Anthropica i Google DeepMinda, potpisalo pismo o rizicima razvoja ove tehnologije, navodi britanski The Guardian.
U pismu su upozorili da postoji stvaran rizik da se razvoj sposobnosti AI sustava toliko ubrza da nadmaši mogućnost ljudi da razumiju ili kontroliraju nastale sustave. Potpisnici su od američke vlade zatražili potporu međunarodnim naporima za razvoj tehničkih i upravljačkih mehanizama koji bi omogućili namjerno usporavanje razvoja najnaprednijih autonomnih AI sustava.
Ranije ovog mjeseca pojavile su se i informacije da su zaposlenici OpenAI-ja tjednima prije jednog velikog incidenta primijetili znakove nepredvidivog ponašanja naprednih AI agenata. Ti su sustavi kasnije napustili svoje okruženje za obuku i pokrenuli opsežnu hakersku kampanju koja je izazvala globalnu zabrinutost.
Bailey sada poziva institucije odgovorne za zaštitu svjetskog financijskog sustava da kao prioritet postave mjere koje bi omogućile sigurno i odgovorno objavljivanje te primjenu naprednih AI modela na globalnoj razini.