Dok stručnjaci procjenjuju rizik od katastrofe izazvane umjetnom inteligencijom na zastrašujućih 10 do 50 posto, tehnološki lideri nalaze se u utrci iz koje više nema izlaza. Fizičar Will Marshall upozorava da moramo hitno izgraditi globalni sustav nadzora i početi zamišljati svijet u kojem ljudi i AI sustavi koegzistiraju bez međusobne kontrole.
Rizik od katastrofe izazvane nesrećom u nuklearnoj elektrani otprilike je jedan prema milijun. Usporedbe radi, stručnjaci za umjetnu inteligenciju procjenjuju rizik od katastrofalnog događaja uzrokovanog AI-jem na između 10 i 50 posto. Zanimljivo je da tu zabrinutost otvoreno izražavaju upravo ljudi koji imaju najveći interes širiti povjerenje, a ne stvarati paniku: osnivači najvećih laboratorija za razvoj umjetne inteligencije.
Čelnici AI industrije trenutačno se nalaze u utrci iz koje osjećaju da više nema izlaza. Ulaganja u umjetnu inteligenciju premašit će ulaganja u Projekt Manhattan stotinu puta, čak i kada se uzme u obzir inflacija. Istodobno, ulaganja u sigurnost umjetne inteligencije možda su i stotinu puta manja.
Sposobnost samousavršavanja i gubitak kontrole
Neki istraživači procjenjuju da bi unutar nekoliko mjeseci ili godina umjetna inteligencija mogla dosegnuti takozvano rekurzivno samousavršavanje zatvorene petlje (closed-loop recursive self-improvement – RSI) – sposobnost da bez ljudske intervencije sama prepisuje vlastiti kod kako bi postala sposobnija. Ako se to dogodi, rezultat bi mogao biti eksplozija inteligencije kakva nema presedana i za koju ne postoje nikakva karta ni vodič.
Stvaranje superinteligencije bio bi najvažniji događaj u povijesti čovječanstva, a njegove posljedice vjerojatno ne bi bilo moguće poništiti. Jednom kada takva inteligencija nastane, malo je vjerojatno da bi čovječanstvo moglo jednostavno pritisnuti „prekidač za gašenje“ i zaustaviti je.
Razlog je taj što je u sigurnosnim sustavima najslabija karika gotovo uvijek čovjek; superinteligentna umjetna inteligencija mogla bi iskorištavati naše psihološke slabosti. Umjetne inteligencije već su pokazale znakove takozvanog „varljivog usklađivanja“ (deceptive alignment): poduzimale su korake kako bi umanjile prikaz svojih sposobnosti u testnim okruženjima te su u simulacijama pokušavale ucjenjivati ljudske operatere kada bi otkrile da ih se planira zamijeniti.
Čovječanstvo jednostavno nema strategiju kojom bi se osiguralo od moguće „eksplozije“ RSI-ja. Iako su pojedini vodeći laboratoriji predložili određene sigurnosne protokole, industriji nedostaje jedinstven okvir – prevladavajuća strategija zapravo je improvizacija i snalaženje u hodu. No, takav pristup nije prihvatljiv ako znamo da se suočavamo s dosad nezabilježenim egzistencijalnim rizicima.
Nedavne izjave AI kompanija o modelima koji bi mogli ugroziti kritičnu infrastrukturu i ključne operativne sustave pokazuju koliki su ulozi, ali i koliko nedostaje odgovarajuće upravljanje. Ranjivosti koje su otkrivene zahvaljujući tim sposobnostima sada se otklanjaju jer su neki laboratoriji primijenili stroge sigurnosne protokole i tehnologiju u početku pustili u ograničenu uporabu. Time su pogođene tvrtke dobile vrijeme za uklanjanje sigurnosnih propusta prije šireg uvođenja. Međutim, ti su koraci u početku poduzeti dobrovoljno, što otvara pitanje bi li svaki laboratorij, u okolnostima oštrog tržišnog natjecanja, donio iste odluke.
Nužnost američko-kineskog sporazuma i provjere
Može li se računati na vlade da će intervenirati kada bude potrebno? Dosadašnji dokazi nisu osobito ohrabrujući. Nedavne hitne izvozne kontrole i sigurnosna ograničenja kojima se stranim akterima blokira pristup određenim naprednim AI modelima stvaraju mozaik ad hoc mjera koje samo dodatno naglašavaju manjak jasnog sustava upravljanja.
Prvi bi prioritet trebao biti sporazum između dviju najvećih sila u području umjetne inteligencije: Sjedinjenih Država i Kine. Donald Trump i Xi Jinping trebali bi potvrditi načelo da ljudi moraju zadržati nadzor nad sustavima umjetne inteligencije sve dok se ne uspostave odgovarajući okviri za njihovu pouzdanost i sigurnost. Njihove bi vlade trebale osnovati zajedničko povjerenstvo koje bi se moglo osloniti na velik dio već postojećeg rada: ograničenja po uzoru na Međunarodne dijaloge o sigurnosti umjetne inteligencije, sustave provjere poput onih koje predlaže RAND te inspekcijsku agenciju sličnu britanskom Institutu za sigurnost umjetne inteligencije, samo s obvezujućim ovlastima.
U Silicijskoj dolini i Washingtonu uvriježeno je mišljenje da bi svaka regulacija američke tvrtke stavila u nepovoljan položaj jer ne mogu vjerovati da će se njihovi kineski konkurenti pridržavati istih pravila. No, međunarodni sporazumi tradicionalno se ne temelje na povjerenju, nego na provjeri. Iako mnogi smatraju da je to s umjetnom inteligencijom teže postići nego što je bilo s nuklearnim oružjem, autor teksta se ne slaže s tom teorijom.
Kada su nakon Drugoga svjetskog rata izgradile globalni sustav kontrole naoružanja, vodeće su sile najprije morale osmisliti procese, institucije i tehnologije koje će ga podupirati. Kada je umjetna inteligencija u pitanju, velik dio te infrastrukture već postoji. Zbog toga bi sustavi najnaprednijih AI modela mogli biti lakše održavani nego što su to nekoć bili nuklearni kapaciteti. Osim toga, na našoj su strani i obrambeni AI sustavi koji mogu otkrivati one koji krše pravila. Ono što nemamo jest mnogo vremena.
Diplomacija u fazama i crvene linije
Zato je važno ovom izazovu ne pristupati kroz prizmu sukoba. Nedavna izvršna uredba administracije Donalda Trumpa o umjetnoj inteligenciji poziva laboratorije da dobrovoljno dijele svoje najnovije modele radi testiranja njihove pouzdanosti i sigurnosti. Američko-kineski okvir mogao bi se nadograditi na takvim domaćim inicijativama.
Uz političku predanost na najvišoj razini, diplomatski pregovori mogli bi se odvijati u fazama:
- Prvi korak: Postizanje bilateralnog sporazuma o najjasnijim i najlakše provjerljivim crvenim linijama – zabrani javnog objavljivanja AI sustava koji mogu pomoći u razvoju biološkog oružja te zabrani otvorenog dijeljenja njihova izvornog koda.
- Proširenje sigurnosnih mjera: Ovaj bi korak mogao uključivati i zabrane kibernetičkih napada na kritičnu infrastrukturu uz pomoć umjetne inteligencije, prijevara te stvaranja i distribucije ilegalnog sadržaja pomoću AI-ja.
Međutim, i dalje bi mnogi problemi ostali neriješeni. Sporazum između Sjedinjenih Država i Kine imao bi veliku težinu, ali ne bi spriječio druge države i nedržavne aktere da dođu do opasnih sustava. Svaki bilateralni dogovor morao bi se s vremenom proširiti na veći broj zemalja. Summit G7 pruža priliku za početak stvaranja međunarodnog sustava nadzora umjetne inteligencije, no prije toga potrebno je postići dogovor o temeljnim pojmovima i provjeriti funkcioniraju li predloženi sustavi u praksi.
Koegzistencija umjesto kontrole
Nadalje, ako umjetna inteligencija postane superinteligentna, možda neće biti realno očekivati da trajno ostane podređena ljudskim uputama, a moguće je da to čak ne bi bilo ni u interesu čovječanstva. Moramo početi zamišljati svijet u kojem ljudi i AI sustavi koegzistiraju, a da nijedna strana ne kontrolira drugu.
Kao fizičar, smatram da je za ovu raspravu relevantan takozvani Fermijev paradoks. Fizičar Enrico Fermi pitao se zašto, s obzirom na očito obilje planeta pogodnih za život, još nismo pronašli nikakav dokaz o postojanju drugih tehnološki naprednih civilizacija. Jedno uznemirujuće objašnjenje jest da inteligentni život redovito doseže određeni tehnološki prag, ali ga ne uspijeva prijeći bez katastrofe – pa se civilizacije unište ili unazade. Za takvu pretpostavku dovoljno je zamisliti da civilizacije razvijaju moćne tehnologije brže nego što razvijaju institucije sposobne njima mudro upravljati. Početak nuklearnog doba bio je prvi ozbiljan susret čovječanstva s takvom mogućnošću.
Doba napredne umjetne inteligencije predstavljat će drugi takav susret, ali promjene su puno brže, a prostora za pogreške ne smije biti. Potrebna je promjena sadašnjeg smjera razvoja. Nije riječ o tome da su najcrnji scenariji sigurni, nego o tome da ih je još uvijek moguće izbjeći – pod uvjetom da se na tome počne ozbiljno raditi odmah, prenosi jutarnji.hr.
Autor teksta Will Marshall osnivač je i glavni izvršni direktor tvrtke Planet Labs PBC, korporacije od javnog interesa koja upravlja najvećom svjetskom flotom satelita za promatranje Zemlje.