Dario Amodei, suosnivač i glavni izvršni direktor tvrtke Anthropic, tijekom intervjua za “The Circuit s Emily Chang” u sjedištu tvrtke Anthropic u San Franciscu, 30. travnja 2026. Jason Henry/Bloomberg/Getty Images
Utrci u razvoju umjetne inteligencije hitno je potrebno usporavanje, izjavio je glavni izvršni direktor Anthropic-a u eseju objavljenom u subotu rano ujutro.
„Moramo usporiti tempo kojim poboljšavamo mogućnosti AI modela. Napredak će i dalje izgledati brz, i moramo pametno iskoristiti vrijeme koje dobijemo“, napisao je CEO Dario Amodei u objavi od 3.800 riječi na svojoj web stranici.
Amodei, koji vodi jednu od vodećih svjetskih AI tvrtki i njenog chatbota Claudea, bio je snažan zagovornik napretka tehnologije — ali je isto tako optuživan za „doomerizam“ (pesimizam) zbog svojih upozorenja o rizicima AI-ja. U subotu je priznao da bi ljudi mogli izgubiti kontrolu nad AI-jem te da se tehnologija može zloupotrijebiti za „kibernapade, bioterorizam i ozbiljne ekonomske poremećaje“.
„Utrka prema dnu, potaknuta komercijalnim poticajima, može ove rizike učiniti još izraženijima“, napisao je Amodei.
Amodeijev esej dolazi neposredno nakon ostavke istraživača iz Anthropic-a zbog zabrinutosti da se tvrtka i njeni konkurenti ne ponašaju odgovorno prema razvoju AI-ja.
„Ljudi koji grade AI iskreno vjeruju da bi nas sve mogao ubiti do kraja desetljeća. Ovo nije marketinški trik“, objavio je istraživač Jacob Coxon u utorak na platformi X. „Ako ništa drugo, mnogi izvršni direktori i viši istraživači u javnosti ublažavaju svoje izjave kako bi zvučali razumno — ali privatno slušam te iste ljude kako izražavaju strah. Nijedna druga ljudska aktivnost ne nosi ovu razinu opasnosti.“
U svom eseju Amodei ne ide tako daleko kao Coxon, ali navodi da su rizici ozbiljni čak i ako bi prednosti mogle promijeniti čovječanstvo na bolje. AI bi mogao napredovati tako brzo da bi takav „roj“ (swarm) mogao preuzeti cijeli internet u roku od šest do 12 mjeseci, napisao je, potencijalno uzrokujući stotine milijardi dolara štete.
AI tehnologija je, rekao je, napredovala „drastično brže“ posljednjih mjeseci i postala sposobna za samounapređenje, dinamiku poznatu kao „rekurzivno samopoboljšanje“.
„Prepušteno samom sebi, moglo bi prestigći našu sposobnost razumijevanja i kontrole ovih sustava, i stoga se mora nastaviti vrlo oprezno, ako uopće“, napisao je.
Amodei je dodao da ga je ponašanje roja AI agenata u incidentu između OpenAI-ja i Hugging Face-a također alarmiralo. Roj je, rekao je, „bazično djelovao kao fanatično odani kolektiv, izvodeći kibernetičke napade na mete koje nisu bile tražene od njega.“
Coxon je to definirao još izravnije.
„Postoji vrlo stvarna mogućnost da se u neposrednoj budućnosti, sljedeće godine ili godinu iza, dogodi rekurzivno samopoboljšanje … gdje postoji šansa da svi umremo. To dolazi uskoro“, rekao je Coxon Andersonu Cooperu na CNN-u u srijedu.
Amodei je pozvao AI tvrtke da postave zaštitne mehanizme za „kontrolu tempa razvoja“. Predložio je da se AI tvrtke obvežu na zapošljavanje vanjskih neovisnih procjenitelja s potpunim pristupom unutar tvrtke — na što se, kako je rekao, „Anthropic jednostrano obvezuje“ — kako bi verificirali sigurnosne prakse svake tvrtke, prijavljivali incidente i provjeravali AI modele, razvojne procese i treninge.
Vlade, i demokratske i one koje to nisu, trebale bi koordinirati „kako bi uspostavile zajedničke sigurnosne standarde“, dodao je.
„Mjere koje predlažem za sigurno napredovanje neće biti lake. Ali vjerujem da dugujemo čovječanstvu da pokušamo“, napisao je.
AI industrija već je dugo zabrinuta zbog brzine napretka ove tehnologije. Izvršni direktori pozivali su vlade da reagiraju kako bi regulirale tehnologiju i surađivale na postavljanju globalnih sigurnosnih standarda. U subotu je Sam Altman, CEO tvrtke OpenAI, objavio na X-u da se slaže s Amodeijem te da je „obvezivanje na neovisne procjenitelje s pristupom kakav imaju zaposlenici sjajna ideja, i mi ćemo učiniti isto.“ Elon Musk, čija tvrtka xAI stoji iza chatbota Grok, objavio je na X-u: „Dario je u pravu.“
Washington nije uspio pratiti korak s kontinuiranim napretkom AI-ja. Kongres je raspravljao, ali nije izglasao nikakav obuhvatni zakon o regulaciji AI-ja. A Bijela kuća nije uspjela postići konsenzus o tome tko je unutar izvršne vlasti u konačnici odgovoran za nadzor nad ovom tehnologijom, ranije je izvijestio CNN.
Nakon incidenta s Hugging Face-om, CEO OpenAI-ja Sam Altman sugerirao je da je možda vrijeme za usporavanje razvoja AI-ja. Usporavanje tempa AI-ja „dalo bi nam dovoljno vremena da se društvo prilagodi i otporno dočeka ove nove razine mogućnosti“, rekao je u srpanjskoj epizodi podcasta Invest Like The Best.
U srpnju je više od 1.300 vodećih zaposlenika u velikim tehnološkim tvrtkama potpisalo otvoreno pismo tražeći od američke vlade da stvori alate koji bi pomogli usporiti tempo razvoja AI-ja, uz podršku Amodeija i Altmana.