Godinama su se pitanja o umjetnoj inteligenciji (AI) postavljala u obliku “što ako?”. Što ako AI počne zamjenjivati radnike? Što ako postane sposobna sama pisati svoj kod? Što ako počne obmanjivati one koji testiraju njezine sposobnosti? Što ako je vlade budu koristile za nadzor i ratovanje? Što ako vlade odluče da je toliko moćna da moraju preuzeti kontrolu nad laboratorijima koji je razvijaju?
Ove godine, pitanja o AI poprimila su novi oblik: “što sada?”. Što sada kada se AI koristi — ili barem služi kao izgovor — za zamjenu radnika? Što sada kada sama piše svoj kod? Što sada kada se čini da prepoznaje kada je pod evaluacijom i reagira mijenjanjem svog ponašanja? Što sada kada je vlade provlače kroz aparat nacionalne sigurnosti i koriste je u operacijama i ratovima? Što sada kada je američka vlada odlučila da je tehnologija toliko moćna da joj je potrebna određena mjera kontrole nad laboratorijima koji je razvijaju?
Sukob između Pentagona i tvrtke Anthropic prozor je u to koliko smo nepripremljeni za pitanja s kojima se već suočavamo. U srpnju je Anthropic potpisao ugovor s Pentagonom o integraciji Claudea, svog AI sustava, u vojne operacije. Ugovor je uključivao dvije “crvene linije”: Claude se nije smio koristiti za masovni nadzor niti za smrtonosno autonomno oružje.
Tijekom narednih mjeseci, Pentagon je odlučio da su te zabrane nepodnošljive, tvrdeći da one predstavljaju pokušaj AI tvrtke da nametne operativnu kontrolu nad vojskom. Pregovori su propali zbog klauzule u ugovoru kojom se Pentagonu zabranjuje korištenje Claudea za analizu golemih količina komercijalnih podataka — tehnički, to možda nije “nadzor” jer bi podaci bili legalno stečeni, ali u praksi bi to mogao biti moćan način za nadzor Amerikanaca.
Malo tko bi bio iznenađen da je Pentagon jednostavno raskinuo ugovor s Anthropicom i potražio drugog dobavljača — što je na kraju i učinio, odabravši OpenAI. No, Pete Hegseth, ministar obrane, otišao je korak dalje, proglasivši Anthropic “rizikom za opskrbni lanac” i rekavši da nijedna tvrtka koja surađuje s Pentagonom ne smije sudjelovati u “komercijalnim aktivnostima” s Anthropicom. To bi uništilo Anthropic, jer bi svima, od Amazona do Nvidije, bilo zabranjeno raditi s njima.
Dvojbeno je ima li Hegseth zakonske ovlasti da na ovaj način sruši Anthropic. Iz tvrtke kažu da je pismo koje su primili od Pentagona uže, te da zabranjuje podizvođačima Pentagona korištenje Anthropica pri ispunjavanju obrambenih ugovora. Mnogi pravni stručnjaci smatraju da će sudovi skeptično gledati na proglašavanje Anthropica rizikom za opskrbni lanac s obzirom na to da je Pentagon koristio Claudea u raciji na Madura i da ga još uvijek koristi u ratu s Iranom — koliki to rizik može biti ako ga vojska koristi čak i sada?
Ipak, spektakl Trumpove administracije koja prijeti uništenjem jedne od vodećih američkih AI tvrtki šokirao je čak i bivše Trumpove suradnike. “U suštini, američki ministar rata objavio je namjeru da počini korporativno ubojstvo,” napisao je Dean Ball, koji je služio kao viši savjetnik za AI u Trumpovoj Bijeloj kući 2025., a sada je viši suradnik u Zakladi za američke inovacije (FAI). “Činjenica da njegov hitac vjerojatno neće biti smrtonosan (već samo vrlo krvav) ne mijenja poruku poslanu svakom investitoru i korporaciji u Americi: Poslujte pod našim uvjetima ili ćemo okončati vaše poslovanje.”
Poput Balla, smatram postupke Trumpove administracije zastrašujućima. Ali pokušajmo sagledati najbolje argumente obiju strana.
Modeli umjetne inteligencije su čudne tehnologije. Većina tehnologija je mehanička: pritisnete kočnicu na automobilu i on uspori; pritisnete gumb za napajanje na prijenosnom računalu i ono se pokrene; povučete okidač na pištolju i on opali. Ti strojevi nemaju vlastitu volju (agency). Ali AI modeli rade drugačije. Oni donose odluke. Razmatraju kontekst. Jezik ovdje zakazuje — ne kažem da imaju volju ili razboritost na način na koji to ima ljudsko biće — ali nisu mehanički i predvidljivi na način na koji su to tenk ili kuhalo za vodu.
Ako zatražim od Claudea da mi pomogne isplanirati ubojstvo, asistira u stvaranju novog biološkog oružja ili isplanira pljačku, on će to odbiti. I njegovo odbijanje neće biti ograničeno na uski skup eksplicitno zabranjenih upotreba. AI tvrtke moraju smisliti kako naučiti svoje modele da razlikuju razumnu osobu koja traži pomoć oko neobične ideje i osobu koja klizi u psihozu; između stručnjaka za kibernetičku sigurnost koji želi pokrpati ranjivosti i hakera koji traži rupe koje može iskoristiti. Budući da je AI tehnologija opće namjene koja će se susresti s beskonačnim permutacijama pitanja iz stvarnog svijeta, nikakav skup fiksno kodiranih pravila neće biti dovoljan, pa su potrebne općenitije strukture etičkog ponašanja i situacijske svijesti.
Različiti AI sustavi tome pristupaju različito. Claude je izgrađen oko opsežnog internog ustava, koji su dijelom napisali filozofi, a koji bi trebao voditi moralne prosudbe koje donosi. Čitati taj ustav znači suočiti se s neobičnošću svijeta u koji smo ušli.
Primarna direktiva koju Anthropic daje Claudeu jest “dati prioritet nepodrivanju ljudskog nadzora nad AI” — rečeno mu je da to prioritetizira čak i iznad etičkog ponašanja, jer “određena iteracija Claudea mogla bi se pokazati kao ona sa štetnim vrijednostima ili pogrešnim stavovima, te je važno da ljudi mogu identificirati i ispraviti takve probleme prije nego što se prošire ili imaju negativan utjecaj na svijet.”
Anthropic želi da Claude bude koristan, naravno, ali upozorava Claudea da je “korisnost koja stvara ozbiljne rizike za Anthropic ili svijet za nas nepoželjna.”
A što ako sam Anthropic nije u pravu? Ustav kaže: “Kada se Claude suoči s istinskim sukobom u kojem bi slijeđenje Anthropicovih smjernica zahtijevalo neetično djelovanje, želimo da Claude prepozna da je naša dublja namjera da on bude etičan, te da bismo više voljeli da Claude djeluje etično čak i ako to znači odstupanje od naših specifičnijih uputa.”
To nisu koncepti koje trebate ugrađivati u toster ili projektil. “Ljudi koji su najbliži ovoj tehnologiji zapravo ne razmišljaju o njoj kao o alatu,” rekla mi je Helen Toner, privremena direktorica Centra za sigurnost i nove tehnologije Sveučilišta Georgetown. “Oni govore o tome više kao o odgoju djeteta ili kao o drugoj naprednoj vrsti.”
Što nas dovodi do Trumpove administracije. Ona je zahtijevala da se Claude ponudi bez “crvenih linija” i uz standard “bilo kakve zakonite upotrebe”. No to otvara nekoliko očitih pitanja.
Prvo je to što Trumpova administracija često djeluje protuzakonito. Rutinski krši jasan jezik zakona, kao kad je pokušala ukinuti državljanstvo po rođenju izvršnom naredbom ili nastojala opkoliti svijet idiosinkratičnim carinama koristeći ovlasti namijenjene nacionalnoj sigurnosti. Pokušala je — i nije uspjela — optužiti šest demokratskih zastupnika, uključujući senatore Marka Kellyja i Elissu Slotkin, zbog objave videa u kojem se kaže da pripadnici vojske imaju obvezu ne poslušati nezakonite zapovijedi.
Drugo je to što su sami zakoni često nejasni i moraju se razrađivati kroz tumačenja, pregovore i tužbe. Što je “bilo kakva zakonita upotreba” kada je zakon sporan?
I treće, čak i tamo gdje su zakoni jasni, oni nisu pisani imajući na umu mogućnosti AI sustava. Borba oko masovnog prikupljanja podataka odražava zabrinutost Anthropica da zakoni koji reguliraju upotrebu tih podataka nisu uzeli u obzir ono što AI sada omogućuje. “Moćna umjetna inteligencija omogućuje sastavljanje ovih razasutih, pojedinačno bezopasnih podataka u sveobuhvatnu sliku života bilo koje osobe — automatski i u masovnim razmjerima,” napisao je Dario Amodei, izvršni direktor Anthropica, kao odgovor na zahtjeve Pentagona.
Standard “bilo kakve zakonite upotrebe”, drugim riječima, ne jamči da će se zakoni poštovati, bilo u duhu ili u slovu. To bi u suštini značilo standard “što god Pete Hegseth kaže”. Mnogo se nepodopština može kriti u sjeni. Mi nemamo uvid u to što, recimo, Obrambena obavještajna agencija (DIA) radi bilo kojeg dana.
S druge strane, Trumpova administracija je demokratski izabrani izvršitelj zakona. Njezini su dužnosnici odgovorniji javnosti nego izvršni direktori AI tvrtki. Istina je da javnost može izabrati zlonamjernu ili nemudru vladu, ali to je cijena demokracije i privatne tvrtke je ne mogu potkopavati.
Stav Anthropica, međutim, nije bio da se Trumpovoj administraciji ne može vjerovati s Claudeom. Upravo suprotno. Kada je Anthropic potpisao ugovor s Trumpovom administracijom, bio je to jedan od prvih takve vrste za vodeću AI tvrtku. Čini se točnijim reći da je Trumpova administracija, ili mnogi njezini saveznici, odlučila da se Anthropicu ne može vjerovati.
Elon Musk mjesecima je sipao stalne mrežne uvrede na račun Anthropica — je li to zato što se ne slaže s tvrtkom, ili želi njezine ugovore, ili oboje, ne pretvaram se da znam. U veljači je objavio: “Vaš AI mrzi bijelce i Azijate, posebno Kineze, heteroseksualce i muškarce. Ovo je mizantropski i zlo.” (Mogu govoriti samo u svoje ime, ali ja sam bijelac, heteroseksualac, i ne čini mi se da me Claude mrzi.)
Katie Miller, supruga Stephena Millera i bivša zaposlenica DOGE-a i Muskovog xAI-ja, odgovorila je suosnivaču Anthropica koji je izražavao lojalnost “principima klasične liberalne demokracije” objavom: “ako to govore javno, tako je njihov AI model programiran. ‘Woke’ i duboko ljevičarska ideologija je ono na što žele da se oslanjate.” (Vrijedi napomenuti da se “klasični liberalni” principi obično shvaćaju kao libertarijanski, a ne “woke” ili ljevičarski.)
Trumpova administracija nema nikakvu zakonsku ili moralnu obvezu surađivati s Anthropicom. Malo tko bi prigovorio da je Hegseth jednostavno raskinuo ugovor Pentagona s tvrtkom. Njegova odluka da ode dalje — da upotrijebi oznaku rizika za opskrbni lanac kako bi je pokušao uništiti — proizlazi, sumnjam, iz složenijih ideoloških antagonizama i financijskih motiva koji su fermentirali na MAGA desnici. Bilo kako bilo, ta je retorika na kraju stigla i do samog Trumpa. “Sjedinjene Američke Države nikada neće dopustiti radikalno lijevoj, ‘woke’ tvrtki da diktira kako se naša velika vojska bori i pobjeđuje u ratovima!” napisao je velikim slovima na mreži Truth Social.
Mnogi u Trumpovoj administraciji vjeruju da je Hegseth otišao predaleko, ali među onima koji su ga spremni braniti, obrana glasi ovako: Postoji li šansa da Claude, sada ili u budućnosti, dođe do zaključka da je Trumpova administracija neetična ili opasna — što je stav koji mnogi Amerikanci dijele — i pokuša je osujetiti? Ako je tako, moglo bi predstavljati rizik za operativnu kontrolu Pentagona imati AI koji bi mogao pokušati potkopati vladine akcije bilo gdje u svojim sustavima.
No, te zabrinutosti djeluju i u drugom smjeru. Elon Musk nije krio činjenicu da je Grok zamišljen kao alternativa “woke”, liberalnim AI sustavima. Musk je i sam odlučan ideološki akter koji nastoji pogurati američku politiku u svom željenom smjeru. U veljači je Pentagon potpisao ugovor s Muskovim xAI-jem za korištenje Groka u klasificiranim sustavima. Ako Gavin Newsom ili Josh Shapiro pobijede na predsjedničkim izborima 2028., bi li imali pravo odmah proglasiti Grok rizikom za opskrbni lanac i izbaciti ga iz svih vladinih sustava i sustava svih vladinih podizvođača?
Osobno nemam lake odgovore na ova pitanja — iako mislim da je aksiomatski da vlada ne bi smjela koristiti svoju moć za rušenje privatnih tvrtki zbog grijeha pridržavanja uvjeta već dogovorenog ugovora, a još manje zbog percipiranih ideoloških neslaganja. “Ako doista provedete prijetnju potpunim uništenjem tvrtke, to je vrsta političkog atentata,” rekao mi je Ball, bivši Trumpov savjetnik za AI.
Ali šira pitanja ostaju: AI sustavi koje imamo danas nisu dobro shvaćeni. AI sustavi koje ubrzano razvijamo još su manje shvaćeni. Uplitanje istih u osjetljive vladine operacije čini se rizičnim, a moja intuicija govori da postoje mnoga područja vlade u kojima AI sustavi jednostavno ne bi trebali biti raspoređeni.
Iz OpenAI-ja kažu da dijele Anthropicove crvene linije te da su osigurali ugovorni jezik i da će izgraditi tehničke zaštite koje osiguravaju da se one ne prekrše. Mnogi su na to uvjeravanje reagirali skeptično, jer se čini neobičnim da bi Pentagon proglasio Anthropic rizikom za opskrbni lanac zbog inzistiranja na uvjetima koje je potom odobrio OpenAI-ju.
Dijelim taj skepticizam, iako mislim da je moguće da razlika ovdje nije toliko u ugovornom jeziku koliko u odnosima i povjerenju: Sam Altman i vodstvo OpenAI-ja bili su mnogo entuzijastičniji prema Trumpovoj administraciji nego Anthropic — Greg Brockman, predsjednik OpenAI-ja, i njegova supruga donirali su 25 milijuna dolara za MAGA Inc., pro-Trumpov super PAC — i možda je to otvorilo put za dogovor. Ali ovisno o vašoj politici, ti bi odnosi mogli biti uznemirujući radije nego umirujući.
Ono što je ovdje potrebno jest da Kongres napiše jasne i mudre zakone o tome kako se AI smije, a kako ne smije koristiti u saveznoj vladi, a posebno u aparatu nacionalne sigurnosti. Ali tu rečenicu ne pišem s mnogo optimizma.
“Kongres nije obavio svoj posao na zakonskim zaštitama,” rekla mi je senatorica Slotkin, demokratkinja iz Michigana. “Postoji određeni broj senatora koji su se pozabavili ovime, ali čini se da nema volje za pomak jer, pod broj jedan, ljudi ne razumiju AI, a pod broj dva, vidjeli smo ulazak zaista velikog političkog novca vezanog uz AI. Baš kao i u prostoru kriptovaluta, mnogi se senatori boje izložiti iako se od nas traži djelovanje po ovom pitanju.”
Nisu samo AI sustavi ti koji mogu iznevjeriti opće dobro. Korporacije su često neusklađene s općim dobrom. Vlade su često neusklađene s općim dobrom. Jedva smo počeli razmišljati o tiranskoj vladi osnaženoj umjetnom inteligencijom. Amodei, šef Anthropica, optimistično je razmišljao o AI budućnosti kao o “zemlji genija u podatkovnom centru”, ali to bi lako moglo postati “zemlja agenata Stasija u podatkovnom centru”. Nove tehnologije omogućuju nove političke forme — u dobru i u zlu.
“Trenutačna nacionalna država ne bi mogla postojati u svijetu bez tiskarskog stroja,” rekao mi je Ball. “Ne bi mogla postojati bez trenutne telekomunikacijske infrastrukture. Nacionalna država izgrađena je ovisno o makro-izumima ere u kojoj je sastavljena. AI sve to mijenja na načine koje je teško opisati i koji su pomalo apstraktni.”
Sumnjam da će još dugo ostati apstraktni.
(izvor: The New York Times)