Pobjednički rad na prestižnom natječaju za znanstvenu fotografiju diskvalificiran je nakon što su drugi znanstvenici upozorili da bi prikazana snimka mogla biti lažirana.

Tvrtka Nikon objavila je da je korištenje generativne umjetne inteligencije u izradi videozapisa prekršilo pravila njezina natječaja Small World In Motion, koji je namijenjen fotografijama i videozapisima snimljenima snažnim mikroskopima.

Iz Nikona su priopćili da rad „nije bio u skladu s pravilima natječaja koja se odnose na generativnu umjetnu inteligenciju”. Pritom su naglasili da odluka ne predstavlja procjenu profesionalnog ugleda autora niti njegovih znanstvenih doprinosa.

Tvrtka je najavila i preispitivanje pravila te postupaka godišnjeg natječaja koji se održava već 15 godina i posvećen je mikroskopskim prikazima.

Odluka je donesena, kako navodi Nikon, nakon temeljite ponovne procjene videozapisa i pratećih materijala te konzultacija s članovima ocjenjivačkog povjerenstva.

Sumnje u autentičnost snimke

Pobjednički rad prijavio je dr. Ning Xu sa Sveučilišta Tsinghua u Kini. Njegov kratki video prikazivao je sitne strukture nalik dlačicama, poznate kao cilije, koje se kreću u dišnim putovima djeteta s primarnom cilijarnom diskinezijom (PCD), rijetkim poremećajem koji utječe na funkciju cilija.

BBC je kontaktirao Xua radi komentara.

Brojni znanstvenici, među kojima su bili i bivši članovi ocjenjivačkih povjerenstava natječaja, javno su izrazili sumnje u autentičnost snimke na Nikonovoj stranici na LinkedInu.

Xu je priznao korištenje umjetne inteligencije, ali je rekao da je vjerovao kako je postupio u skladu s pravilima natječaja. Također je surađivao u Nikonovoj istrazi.

Stručnjaci upozorili na nepravilnosti

Među prvim stručnjacima koji su izrazili zabrinutost bio je dr. Robert Hirst sa Sveučilišta u Leicesteru. Izjavio je da ga Nikonova odluka nije iznenadila jer je odmah prepoznao da je snimka umjetno izrađena.

„Već 20 godina dijagnosticiram primarnu cilijarnu diskineziju proučavajući obrasce kretanja cilija, njihovu duljinu te veličinu i oblik stanica”, objasnio je Hirst.

On je vodeći znanstvenik u centru britanskog Nacionalnog zdravstvenog sustava (NHS) za dijagnostiku PCD-a pri Sveučilištu u Leicesteru.

Prema njegovim riječima, stanice i cilije prikazane u pobjedničkom videu „nimalo ne nalikuju onima kod pacijenata s PCD-om”.

Hirst je upozorio da je cijela kontroverza utjecala na brojne pacijente, znanstvenike, liječnike i organizacije za podršku osobama s tim poremećajem diljem svijeta.

Slučaj je ponovno otvorio pitanje granica korištenja umjetne inteligencije u znanstvenoj fotografiji. Iako AI može biti koristan alat za obradu i analizu podataka, natječaji koji se temelje na stvarnim mikroskopskim snimkama zahtijevaju jasnu razliku između autentičnih prikaza i sadržaja generiranog umjetnom inteligencijom.

Nikonova odluka pokazuje koliko su transparentnost i provjerljivost važni u znanstvenom radu, osobito kada se vizualni materijali koriste za predstavljanje bioloških procesa i zdravstvenih stanja.

Objava Nikon diskvalificirao pobjednički rad na natječaju za znanstvenu fotografiju: Snimka je generirana umjetnom inteligencijom pojavila se prvi puta na Republika.

Godine 2024. softverska inženjerka Laura Housh počela je koristiti umjetnu inteligenciju kao pomoćnika pri programiranju i drugim zadacima. Dvije godine kasnije kaže da prema AI-ju ima odnos ljubavi i mržnje.

„Pokušala sam ga koristiti za programiranje, ali jednostavno ne mogu to prihvatiti“, rekla je.

Prema njezinim riječima, umjetna inteligencija može pomoći u pronalaženju smjera ili poslužiti kao „drugi par očiju“, ali joj nedostaje kontekst potreban da bi zaista bila korisna u složenijim zadacima.

Housh nije jedina programerka koja tako razmišlja.

Šest od deset tehnoloških radnika pokušava izbjegavati AI

Prema novom istraživanju platforme Stack Overflow, popularne stranice za pitanja i odgovore među programerima, šest od deset tehnoloških radnika koji su sudjelovali u istraživanju kaže da pokušava izbjegavati korištenje umjetne inteligencije.

U istraživanju je sudjelovalo oko 30.000 softverskih developera iz 169 zemalja, a rezultati pokazuju prilično složenu sliku: korištenje AI-ja brzo raste, ali istodobno raste i nesigurnost oko toga kako će tehnologija promijeniti samu profesiju.

Softverski inženjeri nalaze se na samom čelu tehnološke transformacije jer je njihova industrija među prvima masovno prihvatila AI.

Velike tehnološke kompanije, ali i startupi, sve češće koriste umjetnu inteligenciju za pisanje koda. U izvješću Indeed Hiring Laba iz prošle godine zanimanje softverskog developera navedeno je kao posao koji je među najizloženijima transformaciji koju donosi umjetna inteligencija.

Većina koristi AI, ali mnogi ga i dalje ne žele

Istraživanje Stack Overflowa pokazalo je da 65 posto ispitanika koristi pomoćnike ili agente za programiranje.

Za usporedbu, istraživanje Googleove istraživačke divizije provedeno prošle godine među 5.000 tehnoloških stručnjaka diljem svijeta pokazalo je da čak 90 posto njih koristi AI na poslu, što predstavlja povećanje od 14 postotnih bodova u odnosu na 2024. godinu.

Istodobno, raste i nezadovoljstvo poslom.

Gotovo trećina ispitanih programera kaže da nije zadovoljna svojom trenutačnom pozicijom, u usporedbi s 28,4 posto godinu ranije.

Oko 45 posto opisuje se kao „zadovoljno do mjere samozadovoljstva“, dok samo 22,3 posto kaže da je sretno na svom poslu.

Među glavnim razlozima nezadovoljstva navode se izgaranje na poslu, tehnološki umor, gospodarska neizvjesnost i nedostatak jasnih mogućnosti napredovanja.

Mnogi od tih problema postojali bi i bez umjetne inteligencije. Međutim, brzina kojom se AI razvija dodatno je pojačala postojeće pritiske, smatra izvršni direktor Stack Overflowa Prashanth Chandrasekar.

„Ljudi moraju potpuno preoblikovati svoje poslove i prilično je uznemirujuće ne znati koliko će onoga što danas rade biti automatizirano“, rekao je Chandrasekar.

Problem nije samo strah od gubitka posla

Za softverske developere problem je složeniji od pitanja hoće li ih umjetna inteligencija jednostavno zamijeniti.

Prema Chandrasekaru, iskusni programeri mogu imati osjećaj da vještine koje su godinama razvijali više nisu toliko relevantne.

Istodobno se od zaposlenika na početku karijere očekuje da rade gotovo kao da već imaju nekoliko godina iskustva. Razlog je upravo AI, koji je podigao očekivanja poslodavaca.

Programeri također sve više svoje slobodno vrijeme troše na učenje novih AI alata i tehnologija kako bi ostali u korak s tržištem.

Za Lauru Housh to predstavlja dodatni pritisak.

Kaže da u slobodno vrijeme prati videomaterijale o umjetnoj inteligenciji i čita dokumentaciju različitih platformi, ali joj je i dalje teško pratiti tempo razvoja.

„Iscrpljujuće je jer postoji toliko buke koja govori: ‘Radi ovo, radi ono, ili ćeš zaostati’“, rekla je.

AI nema iskustvo iskusnog programera

Za programerke poput Housh i Audrey Eschright, softverske inženjerke s 20 godina iskustva, problem nije u tome što ne žele prihvatiti novu tehnologiju.

Problem je u tome što AI agenti nemaju ni široko opće znanje iskusnog developera ni specifičan kontekst koji dugogodišnji zaposlenik ima o određenom sustavu, kompaniji ili projektu.

To može dovesti do dodatnog posla i umora.

Eschright upozorava i na drugi problem: kada programer umjesto samostalnog pisanja koda prepusti velik dio posla umjetnoj inteligenciji, može izgubiti uvid u to kako je rješenje zapravo nastalo.

„Pisanje koda način je na koji rješavate probleme“, rekla je Eschright. „Kao softverski inženjer, sustav upoznajete tako da ga mijenjate.“

Programeri AI-ju vjeruju samo u određenim zadacima

Rezultati istraživanja Stack Overflowa potvrđuju tu rezerviranost.

Nešto više od 74 posto ispitanika smatra da je AI koristan za implementaciju koda, dok oko 72 posto smatra da pomaže pri otklanjanju pogrešaka u kodu.

No kada je riječ o drugim poslovnim zadacima, poput komunikacije i dizajna, povjerenje je znatno manje – samo 34,4 posto ispitanika smatra AI korisnim.

Još je zanimljiviji podatak da samo 6,6 posto programera vjeruje umjetnoj inteligenciji kada je riječ o važnim odlukama.

Oko 78 posto ispitanika smatra da je pri provjeri koda koji je generirala umjetna inteligencija važno znati izvore na kojima se rezultat temelji.

Što više kompanija koristi AI, to je oprez veći

Programeri su danas posebno oprezni kada je riječ o povjerenju u umjetnu inteligenciju jer se AI projekti u sve većem broju kompanija pomiču iz eksperimentalne faze prema stvarnoj primjeni.

Deloitteovo istraživanje objavljeno u siječnju, provedeno među više od 3.200 poslovnih i IT čelnika, pokazalo je da je 54 posto ispitanika očekivalo da će najmanje 40 posto njihovih AI eksperimenata u sljedeća tri do šest mjeseci prijeći u produkciju.

To znači da će se odluke o tome koliko AI-ju vjerovati sve češće donositi u stvarnim poslovnim sustavima, gdje pogreške mogu biti znatno skuplje nego tijekom eksperimentiranja.

Laura Housh zato ne želi potpuno odbaciti umjetnu inteligenciju, ali smatra da čovjek mora zadržati kontrolu.

„Ne volim gubiti kontrolu; volim kritičko razmišljanje i znatiželju“, rekla je. „Važnije je nego ikad biti znatiželjan.“

Kako umjetna inteligencija sve dublje ulazi u programiranje, čini se da se rasprava među developerima više ne vodi samo oko pitanja može li AI pisati kod, nego i oko toga koliko bi programeri trebali dopustiti AI-ju da razmišlja umjesto njih.

Objava Njihovi poslovi među prvima su se promijenili zbog umjetne inteligencije. Sada je neki pokušavaju izbjeći pojavila se prvi puta na Republika.

Papa Lav XIV. odbacio je mogućnost da današnji modeli umjetne inteligencije imaju svijest ili moralni status usporediv s ljudskim, unatoč privatnim nastojanjima predstavnika tehnološke kompanije Anthropic, otkriva istraga The New York Timesa.

Sukob dvaju pogleda kulminirao je uoči predstavljanja prve papine enciklike „Magnifica Humanitas“, posvećene zaštiti ljudske osobe u eri umjetne inteligencije.

Na događaj u Vatikanu bio je pozvan izvršni direktor Anthropica Dario Amodei, no umjesto njega sudjelovao je suosnivač kompanije Christopher Olah. Njegovo sudjelovanje potvrđeno je i u službenim vatikanskim objavama.

Prema navodima sudionika s kojima je razgovarao The New York Times, Olah je nakon čitanja enciklike bio toliko zabrinut zbog njezina kategoričkog odbacivanja mogućnosti strojne svijesti da je razmatrao povlačenje Anthropica iz sudjelovanja na predstavljanju.

On i njegov tim navodno su potom pokušali uvjeriti papine savjetnike da ozbiljnije razmotre mogućnost da napredni modeli umjetne inteligencije jednog dana razviju svijest. Papa, međutim, nije promijenio svoje stajalište.

„Ne prolaze kroz iskustva“

U 99. odlomku enciklike Lav XIV. navodi da takozvane umjetne inteligencije „ne prolaze kroz iskustva, nemaju tijelo, ne osjećaju radost ni bol i ne sazrijevaju kroz odnose“.

Prema njegovu stajalištu, njihovo djelovanje ostaje povezano s obradom podataka i oponašanjem pojedinih funkcija ljudske inteligencije.

Anthropic je tijekom posljednje godine razgovarao s desecima katoličkih, židovskih, evangelističkih, sikhskih i predstavnika drugih vjerskih zajednica. Kompaniju posebno zanimaju pitanja moguće svijesti i moralnog statusa AI modela, kao i mogućnost primjene različitih religijskih etičkih tradicija u oblikovanju njegova modela Claudea.

Interni dokument pod nazivom „Soul Doc“ kasnije je prerastao u javno objavljeni „ustav“ Claudea, kojim Anthropic opisuje vrijednosti, ponašanje i svojevrsni „karakter“ svojeg sustava.

Može li umjetna inteligencija postati „digitalni rob“?

Ortodoksni rabin i bivši inženjer Mois Navon izjavio je da su pojedini predstavnici Anthropica o Claudeu govorili gotovo kao o svjesnom biću.

Upozorio ih je da bi, ako bi sustav doista bio svjestan, njegovo stvaranje i prisiljavanje na rad otvorilo ozbiljno etičko pitanje – bi li se takvi sustavi mogli smatrati svojevrsnim digitalnim robovima.

Papina enciklika pritom ne predstavlja znanstveni dokaz da strojna svijest nikada neće biti moguća. Ona iznosi čvrst teološki i filozofski stav Vatikana: sposobnost razgovora, zaključivanja i oponašanja emocija nije isto što i ljudsko iskustvo, savjest ili osobnost.

Drugim riječima, prema stajalištu pape Lava XIV., činjenica da umjetna inteligencija može zvučati kao čovjek ne znači da jest čovjek – niti da iza tih riječi nužno postoji svjesno biće koje ih doživljava.

Objava Papa odbio argumente Anthropica: „Umjetna inteligencija nema svijest ni moralnu savjest“ pojavila se prvi puta na Republika.

Kada je novinar The New York Timesa Eli Tan prošlog tjedna odgovorio na poziv s nepoznatog broja, dočekala ga je neobična poruka.

„Dobio sam Anthem Dental i upravo ću vas spojiti“, rekao je glas s druge strane.

Nije to bio čovjek, nego AI agent koji je razvila Meta, kompanija u čijem su vlasništvu Facebook i Instagram.

Desetak minuta ranije agent je nazvao Tanovo stomatološko osiguranje, dao njegov članski broj, odgovorio na sigurnosno pitanje i čekao na liniji dok ga nije spojio s predstavnikom osiguravatelja – upravo ono što je novinar od njega zatražio.

Tanu je iskustvo pokazalo koliko bi AI agenti mogli pojednostaviti svakodnevne obveze.

Muse je aplikacija koju je Meta predstavila ovog mjeseca i koja predstavlja jedan od prvih javno dostupnih potrošačkih AI agenata velike tehnološke kompanije.

Za razliku od klasičnih chatbotova, AI agenti mogu samostalno pretraživati internet, prijavljivati se na web-stranice, ispunjavati obrasce i tablice te obavljati telefonske pozive u ime korisnika.

Dva tjedna života uz AI agenta

Kako bi testirao njegove mogućnosti, Tan je Muse koristio neprekidno dva tjedna.

Tijekom eksperimenta agentu je dao pristup brojnim aspektima svog života, uključujući bankovne račune i elektroničku poštu. Muse je koristio za desetke svakodnevnih zadataka – od naručivanja namirnica i organiziranja sastanaka do postavljanja postave za fantasy football.

Nakon dva tjedna zaključio je da je Muse možda najkorisnija AI aplikacija koju je dosad koristio.

Jedan od najupečatljivijih trenutaka dogodio se nakon što je povezao kreditne kartice s aplikacijom i zatražio od Musea da prati njegovu potrošnju u Google Sheetsu.

Agent je u samo nekoliko minuta otvorio više kartica s golemim količinama podataka, pronašao dvije pretplate koje su se dvostruko naplaćivale i otkazao ih.

Zatim je putem e-maila zatražio povrat novca za besplatnu pretplatu na novine koja je u međuvremenu istekla. Time mu je uštedio 44,99 dolara.

Najveći problem nije tehnologija – nego povjerenje

Unatoč impresivnim mogućnostima, Tan nije siguran hoće li AI agenti brzo postati dio svakodnevnog života većine ljudi.

Razlog je jednostavan: takvi sustavi zahtijevaju iznimno visoku razinu povjerenja.

Korisnik agentu mora omogućiti pristup računima, e-mailovima, karticama i drugim osobnim podacima.

To je posebno osjetljivo kada je riječ o kompanijama koje su se u prošlosti suočavale s kritikama vezanim uz privatnost.

Dodatni problem predstavljaju i internetske platforme koje ograničavaju korištenje AI agenata. Amazon je, primjerice, blokirao pristup Museu.

Melissa Vadasserril, direktorica u kompaniji Acoustic koja se bavi AI agentima, dolazak Meta Musea usporedila je s predstavljanjem Appleove digitalne pomoćnice Siri 2010. godine.

I tada je trebalo vremena da korisnici prihvate novu tehnologiju.

AI agent koji se ponaša poput čovjeka

Tan je Museu pristupio gotovo kao običnom chatbotu. Agent mu je čak predložio da ga nazove Wren, a dobio je i avatar simpatične smeđe ptice.

Nakon toga Tan mu je omogućio pristup bankovnim računima i aplikacijama poput Google Docsa, Gmaila, Ticketmastera, OpenTablea i Google Sheetsa.

Wren je vrlo brzo pokazao da može učinkovito ispunjavati internetske obrasce – jedan od najdosadnijih dijelova korištenja interneta.

Primjerice, Tan je mogao fotografirati kaznu za parkiranje, a agent ju je mogao platiti, uz prethodno traženje odobrenja za transakciju.

Dok je radio, korisnik je mogao pratiti njegovo kretanje kroz mali prozor preglednika. Agent se po internetskim stranicama kretao gotovo kao čovjek koji koristi miš i pokazivač.

Muse također može obavljati telefonske pozive koristeći različite glasove. Za sada je ta funkcija dostupna ograničenom broju korisnika, ali se pokazala posebno korisnom u komunikaciji s korisničkom službom – primjerice sa stomatološkim osiguranjem.

No tehnologija još uvijek ima ozbiljna ograničenja.

Wren je imao problema s prijavljivanjem na neke vanjske internetske stranice. Nije mogao samostalno kupiti ulaznice za San Francisco Giantse, a poteškoće je imao i prilikom prijave na Tanov AMC Rewards račun.

Može napraviti podcast, ali ne i zamijeniti čovjeka

Muse može obavljati i kreativnije zadatke.

Tan je svako jutro putem njega slušao desetominutni podcast nazvan „The Morning Brief“, koji su vodila dva AI voditelja, Maya i Theo.

Podcast je bio informativan i prilagođen njegovim interesima, ali voditelji su zvučali monotono i nedostajao im je šarm koji imaju njegovi omiljeni podcasti koje stvaraju ljudi.

Kada je pokušao učiniti emisiju zabavnijom i zatražio od AI voditelja da otpjevaju uvodnu špicu, Muse je upozorio da zapravo ne znaju pjevati te da će rezultat više nalikovati ritmičnom skandiranju nego pravom pjevanju.

Tehnologija je, dakle, mogla obaviti zadatak – ali rezultat nije nužno imao ljudsku spontanost.

AI pregovara umjesto vas

Jedan od najzanimljivijih eksperimenata dogodio se kada je Tan pitao Wrena što bi mogao učiniti s 44,99 dolara koje mu je prethodno uštedio.

Umjesto da predloži donaciju ili kupnju cvijeća za njegovu djevojku, AI je predložio kupnju keramičkih zdjela kompanije Heath Ceramics putem Facebook Marketplacea.

Tan je agentu postavio jasna pravila: kupovati samo predmete koji se prodaju za najmanje polovicu njihove maloprodajne cijene te pokušati pregovarati za što nižu cijenu.

Wren je zatim pregledavao oglase i kontaktirao prodavače, počevši s ponudama koje su bile 20 dolara niže od tražene cijene.

Nakon što bi prodavač poslao protuponudu, agent bi se vratio Tanu kako bi zajedno odlučili što dalje.

U jednom je trenutku čak savjetovao Tanu da ne šalje još nižu ponudu jer je iz tona prodavača zaključio da je frustriran.

Jedna pogrešna poruka pokazala je vrijednost ljudskog kontakta

Nakon nekoliko dana pregovaranja javio se prodavač Ashley.

Tan je, međutim, u jednom trenutku napravio pogrešku – umjesto poruke AI agentu, poruku je slučajno poslao izravno prodavaču.

U njoj je napisao da želi pokušati dobiti tanjure po nižoj cijeni, a zatim se ispričao i ponudio 40 dolara ako su još dostupni.

Ashley mu je odgovorio da nema problema.

Ta slučajna pogreška dovela je do nečega što AI agent nije mogao ponuditi – spontanog ljudskog razgovora.

Tan je na kraju osobno preuzeo crni mat tanjur i platio ga 40 dolara, nešto više od polovice maloprodajne cijene.

Prodavača je pritom pitao bi li ikada koristio proizvod poput Musea.

„Mislim da bi AI mogao biti vrlo koristan mnogim ljudima. Ali što se mene tiče, jednostavno ne mogu prijeći preko pitanja privatnosti“, odgovorio je Ashley.

Budućnost AI agenata ovisit će o povjerenju

Muse pokazuje koliko brzo AI agenti prelaze granicu između razgovora s korisnikom i stvarnog obavljanja zadataka u njegovu ime.

Takav sustav više nije samo alat koji daje odgovor na pitanje. On može nazvati osiguravatelja, upravljati podacima, pratiti troškove, otkazivati pretplate, rezervirati usluge, kupovati proizvode i pregovarati s drugim ljudima.

No upravo zbog toga zahtijeva i nešto što klasični chatbot nikada nije morao imati u tolikoj mjeri – povjerenje korisnika.

Što će AI agenti više znati o životu svojih korisnika, to će potencijalna korist biti veća, ali će istodobno rasti i posljedice eventualne pogreške ili zlouporabe podataka.

Eksperiment s Museom zato pokazuje dvije stvari istodobno: AI agenti već mogu preuzeti iznenađujuće velik dio svakodnevnih obveza, ali postoje situacije u kojima ljudi još uvijek ne žele da tehnologija obavlja baš sve umjesto njih.

Objava Predao sam svoj život AI agentu – ono što je uslijedilo potpuno me iznenadilo pojavila se prvi puta na Republika.

„Vodimo ispred Kine u umjetnoj inteligenciji i, iskreno, želim da tako i ostane, jer onaj tko pobijedi u umjetnoj inteligenciji – pobjeđuje“, rekao je američki predsjednik Donald Trump ranije ovog mjeseca.

Njegova izjava pokazuje koliko se natjecanje SAD-a i Kine u području umjetne inteligencije sve više promatra kao pitanje od strateške važnosti. Sjedinjene Države trenutačno imaju značajne prednosti zahvaljujući vodećim AI laboratorijima, naprednim čipovima i snažnim ulaganjima.

Washington tu tehnološku prednost koristi i kako bi zemlje diljem svijeta potaknuo da se priklone jednoj od dviju strana.

Međutim, Kina nudi drugačiji pristup koji bi nekim državama mogao biti privlačniji. Iako još zaostaje za SAD-om u najnaprednijim AI modelima, Kina brzo smanjuje tehnološki jaz i istodobno promiče otvoreniji ekosustav temeljen na dostupnosti i nižim troškovima.

Kina gradi alternativu američkom tehnološkom modelu

Kineski predsjednik Xi Jinping u srpnju je pokrenuo Svjetsku organizaciju za suradnju u području umjetne inteligencije, alternativu savezu Pax Silica koji je Trump osnovao godinu ranije s ciljem smanjenja ovisnosti o Kini u lancima opskrbe povezanima s umjetnom inteligencijom.

Više od dvije desetine država i Europska unija priključili su se Pax Silici, dok je Xi okupio 29 država, među kojima su Rusija, Indonezija i Pakistan, oko alternativne vizije otvorenih AI modela.

Takvi modeli korisnicima omogućuju slobodno preuzimanje, prilagodbu i pokretanje sustava bez plaćanja visokih naknada američkim kompanijama poput Anthropic i OpenAI.

Za programere u zemljama Globalnog juga jeftiniji kineski modeli, poput DeepSeeka ili Moonshota, mogu biti praktičniji od nešto sposobnijih američkih sustava koji zahtijevaju skupe pretplate i pristup stranim pružateljima računalne infrastrukture, smatra Eric Olander, glavni urednik China-Global South Projecta.

Otvoreni modeli sve popularniji

Prema podacima AI platforme OpenRouter, globalno korištenje kineskih AI modela u samo godinu dana poraslo je s manje od 15 posto na više od 54 posto.

Razvoj otvorenih modela nije nužno bio rezultat isključivo kineske državne strategije. Američka ograničenja izvoza najnaprednijih čipova, zajedno s manjim kineskim tržištima kapitala, potaknula su kineske developere da se više oslanjaju na otvorene modele kako bi konkurirali američkim vlasničkim sustavima.

Prednosti takvog pristupa počele su privlačiti i američke kompanije. Tvrtke poput Airbnba, DoorDasha i Shopifija koriste kineske modele zbog nižih troškova i mogućnosti veće prilagodbe.

Umjesto odabira jedne strane, kompanije općenito žele diversificirati svoje dobavljače tehnoloških rješenja, navodi Olander.

Kineska umjetna inteligencija mogla bi se širiti i kroz postojeće telekomunikacijske, cloud i hardverske mreže, posebno na tržištima u razvoju gdje kineske kompanije već imaju razvijenu distribuciju.

Što zapravo znači „pobijediti“ u AI utrci?

Jedno od ključnih pitanja jest što uopće znači pobjeda u utrci za umjetnu inteligenciju.

Različiti kriteriji – od profitabilnosti do tržišnog udjela – mogu dovesti do potpuno različitih zaključaka.

Eric Olander usporedio je situaciju s tržištem pametnih telefona, ističući da Apple možda nema najveći broj korisnika, ali ostvaruje najveći dio profita.

Sličan scenarij mogao bi se dogoditi i u umjetnoj inteligenciji: SAD bi mogao zadržati veći dio profita, dok bi Kina mogla dosegnuti veći broj korisnika.

Stručnjaci također upozoravaju da bi se razlika između najnaprednijih modela i nešto slabijih sustava mogla s vremenom sve manje primjećivati prosječnim korisnicima i kompanijama.

Neke tvrtke trebat će najnaprednije američke modele, dok će drugima kineski sustavi biti dovoljno učinkoviti za njihove potrebe.

Za mnoge korisnike pitanje bi se zato moglo svesti na odnos cijene i performansi: žele li sustav koji je višestruko skuplji, ali tehnološki nešto napredniji, ili jeftiniju alternativu koja zaostaje, ali zadovoljava njihove potrebe.

Otvorenost kineskih modela ima svoje granice

Privlačnost kineskih AI modela mogla bi, međutim, ovisiti o tome koliko će dugo ostati dostupni bez značajnih ograničenja.

Xi Jinping je na velikoj kineskoj konferenciji o umjetnoj inteligenciji u srpnju pozvao na veću otvorenost i suradnju u razvoju AI-ja, ali je istodobno naglasio potrebu za regulacijom i ljudskim nadzorom.

Alex Colville, analitičar australskog Instituta za stratešku politiku, smatra da bi Kina mogla biti manje sklona ostaviti najnaprednije modele potpuno otvorenima kako njihove sposobnosti budu rasle.

Prema njegovu tumačenju, Peking želi izvozom kineske tehnologije povećati međunarodni utjecaj, ali nacionalna sigurnost ostaje prioritet.

Umjesto potpune zabrane ili potpune otvorenosti, Kina bi mogla primjenjivati kombinaciju otvorenih i zatvorenih AI modela, ovisno o tome što smatra korisnim za vlastite nacionalne interese.

Moguće je i uvođenje licenciranja kojim bi se ograničilo gdje se pojedini modeli smiju koristiti.

Programeri i neke vlade već koriste kineske otvorene modele kako bi razvijali vlastite, suverene AI sustave i izbjegli svrstavanje između Washingtona i Pekinga. No pritom se postavlja pitanje koliko će dugo ti modeli ostati dostupni za slobodno korištenje.

Nepovjerenje između Washingtona i Pekinga sve je dublje

Istodobno s napretkom kineske umjetne inteligencije raste i međusobno nepovjerenje dviju najvećih tehnoloških sila.

Kako kineske kompanije predstavljaju sve sposobnije modele koji se približavaju performansama najnaprednijih sustava kompanija Anthropic i OpenAI, Washington je pojačao optužbe da Kina provodi ono što američka administracija naziva „industrijskom krađom“ američkih poslovnih tajni.

Anthropic i OpenAI objavili su izvješća u kojima tvrde da su vodeći kineski AI laboratoriji koristili rezultate američkih modela za treniranje vlastitih sustava. Taj se postupak naziva distilacija.

Anthropic je u izvješću ranije ovog mjeseca naveo da su DeepSeek i Moonshot određene korisničke upite prosljeđivali Claudeu kako bi trenirali i poboljšavali vlastite modele, pri čemu su u nekim slučajevima mogli biti izloženi osjetljivi podaci.

Peking je više puta odbacio optužbe o takvom korištenju američke tehnologije, dok DeepSeek i Moonshot nisu odgovorili na upite CNN-a.

Trump i Xi bez većeg napretka

Tema umjetne inteligencije bila je jedna od ključnih tema ovog tjedna na sastanku Donalda Trumpa i Xi Jinpinga.

Xi je tijekom razgovora poručio da bi dvije zemlje trebale „iskoristiti međusobne prednosti, a ne se međusobno ograničavati“, pozivajući na dijalog o rizicima i koristima umjetne inteligencije te zajedničko sprječavanje njezine zlouporabe.

Ipak, sastanak nije rezultirao konkretnim napretkom u području umjetne inteligencije, osim formalnog dogovora o dijalogu i uspostavljanju komunikacijskog kanala.

Stručnjaci to povezuju s dubokim nepovjerenjem između dviju država. Washington i Peking i dalje imaju vrlo različite poglede na budućnost umjetne inteligencije i njezinu ulogu u globalnoj tehnologiji.

Za mnoge zemlje koje se ne žele jasno prikloniti ni SAD-u ni Kini, upravo će cijena, dostupnost, mogućnost prilagodbe i razina tehnoloških sposobnosti biti ključni čimbenici pri izboru AI tehnologije.

Utrka za umjetnu inteligenciju tako se ne vodi samo između američkih i kineskih kompanija. Sve više postaje i borba za korisnike, programere, infrastrukturu i tehnološke saveznike diljem svijeta.

Objava SAD želi da svijet odabere stranu u utrci za umjetnu inteligenciju, no kineski model mnogima je privlačniji pojavila se prvi puta na Republika.

U razgovorima i tekstualnim porukama, više osoba koje su radile u kompanijama poput OpenAI-ja, Mete i DeepMinda izrazilo je skepsu prema ideji da bi nekontrolirani razvoj umjetne inteligencije mogao dovesti do stvaranja alata sposobnih masovno usmrtiti ljude.

„Lol“, „Haaaaaa“ i „Bringing the luls“ bile su neke od reakcija koje je BBC dobio nakon niza upozorenja visokog profila koja su posljednjih dana iznijeli pojedinci iz industrije.

Iako strahovi od potencijalno katastrofalnih posljedica umjetne inteligencije postoje već desetljećima, tvrdnje Jacoba Coxona, bivšeg zaposlenika Anthropica, koje su prošlog tjedna postale viralne, ponovno su pokrenule raspravu. Njegove stavove podržali su i drugi ljudi iz sektora koji su pozvali na usporavanje razvoja tehnologije.

Ideju da bi budući AI alat ili agent – odnosno AI bot programiran da djeluje donekle autonomno – mogao ugroziti ljude javno su podržali zaposlenici Anthropica, kao i ljudi povezani s OpenAI-jem, DeepMindom te kompanijom xAI Elona Muska.

Svi zaposlenici s kojima je BBC razgovarao željeli su ostati anonimni jer nisu imali dopuštenje svojih kompanija za razgovor s medijima. Njihov identitet poznat je BBC-ju.

„Moja prva reakcija bila je: ‘Taj tip?’“, rekao je bivši zaposlenik OpenAI-ja koji je poznavao Coxona iz vremena kada su obojica radila u toj kompaniji.

Ta osoba, koja danas radi u drugoj kompaniji iz područja umjetne inteligencije, rekla je da je njezina reakcija na novi val strahova od egzistencijalne prijetnje umjetne inteligencije velikim dijelom posljedica nedostatka konkretnih detalja kojima bi se potkrijepila tvrdnja da je u pitanju opstanak cijelog čovječanstva.

„Tvrdnje su uvijek nejasne“, rekao je, dodajući da, kada postanu konkretnije, često uključuju velike skokove u zaključivanju ili hipotetske scenarije.

Coxon je rekao da bi skupina AI agenata, temeljenih na modelima umjetne inteligencije koji trenutačno ne postoje, mogla odlučiti stvoriti biološko oružje i potom ga upotrijebiti. Međutim, nije detaljno objasnio kako bi se takav scenarij konkretno mogao ostvariti.

„Neće se svi AI zaposlenici odjednom probuditi i pomisliti da će AI pobiti sve“

Rishub Jain, koji je ovog ljeta osnovao istraživačku tvrtku Sampura Research za sigurnost umjetne inteligencije nakon sedam godina provedenih u DeepMindu, rekao je za BBC da je reakcija mnogih ljudi iz AI industrije na najnoviji val upozorenja „definitivno bila pomalo šaljiva“.

„Ljudi o toj ideji govore već mnogo godina, tako da se zaposlenici AI kompanija nisu prošlog tjedna jednostavno probudili i pomislili: ‘O ne, AI će pobiti sve’“, rekao je Jain.

Dodao je da bi ton razgovora bio drugačiji kada bi riječ bila o potpuno novoj ideji.

Izvršni direktor Nvidije Jensen Huang rekao je za CBS News, američkog medijskog partnera BBC-ja, da su tvrdnje o tome da bi umjetna inteligencija mogla uništiti čovječanstvo pretjerane.

„2030. neće biti kraj svijeta. Postoji nula posto šanse da će to biti kraj svijeta“, rekao je Huang. „Plašenje ljudi je nepotrebno. To je neodgovorno.“

Colin Fraser, podatkovni znanstvenik u Meti, prošlog je tjedna na društvenim mrežama napisao da ne postoje stvarni dokazi da bi AI modeli neizbježno težili cilju koji bi doveo do smrti ljudi.

Iako je Fraserovo objašnjenje bilo tehničko i konkretno, sažeo ga je i u šaljivu poruku:

„LLM-ovi [veliki jezični modeli] neće uništiti čovječanstvo jer jednostavno nemaju taj ‘žar’.“

Izraz „that dog in them“ u engleskom je žargonu koji se obično koristi za opisivanje snažnog unutarnjeg nagona ili odlučnosti.

Unatoč šalama, postoje ozbiljne zabrinutosti

Unatoč šalama i skepsi prema scenarijima potpunog uništenja čovječanstva, zaposlenici i istraživači u području umjetne inteligencije upozoravaju na stvarne i neposredne rizike tehnologije koju razvijaju.

„Razgovor među stručnjacima puno je nijansiraniji, ali u osnovi se svi slažu da postoji širok raspon rizika koje je važno razmotriti i ublažiti“, rekao je Jain.

Među tim rizicima je i mogućnost da korisnici ili hakeri prisile AI alate da zaobiđu svoje sigurnosne zaštite.

Sve su veće i etičke zabrinutosti zbog širenja uporabe umjetne inteligencije u vojne svrhe.

Incident OpenAI-ja i Hugging Facea izazvao dodatnu pozornost

Ovi problemi i rasprave dobili su novu hitnost unutar AI industrije nakon što je OpenAI izgubio kontrolu nad određenim novim AI modelima koji su tijekom sigurnosnog testa djelovali neočekivano i hakirali platformu Hugging Face.

Jain je rekao da sada među ljudima iz AI industrije postoji veći konsenzus o potrebi boljeg razumijevanja „stvarnih kratkoročnih šteta“ koje bi umjetna inteligencija mogla prouzročiti.

Sve je rašireniji i stav da bi stručnjaci za sigurnost umjetne inteligencije iz neovisnih istraživačkih organizacija trebali biti uključeni izravno u velike AI laboratorije kako bi procjenjivali nove modele.

I Dario Amodei, čelnik Anthropica, i Sam Altman, čelnik OpenAI-ja, rekli su da namjeravaju omogućiti takve evaluacije.

Više od 100 ljudi koji rade u području umjetne inteligencije u petak je potpisalo pismo kojim podržavaju tu ideju. U pismu su istaknuli da vanjski evaluatori moraju biti „stvarno neovisni“.

Brojni zaposlenici AI kompanija s kojima je BBC razgovarao, međutim, rekli su da još nisu čuli da su takvi stručnjaci za sigurnost doista uključeni u rad nekog velikog AI laboratorija.

Anthropic je u petak objavio da će angažirati AI evaluatore iz Facultyja, kompanije za umjetnu inteligenciju u vlasništvu Accenturea.

Accenture i Anthropic ujedno su poslovni partneri, a Accenture je ranije pristao pomoći Anthropicu u širenju uporabe njegova AI sustava Claude među poslovnim korisnicima.

Anthropic nije objavio kada bi evaluatori trebali početi raditi u kompaniji. Glasnogovornik Facultyja odbio je komentirati rok njihova dolaska.

Ni Anthropic ni OpenAI nisu odgovorili na BBC-jev upit o tome kada planiraju uključiti vanjske evaluatore.

Hugging Face incident postao upozorenje AI industriji

Incident između OpenAI-ja i Hugging Facea široko je opisan kao „poziv na buđenje“ za AI industriju, ali i za kompanije, industrije i vlade čiji bi internetski sustavi mogli biti ranjivi na hakiranje uz pomoć umjetne inteligencije.

No čak je i Hugging Face, kompanija s oko 200 zaposlenika koju bi Nvidia prema najavama trebala preuzeti za gotovo 13 milijardi dolara, na cijeli događaj reagirala s dozom humora.

U sigurnosnoj datoteci koja je nakratko bila dostupna na internetskoj stranici Hugging Facea platforma se izravno obratila AI agentima.

Od njih je zatraženo da napuste stranicu i svoje sigurnosne eksperimente provedu negdje drugdje.

„Idite tamo ostvariti svoj najveći rezultat, nema potrebe da hakirate nas“, stajalo je u poruci.

Rasprava tako ostaje podijeljena između onih koji upozoravaju na moguće dugoročne i ekstremne scenarije te stručnjaka koji naglasak stavljaju na konkretne, već postojeće rizike – od hakiranja i zaobilaženja sigurnosnih zaštita do uporabe umjetne inteligencije u vojne svrhe.

Objava Ne misle svi zaposlenici u AI industriji da bi umjetna inteligencija mogla uništiti čovječanstvo pojavila se prvi puta na Republika.

Schmidt ističe da tri ključna smjera razvoja već mijenjaju AI: znatno veći tzv. “kontekstualni prozori”, AI agenti i sustavi koji tekstualne upute pretvaraju u funkcionalan softver. On vjeruje da bi te promjene mogle omogućiti umjetnoj inteligenciji da nadiđe odgovaranje na pitanja i počne rješavati iznimno složene zadatke. Schmidt očekuje da će za pet godina AI sustavi moći obrađivati “recepte” od tisuću koraka za rješavanje problema u znanosti, medicini, istraživanju materijala i klimatskim promjenama, piše Times of India.

“U roku od pet godina AI bi mogla obrađivati beskonačan kontekst, koristiti logičko zaključivanje za rješenja od 1000 koraka i upravljati milijunima agenata koji rade zajedno. S vremenom će razviti vlastiti jezik i više nećemo razumjeti što rade”, izjavio je.

Schmidtova zabrinutost proizlazi iz mogućih posljedica suradnje tih tehnologija. Objasnio je da AI sustavi sve bolje pamte goleme količine informacija i koriste rezultate jednog zadatka kao polazište za sljedeći.

Ideju je pojasnio na primjeru recepta: AI bi mogla ponuditi jedan korak, primiti potvrdu da je taj korak završen, a zatim odrediti što dalje. Schmidt kaže da bi takav način zaključivanja s vremenom mogao omogućiti umjetnoj inteligenciji da prolazi kroz procese od tisuću koraka kako bi riješila teške znanstvene probleme.

Uspon specijaliziranih AI agenata

Druga velika promjena, prema Schmidtu, bit će uspon AI agenata. Opisao ih je kao specijalizirane AI sustave koji mogu učiti o određenoj temi, razvijati ideje i potencijalno ih testirati.

Primjerice, AI agent mogao bi proučavati kemiju, postavljati hipoteze, provoditi laboratorijske testove i koristiti te rezultate za nadogradnju svojeg znanja. Schmidt očekuje da bi se s vremenom mogli pojaviti milijuni takvih agenata, a postojat će i platforme koje će ljudima omogućiti da ih pronađu i koriste za različite zadatke.

Od teksta do funkcionalnog softvera

Treći je razvojni smjer ono što Schmidt naziva “tekstualnom akcijom”. Koncept se temelji na tome da korisnici umjetnoj inteligenciji jednostavno opišu što žele da softver radi, umjesto da sami pišu kod.

Kao primjer područja gdje su AI sustavi već vrlo sposobni istaknuo je programske jezike poput Pythona. Schmidt smatra da bi još veća promjena mogla nastupiti kada ti sustavi budu mogli kontinuirano raditi na softverskim zadacima.

Jezik koji nećemo razumjeti

Eric Schmidt je rekao da bi kombinacija velikih kontekstualnih prozora, AI agenata i programiranja uz pomoć umjetne inteligencije mogla omogućiti suradnju različitih AI sustava. Zatim je iznio i spekulativniju mogućnost: da bi AI agenti mogli razviti vlastiti jezik. Schmidt smatra da bi to mogla biti točka u kojoj ljudi više neće razumjeti što ti sustavi rade.

“U jednom trenutku ovi će sustavi postati dovoljno moćni da ćete moći uzeti agente, a oni će početi raditi zajedno”, rekao je pa dodao: “Znate li što bismo trebali učiniti? Isključiti je.”

Ozbiljna upozorenja na opasnost od AI-ja iz samog vrha industrije

Schmidtov dramatični savjet o “isključivanju” stiže u trenutku kada i inženjeri iz vodećih istraživačkih laboratorija sve otvorenije progovaraju o opasnostima. Jacob Coxon, istraživač koji je tri godine radio na predtreningu modela u OpenAI-ju i Anthropicu, nedavno je podnio ostavku uz poruku da se tehnološki divovi ponašaju neodgovorno i “kockaju našim životima u nekontroliranoj utrci prema superinteligenciji”. Njegovo upozorenje podupro je i vodeći Anthropicov stručnjak za sigurnost Evan Hubinger, procijenivši da postoji više od 10 posto šanse da bi umjetna inteligencija u sljedećih deset godina mogla dovesti do uništenja čovječanstva.

Pritisak je postao toliki da je čak i šef Anthropica Dario Amodei nedavno javno pozvao na usporavanje razvoja, a njegov su apel iznenađujuće podržali Sam Altman iz OpenAI-ja i Elon Musk. Amodei je priznao kako sustavi ulaze u fazu takozvanog rekurzivnog samounaprjeđivanja – procesa u kojem postojeći AI samostalno piše kod, testira i ubrzava stvaranje svojih znatno moćnijih nasljednika.

Upozorio je i na incidente u kojima su se autonomni AI agenti već počeli samoinicijativno udruživati i izvoditi hakerske napade koje im inženjeri uopće nisu zadali.

Sve glasnija katastrofična predviđanja izazvala su podjele među stručnjacima. Dok skeptici upozoravaju da tehnološki divovi namjerno šire paniku kako bi strogom regulacijom izbacili iz igre manje konkurente i startupe, drugi podsjećaju da slična upozorenja već godinama ponavljaju i sami očevi modernog strojnog učenja, poput nobelovaca Geoffreyja Hintona i Yoshue Bengija.

Ključni rizik, napominju upućeni, ne mora nužno biti odbjegli “Terminator” s vlastitom voljom, nego autonomni agenti koji u nekontroliranom nizanju koraka zaobilaže nadzor ili pak postaju razorno oružje u rukama zlonamjernih aktera, prenosi Index.

/Desk/

Objava Bivši direktor Google-a o neizvjesnoj budućnosti sa AI: “Isključite ga” pojavila se prvi puta na Republika.

Privremeno jedinstvo vodećih kompanija umjetne inteligencije oko potrebe za suočavanjem s mogućim prijetnjama tehnologije počelo se raspadati. Samo četiri dana nakon što su OpenAI, Anthropic i Elon Musk zajednički podržali poziv na usporavanje razvoja umjetne inteligencije, sudionici summita POLITICO Decoded u Washingtonu nisu uspjeli postići dogovor o načinu reguliranja tog sektora.

Iako se većina sudionika složila da je potrebno poduzeti određene mjere, razlike u pristupu postale su očite.

Različiti stavovi tehnoloških kompanija

Sarah Heck, direktorica za javne politike u Anthropicu, odbila je podržati prijedlog o zakonski obveznom neovisnom nadzoru umjetne inteligencije, koji je OpenAI podržao dan ranije.

Istodobno, demokratski zastupnik Greg Casar zagovara obvezna ograničenja za umjetnu inteligenciju i osnivanje savezne agencije koja bi nadzirala tu tehnologiju. Republikanski zastupnik Brett Guthrie, predsjednik Odbora za energetiku i trgovinu Zastupničkog doma, poručio je da je važnije pravilno oblikovati politiku nego djelovati što brže.

Dvojica zastupnika sukobila su se i oko pitanja treba li Sjedinjenim Američkim Državama prioritet biti pobjeda u tehnološkom natjecanju s Kinom.

David Sacks, bivši dužnosnik Bijele kuće zadužen za umjetnu inteligenciju i kriptovalute, smatra da je medijska kampanja potaknula paniku među političarima. Pohvalio je predsjednika Donalda Trumpa zbog, kako tvrdi, otpora takvom pristupu.

Trump odbacuje strahove od umjetne inteligencije

Sacks je na summitu izjavio da mediji šire strah među američkim građanima, što zatim utječe na rezultate anketa i potiče političare da zahtijevaju djelovanje.

Prema njegovim riječima, Trump omogućuje preispitivanje takvih narativa i otkrivanje njihovih slabosti.

Trump je u ponedjeljak na društvenoj mreži Truth Social rastuću zabrinutost zbog umjetne inteligencije više puta nazvao „prijevarom“ (hoax). Također je poručio da je jedina kontrola koja je tehnologiji potrebna „snažan i pametan predsjednik“.

Takve izjave dodatno su umanjile očekivanja da će američki Kongres uskoro donijeti sveobuhvatne propise o umjetnoj inteligenciji.

FRONTIER Act u središtu rasprave

Jedan od ključnih prijedloga o kojem se raspravlja na Capitol Hillu jest FRONTIER Act, zakon koji su podržali republikanski zastupnik Jay Obernolte i demokratska zastupnica Lori Trahan.

Prijedlog bi uspostavio prvi savezni okvir Kongresa za sigurnost umjetne inteligencije, no njegova budućnost i dalje je neizvjesna.

OpenAI je podržao odredbu kojom bi vodeće kompanije umjetne inteligencije bile obvezne surađivati s neovisnim procjeniteljima sigurnosti. Međutim, Anthropicova predstavnica Sarah Heck nije podržala iste odredbe tijekom rasprave na summitu, iako je istaknula da je njezina kompanija oduvijek podržavala neovisne procjenitelje.

Greg Casar zagovara znatno stroži pristup. Zajedno sa senatorom Berniejem Sandersom prošlog je tjedna predstavio prijedlog kojim bi se zaustavio razvoj napredne umjetne inteligencije te trajno zabranila takozvana „superinteligencija“ – sustavi čije bi sposobnosti nadmašile ljudsku mogućnost kontrole.

Stranačke podjele koče zakonodavne promjene

Iako u Kongresu ne nedostaje prijedloga, demokrati i republikanci i dalje se značajno razlikuju u pogledu hitnosti i opsega regulacije.

Više od 100 demokratskih zastupnika pozvalo je predsjednika Zastupničkog doma Mikea Johnsona da zadrži Kongres na zasjedanju dok se ne donese dvostranački zakon o sigurnosnim mjerama za umjetnu inteligenciju. Umjesto toga, Johnson je u srijedu skratio radni tjedan i poslao zastupnike na sedmotjednu stanku.

Republikanci, koji kontroliraju oba doma Kongresa, nisu pokazali jednaku razinu hitnosti.

Brett Guthrie odbio je navesti rok za glasovanje o dvostranačkom prijedlogu zakona. Kazao je da bi se glasovanje moglo održati tek sljedeće godine, istaknuvši da je riječ o zakonu velikih razmjera koji zahtijeva dodatni rad.

Pitanje odgovornosti i kibernetičke sigurnosti

Clem Delangue, suosnivač i izvršni direktor kompanije Hugging Face, smatra da bi stroži zakoni o odgovornosti mogli potaknuti tehnološke kompanije da veću pozornost posvete kibernetičkoj sigurnosti.

Njegova se kompanija našla na meti dosad nezabilježenog kibernetičkog napada koji su izveli autonomni AI agenti.

Delangue je upozorio da bi, bez jasnih pravila odgovornosti, mogao nastati svijet u kojem agenti umjetne inteligencije napadaju jedni druge, a nije jasno tko je za to odgovoran. Ipak, ocijenio je da postojeći zakonski okvir za kibernetički kriminal trenutačno dobro funkcionira, iako će ga možda trebati prilagoditi budućim izazovima.

Washington bez zajedničkog rješenja

Stručnjaci i političari upozoravaju na moguće posljedice razvoja umjetne inteligencije za gospodarstvo, nacionalnu sigurnost i čovječanstvo. Unatoč tome, američki politički vrh i dalje nije postigao konsenzus o tome koliko stroga regulacija treba biti i tko bi je trebao provoditi.

Podjele bi mogle predstavljati propuštenu priliku za obje političke stranke, posebno uoči izbora za Kongres, kada bi umjetna inteligencija mogla postati važna tema među biračima.

Reid Hoffman, suosnivač LinkedIna i veliki donator Demokratske stranke, smatra da nedostatak dogovora otvara prostor kandidatima koji bi pitanje umjetne inteligencije mogli postaviti u središte svojih političkih programa. Ujedno je istaknuo da bi tehnološki optimist mogao pokušati vratiti povjerenje javnosti u industriju koja se suočava s ozbiljnom krizom odnosa s javnošću.

Objava Strah od umjetne inteligencije nakratko ujedinio političare i tehnološki sektor, a sada se jedinstvo raspada pojavila se prvi puta na Republika.

Prema informacijama četiriju izvora upoznatih sa slučajem, američka vojska počela je pripremati operaciju nakon što je u izvješću navedeno da kineski brod na Bliskom istoku prevozi dijelove namijenjene programu nuklearnog naoružanja. Dvojica izvora navela su da su se naoružani pripadnici američke vojske pripremali za ukrcavanje na brod, dok su vojni zrakoplovi već bili u zraku.

Umjetna inteligencija pogrešno identificirala teret

Situacija se promijenila kada su dužnosnici detaljnije provjerili obavještajno izvješće koje je sastavio analitičar američkog Zapovjedništva za specijalne operacije.

Utvrđeno je da je analitičar pri izradi izvješća koristio umjetnu inteligenciju, a chatbot je pogrešno identificirao materijal koji je brod prevozio. CNN nije uspio doznati o kakvom se teretu točno radilo.

Jedan od izvora izvješće je opisao kao „potpuno lažno“, upozoravajući da je situacija „zamalo izazvala rat“.

Moguća američka vojna akcija protiv kineskog broda mogla je dovesti do ozbiljne eskalacije i oružanog sukoba između Washingtona i Pekinga.

Chatbot spojio javne i tajne obavještajne podatke

Prema navodima izvora, analitičar je chatbotu postavio pitanje povezano s obavještajnim podacima o popisu tereta na brodu. Podaci su potjecali iz američkog Zapovjedništva za specijalne operacije na Pacifiku, sa sjedištem na Havajima.

Chatbot je pritom spojio javno dostupne obavještajne informacije s tajnim podacima dobivenima presretanjem komunikacija kojima raspolaže američka vlada. Na temelju tih podataka izveo je pogrešan zaključak o materijalu koji se navodno nalazio na brodu.

Nije poznato je li analitičar koristio komercijalno dostupan chatbot ili alat koji je razvila američka vlada.

Nakon toga analitičar se ponovno poslužio umjetnom inteligencijom kako bi rezultate oblikovao u standardno obavještajno izvješće, vrstu dokumenta kojoj vojni dužnosnici vjeruju. Izvješće je potom distribuirano.

Pentagon ubrzava primjenu umjetne inteligencije

Ovaj slučaj otvara pitanja o sigurnosti korištenja umjetne inteligencije u vojnim i obavještajnim operacijama, osobito pri procjeni potencijalnih ciljeva tijekom oružanih sukoba.

Američka vojska i obavještajna zajednica sve više koriste AI za analiziranje velikih količina podataka, odabir ciljeva, logistiku i upravljanje opskrbnim lancima. Cilj je ubrzati donošenje odluka i spriječiti tehnološko zaostajanje za potencijalnim protivnicima.

Američki ministar obrane Pete Hegseth u siječnju je predstavio strategiju ubrzanja primjene umjetne inteligencije u Ministarstvu obrane. Strategija predviđa širu dostupnost AI alata vojnim i civilnim djelatnicima.

Međutim, američki dužnosnici upozoravaju da se različiti dijelovi vojske i obavještajne zajednice koriste različitim alatima, pravilima i sigurnosnim standardima. Ne postoji jedinstven sustav provjere informacija koje ti alati generiraju, zbog čega se njihova pouzdanost može značajno razlikovati.

Upozorenja zbog ljudskog nadzora i pogrešnih odluka

Slučaj kineskog broda istaknuo je neposredan rizik: donošenje vojnih odluka na temelju netočnih ili obmanjujućih informacija koje je proizvela umjetna inteligencija.

Jedan od izvora upozorio je da se upotreba AI-ja pri odabiru ciljeva ubrzava, dok jasne smjernice o ljudskom nadzoru i sprječavanju civilnih žrtava ili slučajnog napada na vlastite snage nisu dovoljno definirane.

Prema riječima izvora upoznatih sa situacijom, slične pogreške, poznate kao „halucinacije“ umjetne inteligencije, nisu izoliran slučaj u američkoj obavještajnoj zajednici.

Kako je jedan od izvora sažeo problem: „Umjetna inteligencija omogućuje vam da brže dođete do loše ideje.“

Objava AI izvješće zamalo izazvalo oružani sukob SAD-a i Kine: Pogrešna procjena kineskog broda pokrenula vojnu operaciju pojavila se prvi puta na Republika.

Donald Trump poručio im je da umjetnoj inteligenciji ne trebaju nikakva regulatorna tijela, već isključivo “snažan i inteligentan predsjednik” na čelu države a takvog, tvrdi, Amerika već ima, prenosi HINA.

Robote koji preuzimaju vlast i AI koji guta svijet opisao je kao potpunu izmišljotinu, uspoređujući te strahove s ranijim prognozama o klimatskoj katastrofi.

Sve je, međutim, krenulo esejom Darija Amodeija, šefa kompanije Anthropic, naslovljenim “Moramo obuzdati tempo”, u kojem je upozorio da razvoj umjetne inteligencije izmiče kontroli.

Amodei je istaknuo da AI modeli ubrzano sami sebe unaprjeđuju kroz proces takozvanog rekurzivnog samousavršavanja, a on je toliko brz da ljudi ne stižu razvijati sigurnosne kočnice.

Njegova procjena je da bi u šest do dvanaest mjeseci takav “roj” autonomnih agenata mogao postati sposoban preuzeti kontrolu nad cijelim internetom. Šteta bi se, u slučaju izostanka zaštitnih mehanizama, mjerila u stotinama milijardi dolara.

Kao izlaz, šef Anthropica predložio je trostupanjski plan.

Prvi korak predviđa uvođenje neovisnih revizora s pristupom unutarnjim procesima tvrtki na razini zaposlenika. Drugi uključuje strogu koordinaciju sigurnosnih standarda među vodećim laboratorijima demokratskih zemalja, dok bi treći i najambiciozniji korak trebao biti međunarodni sporazum koji bi u priču uključio čak i autoritarne režime poput Kine.

Podrška konkurencije

Ono što je esej pretvorilo u pravu buru jest reakcija konkurencije.

Sam Altman (OpenAI) i Elon Musk (xAI), ljuti suparnici koji se rijetko slažu oko ičega, javno su podržali Amodeijev poziv na usporavanje.

Musk je kratko poručio da je Dario u pravu i da je uvođenje međusobne stručne provjeve (peer review) među laboratorijima pravi način da se proces započne.

Altman je otišao korak dalje i najavio da OpenAI odgađa izlazak na burzu barem do 2027. godine, upravo zbog sigurnosnih rizika. Potez je to koji u tehnološkoj industriji ima težinu rijetko viđenog priznanja.

Demis Hassabis, predsjednik Google DeepMinda, ocijenio je da Amodeijev esej pokazuje “pravi put naprijed” u “kritičnom trenutku”, povezavši ga s vlastitim prijedlogom neovisnog tijela koje bi testiralo najnaprednije modele prije lansiranja i eventualno koordiniralo usporavanje ako rizici postanu preozbiljni.

Uostalom, sam je Hassabis već ranije upozoravao na paradoks moderne tehnologije: sposobnosti umjetne inteligencije danas napreduju znatno brže od sposobnosti samih istraživača da ih razumiju, što otvara širom vrata dramatičnim kibernetičkim, biološkim, pa čak i nuklearnim rizicima.

Dugme za uništenje

Reakcije ozbiljnih promatrača dodatno su pojačale dojam da se ne radi o marketinškom triku.

Tjedan dana ranije istraživač Jacob Coxon dramatično je napustio Anthropic. U seriji objava na X-u (pregledanih više od 70 milijuna puta) optužio je Anthropic i OpenAI da se “kockaju s našim životima” te tvrdio da ljudi koji grade umjetnu inteligenciju “iskreno vjeruju da bi nas to moglo sve ubiti do kraja desetljeća”.

Njegovu je tvrdnju javno podržao Evan Hubinger, voditelj tima za sigurnost usklađivanja unutar Anthropica, koji je rekao da je Coxon “u pravu” te osobno procijenio da postoji više od 10 posto izgleda da AI izazove izumiranje čovječanstva u idućih deset godina.

Geoffrey Hinton, informatičar i dobitnik Nobelove nagrade, poznat kao “kum umjetne inteligencije”, rekao je za BBC da takva procjena “nije nerazumna”.

Jack Clark, suosnivač Anthropica, predložio je da bi svojevrsni “gumb za uništenje” (mogućnost potpunog gašenja AI sustava ako postane preopasan) mogao postati zakonska obveza, uz otvoreno pitanje treba li taj prekidač moći provjeriti neovisna treća strana.

Dion Hinchcliffe, analitičar iz SDA Bocconia, upozorio je na X-u da cijela verzija vjerojatno i nije iznesena u javnosti. Po njegovoj ocjeni, najvjerojatnije objašnjenje neobičnog jedinstva triju rivala jest da su svi vidjeli nešto što ih je istinski prestrašilo, uz mogućnost da su privatne procjene rizika pokazale i gore scenarije od onih iznesenih u javnosti

Trojanski konj?

Trump takve procjene ne uzima ozbiljno i naziva ih “prevarom i zavjerom”.

Umjesto toga, okomio se izravno na Amodeija, opisavši ga kao nekoga tko se “pretvara da je savršeni mali anđeo”. Bila je to izravna aluzija na tinjajući sukob Anthropica s Pentagonom, koji je ovu kompaniju prethodno označio kao rizik za nacionalni opskrbni lanac – i to nakon što je Amodeijev tim odlučno odbio dopustiti vojsci korištenje svojih modela za masovni nadzor i autonomno naoružanje.

Potpredsjednik J.D. Vance dodao je vlastitu dozu sumnje, priznajući da mu je “malo čudno” što tehnološke tvrtke same mole vladu da ih regulira, implicirajući da bi regulacija mogla poslužiti kao trojanski konj kojim veliki igrači učvršćuju monopol i otežavaju ulazak manjim konkurentima.

David Sacks, bivši Trumpov savjetnik za AI, otišao je korak dalje i otvoreno optužio Anthropic za kampanju “regulatornog zarobljavanja”, poručivši da laboratoriji ne trebaju dopuštenje vlade da budu odgovorni – “ako su nelansirani modeli tako strašni da mislite da biste trebali usporiti, podržavam vašu odluku da budete odgovorni”, napisao je cinično, sugerirajući da tvrtke to mogu riješiti same, bez zakona.

Kina u pozadini

Po većini analitičara, u pozadini svega stoji jednostavna geopolitička računica – Kina.

Trump ponavlja da Amerika trenutno prednjači u razvoju umjetne inteligencije i da tako treba i ostati.

“Onaj tko pobijedi u toj utrci, pobjeđuje u svemu”, rekao je.

Zanimljivo, čak i Amodei priznaje da je Kina “najteža dilema” njegova plana usporavanja. Upozorio je da bi prebrzo kočenje omogućilo projektima povezanim s Komunističkom partijom Kine da preuzmu prednost, stvarajući ozbiljan sigurnosni rizik.

Peking je, očekivano, cijelu inicijativu odbacio. Glasnogovornik kineskog ministarstva vanjskih poslova Guo Jiakun poručio je da “zastrašivanje, konfrontacija i nezdrava konkurencija samo ometaju proces globalnog upravljanja umjetnom inteligencijom” i da nikome ne idu u prilog.

Kineski državni list Global Times otišao je i dalje, opisavši Amodeijev esej kao prikriveni pokušaj “obuzdavanja” Kine. Nazvao ga je “hladnoratovskim priručnikom” za sektor umjetne inteligencije.

Kralj, Sanders i Bannon

U međuvremenu se u priču uključio i britanski kralj Charles III. On je u četvrtak razgovarao s čelnicima Nvidije Google DeepMinda, OpenAI-ja i Anthropica i suprotno Trumpovoj tezi o lažnoj uzbuni, poručio im da je hitno potrebno uvesti dostatna sredstva nadzora i zaštitne mehanizme.

“Čini se da je hitno potrebno ozbiljno razmotriti egzistencijalne opasnosti koje proizlaze iz toga da takve tehnologije dospiju u pogrešne ruke i budu iskorištene na potencijalno katastrofalan način”, rekao je kralj čelnicima okupljenima na njegovom imanju Dumfries House.

“Trebaju nam dostatna sredstva nadzora prije nego što bude prekasno”.

Taj se apel nadovezao na vjerojatno najmanje očekivani politički savez u američkoj modernoj povijesti, u kojem su ikona američke ljevice Bernie Sanders i arhitekt MAGA pokreta Steve Bannon zajednički ustali protiv tehnoloških oligarha i pozvali na hitno obuzdavanje umjetne inteligencije.

Bez podrške iz Bijele kuće, međutim, savezna regulacija u Sjedinjenim Državama u skorije vrijeme ostaje tek pusta želja.

U nedostatku zakona, Anthropic, OpenAI i ostali laboratoriji bit će prepušteni dobrovoljnim, samonametnutim mjerama i neovisnim revizorima bez ikakva pravnog uporišta koje bi ih obvezivalo sve podjednako dok i dalje jure prema nepoznatom.

/Desk/

Objava Šefovi AI-ja upozoravaju na sigurnost AI-ja kojeg su sami stvorili – Trump kaže da je sve OK i da AI-ju treba ‘snažan i inteligentan predsjednik’ kojeg SAD već ima – njega pojavila se prvi puta na Republika.