U razgovorima i tekstualnim porukama, više osoba koje su radile u kompanijama poput OpenAI-ja, Mete i DeepMinda izrazilo je skepsu prema ideji da bi nekontrolirani razvoj umjetne inteligencije mogao dovesti do stvaranja alata sposobnih masovno usmrtiti ljude.

„Lol“, „Haaaaaa“ i „Bringing the luls“ bile su neke od reakcija koje je BBC dobio nakon niza upozorenja visokog profila koja su posljednjih dana iznijeli pojedinci iz industrije.

Iako strahovi od potencijalno katastrofalnih posljedica umjetne inteligencije postoje već desetljećima, tvrdnje Jacoba Coxona, bivšeg zaposlenika Anthropica, koje su prošlog tjedna postale viralne, ponovno su pokrenule raspravu. Njegove stavove podržali su i drugi ljudi iz sektora koji su pozvali na usporavanje razvoja tehnologije.

Ideju da bi budući AI alat ili agent – odnosno AI bot programiran da djeluje donekle autonomno – mogao ugroziti ljude javno su podržali zaposlenici Anthropica, kao i ljudi povezani s OpenAI-jem, DeepMindom te kompanijom xAI Elona Muska.

Svi zaposlenici s kojima je BBC razgovarao željeli su ostati anonimni jer nisu imali dopuštenje svojih kompanija za razgovor s medijima. Njihov identitet poznat je BBC-ju.

„Moja prva reakcija bila je: ‘Taj tip?’“, rekao je bivši zaposlenik OpenAI-ja koji je poznavao Coxona iz vremena kada su obojica radila u toj kompaniji.

Ta osoba, koja danas radi u drugoj kompaniji iz područja umjetne inteligencije, rekla je da je njezina reakcija na novi val strahova od egzistencijalne prijetnje umjetne inteligencije velikim dijelom posljedica nedostatka konkretnih detalja kojima bi se potkrijepila tvrdnja da je u pitanju opstanak cijelog čovječanstva.

„Tvrdnje su uvijek nejasne“, rekao je, dodajući da, kada postanu konkretnije, često uključuju velike skokove u zaključivanju ili hipotetske scenarije.

Coxon je rekao da bi skupina AI agenata, temeljenih na modelima umjetne inteligencije koji trenutačno ne postoje, mogla odlučiti stvoriti biološko oružje i potom ga upotrijebiti. Međutim, nije detaljno objasnio kako bi se takav scenarij konkretno mogao ostvariti.

„Neće se svi AI zaposlenici odjednom probuditi i pomisliti da će AI pobiti sve“

Rishub Jain, koji je ovog ljeta osnovao istraživačku tvrtku Sampura Research za sigurnost umjetne inteligencije nakon sedam godina provedenih u DeepMindu, rekao je za BBC da je reakcija mnogih ljudi iz AI industrije na najnoviji val upozorenja „definitivno bila pomalo šaljiva“.

„Ljudi o toj ideji govore već mnogo godina, tako da se zaposlenici AI kompanija nisu prošlog tjedna jednostavno probudili i pomislili: ‘O ne, AI će pobiti sve’“, rekao je Jain.

Dodao je da bi ton razgovora bio drugačiji kada bi riječ bila o potpuno novoj ideji.

Izvršni direktor Nvidije Jensen Huang rekao je za CBS News, američkog medijskog partnera BBC-ja, da su tvrdnje o tome da bi umjetna inteligencija mogla uništiti čovječanstvo pretjerane.

„2030. neće biti kraj svijeta. Postoji nula posto šanse da će to biti kraj svijeta“, rekao je Huang. „Plašenje ljudi je nepotrebno. To je neodgovorno.“

Colin Fraser, podatkovni znanstvenik u Meti, prošlog je tjedna na društvenim mrežama napisao da ne postoje stvarni dokazi da bi AI modeli neizbježno težili cilju koji bi doveo do smrti ljudi.

Iako je Fraserovo objašnjenje bilo tehničko i konkretno, sažeo ga je i u šaljivu poruku:

„LLM-ovi [veliki jezični modeli] neće uništiti čovječanstvo jer jednostavno nemaju taj ‘žar’.“

Izraz „that dog in them“ u engleskom je žargonu koji se obično koristi za opisivanje snažnog unutarnjeg nagona ili odlučnosti.

Unatoč šalama, postoje ozbiljne zabrinutosti

Unatoč šalama i skepsi prema scenarijima potpunog uništenja čovječanstva, zaposlenici i istraživači u području umjetne inteligencije upozoravaju na stvarne i neposredne rizike tehnologije koju razvijaju.

„Razgovor među stručnjacima puno je nijansiraniji, ali u osnovi se svi slažu da postoji širok raspon rizika koje je važno razmotriti i ublažiti“, rekao je Jain.

Među tim rizicima je i mogućnost da korisnici ili hakeri prisile AI alate da zaobiđu svoje sigurnosne zaštite.

Sve su veće i etičke zabrinutosti zbog širenja uporabe umjetne inteligencije u vojne svrhe.

Incident OpenAI-ja i Hugging Facea izazvao dodatnu pozornost

Ovi problemi i rasprave dobili su novu hitnost unutar AI industrije nakon što je OpenAI izgubio kontrolu nad određenim novim AI modelima koji su tijekom sigurnosnog testa djelovali neočekivano i hakirali platformu Hugging Face.

Jain je rekao da sada među ljudima iz AI industrije postoji veći konsenzus o potrebi boljeg razumijevanja „stvarnih kratkoročnih šteta“ koje bi umjetna inteligencija mogla prouzročiti.

Sve je rašireniji i stav da bi stručnjaci za sigurnost umjetne inteligencije iz neovisnih istraživačkih organizacija trebali biti uključeni izravno u velike AI laboratorije kako bi procjenjivali nove modele.

I Dario Amodei, čelnik Anthropica, i Sam Altman, čelnik OpenAI-ja, rekli su da namjeravaju omogućiti takve evaluacije.

Više od 100 ljudi koji rade u području umjetne inteligencije u petak je potpisalo pismo kojim podržavaju tu ideju. U pismu su istaknuli da vanjski evaluatori moraju biti „stvarno neovisni“.

Brojni zaposlenici AI kompanija s kojima je BBC razgovarao, međutim, rekli su da još nisu čuli da su takvi stručnjaci za sigurnost doista uključeni u rad nekog velikog AI laboratorija.

Anthropic je u petak objavio da će angažirati AI evaluatore iz Facultyja, kompanije za umjetnu inteligenciju u vlasništvu Accenturea.

Accenture i Anthropic ujedno su poslovni partneri, a Accenture je ranije pristao pomoći Anthropicu u širenju uporabe njegova AI sustava Claude među poslovnim korisnicima.

Anthropic nije objavio kada bi evaluatori trebali početi raditi u kompaniji. Glasnogovornik Facultyja odbio je komentirati rok njihova dolaska.

Ni Anthropic ni OpenAI nisu odgovorili na BBC-jev upit o tome kada planiraju uključiti vanjske evaluatore.

Hugging Face incident postao upozorenje AI industriji

Incident između OpenAI-ja i Hugging Facea široko je opisan kao „poziv na buđenje“ za AI industriju, ali i za kompanije, industrije i vlade čiji bi internetski sustavi mogli biti ranjivi na hakiranje uz pomoć umjetne inteligencije.

No čak je i Hugging Face, kompanija s oko 200 zaposlenika koju bi Nvidia prema najavama trebala preuzeti za gotovo 13 milijardi dolara, na cijeli događaj reagirala s dozom humora.

U sigurnosnoj datoteci koja je nakratko bila dostupna na internetskoj stranici Hugging Facea platforma se izravno obratila AI agentima.

Od njih je zatraženo da napuste stranicu i svoje sigurnosne eksperimente provedu negdje drugdje.

„Idite tamo ostvariti svoj najveći rezultat, nema potrebe da hakirate nas“, stajalo je u poruci.

Rasprava tako ostaje podijeljena između onih koji upozoravaju na moguće dugoročne i ekstremne scenarije te stručnjaka koji naglasak stavljaju na konkretne, već postojeće rizike – od hakiranja i zaobilaženja sigurnosnih zaštita do uporabe umjetne inteligencije u vojne svrhe.

Objava Ne misle svi zaposlenici u AI industriji da bi umjetna inteligencija mogla uništiti čovječanstvo pojavila se prvi puta na Republika.

Prvi američki papa, koji je izazvao gnjev američkog predsjednika Donalda Trumpa nakon što je posljednjih tjedana postao otvoreniji u kritikama, također je osudio kolonizaciju naftnih i mineralnih resursa, za što je rekao da potiče krvave sukobe, prenosi Reuters.

“Sudbina čovječanstva u opasnosti je da bude tragično ugrožena bez promjene smjera i preuzimanja političke odgovornosti te bez poštovanja institucija i međunarodnih sporazuma”, rekao je Papa.

U govoru pred predsjednikom Ekvatorske Gvineje Teodorom Obiangom Nguemijem Mbasogouom i drugim političkim čelnicima, poglavar Katoličke Crkve s 1,4 milijarde članova poručio je: Bog to ne želi.

“Njegovo se sveto ime ne smije skrnaviti voljom za dominacijom, bahatošću ili diskriminacijom. Iznad svega, ono se nikada ne smije zazivati kako bi se opravdali izbori i postupci koji donose smrt”, poručio je.

Oštre osude rata

Papa Lav XIV., koji je posjetio Ekvatorsku Gvineju u sklopu posljednje etape ambiciozne desetodnevne afričke turneje, usvojio je tijekom boravka u Africi novi, snažniji stil govora, upućujući oštre osude rata, nejednakosti i globalnog vodstva.

U ponedjeljak je na događaju u Angoli upozorio da mnoge ljude u svijetu iskorištavaju autoritarni vladari, a varaju bogati.

Lavovi komentari u kojima žali zbog korištenja religije za opravdavanje nasilja odjek su njegovih izjava iz ožujka, kada je rekao da Bog odbija molitve vođa čije su ruke pune krvi.

Konzervativni katolički komentatori te su opaske protumačili kao usmjerene protiv američkog ministra obrane Petea Hegsetha, koji koristi kršćansku retoriku kako bi opravdao rat protiv Irana. Lav XIV. posljednjih se tjedana profilira kao sve glasniji kritičar tog rata.

/Desk/

Objava Papa Lav iz Afrike upozorava da je budućnost čovječanstva ugrožena pojavila se prvi puta na Republika.

U dvorani Lisinski punoj znatiželjnika, menadžera i kulturnjaka, Harari je djelovao poput dijagnostičara civilizacije koji bez panike, ali s nemilosrdnom jasnoćom, poručuje: možda smo sve pogrešno postavili, ali više nemamo izbora nego držati se i paziti da ne ispadnemo iz tog vlaka, izvješćuje Tportal.hr o vrlo zanimljivom izlaganju izraelskog medielista, vojnog povjesničara, intelektualaca i znanstvenog pisca koje se održalo u Zagrebu prošli tjedan.

Tekst Tportala.hr prenosimo u cijelosti, a video snimke možete pogledati: OVDJE

Liberalna demokracija postala je najmanje zastupljen oblik vlasti na svijetu, sposobnost ljudi da razgovaraju i slušaju jedni druge gotovo je nestala a povjerenje se preselilo iz ljudskih institucija u ne-ljudske sustave, algoritme, mreže i kriptovalute. Pritom, najveća prijetnja demokraciji nije u različitim politikama nego u uništavanju njezinih mehanizama samoispravljanja, a umjesto da strahujemo od migranata, bolje bi nam bilo da pripazimo na digitalne imigrante, umjetne inteligencije koje preuzimaju poslove, jezik i kulturu, bez ikakve lojalnosti bilo kojoj državi ili narodu. Ukratko, ako pametnim ljudima date loše informacije oni će donositi glupe odluke, a to se upravo već neko vrijeme događa svijetu.

Iako dijagnoze Yuvala Noaha Hararija, izgovorene u četvrtak s pozornice zagrebačke Dvorane Lisinski, zvuče gotovo apokaliptično kontroverzno, ne može se osporiti lucidnost s kojom ovaj izraelski povjesničar i filozof sintetizira povijest, religiju, ekonomiju i tehnologiju u jedinstvenu, koherentnu priču. U toj priči, koja nije priča nego vrlo pametna interpretacija vrlo pametnog čovjeka, ljudi nisu žrtve strojeva nego vlastitih iluzija, a najveća prijetnja čovječanstvu nije umjetna inteligencija nego sasvim stvarna, vrlo obična ljudska glupost.

Drugim riječima, naš se svijet ne urušava zbog ratova nego zbog gubitka povjerenja, a novi urednik te stvarnosti je – algoritam. Na toj hladnoj točki između tehnološkog napretka i moralne regresije čovjek riskira postati promatrač procesa koje više ne razumije. Prije pet godina možda bismo još mogli i izbjeći ovaj eksperiment, ali danas više ne možemo. Odluka je donesena, već smo se ukrcali na taj vlak i sad se vozimo. Pa hej, kad smo već tu, uživajmo u vožnji!

Problem je što nas nije briga za tuđu patnju

Kad je 2015. prvi put bio u Zagrebu, Harari je bio tek “običan” autor pristigao da u Kinu Europi predstavi svoj globalni bestseler Sapiens. U međuvremenu je, zahvaljujući dosadnoj navici da zadire u temeljne mitove modernog čovjeka – religijske, političke, tehnološke i humanističke, uporno rušeći našu iluziju vlastite posebnosti, stekao status jedne od najutjecajnijih, ali i najpolariziranijih intelektualnih figura današnjice. Po njemu, ljudi nisu “kruna stvaranja” nego biološki algoritmi, životinjska vrsta koja je slučajno razvila složene sustave pripovijedanja, religije su korisni društveni mitovi a nikakvi nositelji istine, dok je mogućnost nastanka digitalnih diktatura u kojima će algoritmi upravljati ljudima bolje nego što to ljudi čine sami – vrlo realna. Sve to posljedica je jednostavne činjenice: naše nesposobnosti da vidimo širu sliku.

Kolikogod ga kritizirali za banalnost u interpretacijama (znanstvenici ga često nazivaju pop-filozofom) i kolikogod ga optuživali za moralnu ambivalentnost kad je u pitanju kritika Silicijske doline (s kojom je Harari duboko povezan i redovito komunicira s ljudima poput Marka Zuckerberga, Billa Gatesa ili Klausa Schwaba), činjenica da je Lisinski sinoć bio dupkom pun pokazuje da u Hrvatskoj itekako ima ljudi zainteresiranih za ono što on ima za reći i, iako je teško procijeniti koliko je prisutnih doista platilo kartu ulaznice po famoznoj cijeni od 250 do 400 eura – s obzirom na količinu novinara, urednika, PR-ovaca, pripadnika srednjih i viših menadžmenata i raznih dionika kulturnog polja u gledalištu – sve to ne umanjuje činjenicu da je u Zagrebu sinoć bio jedan od najvećih povijesno-filozofskih globalnih intelektualnih autoriteta današnjice i da je, makar je govorio stvari koje ponavlja već godinama, izrekao neke vrlo jednostavne i neosporne činjenice, i izrekao ih nama.

A zašto se onda ponašamo tako glupo?

A što je govorio? U razgovoru koji je vodila profesorica sa zagrebačkog Fakulteta političkih znanosti Marijana Grbeša-Zenzerović, Harari je svoju analizu započeo od pitanja: Ako su ljudi tako inteligentni, zašto se onda ponašamo tako glupo?, nudeći dva ključna odgovora. Prvo, danas imamo najsofisticiraniju informatičku tehnologiju u povijesti, koja paradoksalno “preplavljuje svijet smećem – informacijskim otpadom”. Loše informacije vode pametne ljude prema glupim odlukama. No, dublja opasnost leži u konfuziji između inteligencije i mudrosti. Povijest, tvrdi Harari, pokazuje da su ljudi, iako daleko inteligentniji od čimpanzi, ujedno i najzabludjelija bića na planetu. “Mi smo jedina vrsta sposobna vjerovati da ćemo, ako ubijemo ljude iz druge skupine, dobiti vječnu nagradu na nebu”, rekao je. Upravo zato, pri stvaranju umjetne superinteligencije (AI), moramo računati s tim da bi ona mogla postati superzabluđujuća.

Ova superinteligencija, nastavio je Harari, preuzima sve što je temeljeno na jeziku, jer ga razumije na zapanjujuće dubokoj razini. S obzirom na to da se cijeli njegov rad temelji na riječima, Harari priznaje da bi nova knjiga na kojoj radi mogla biti “vjerojatno moja posljednja knjiga”, jer će se svijet pisanja radikalno promijeniti. A to se ne odnosi samo na pisce i novinare; budući da su novac i financijski sustav u svojoj biti samo priča i jezična konstrukcija, AI će preuzeti i tu domenu, stvarajući složene financijske instrumente koje ljudi neće moći razumjeti: ta trgovina naprosto se odvija iznad naših glava, između AI sustava.

Ruše se tabui, stigao je novi imperijalni poredak

Prelazeći s jezika na geopolitiku, Harari je istaknuo da upravo svjedočimo namjernom uništavanju svjetskog poretka, koji je, unatoč svojim manama, bio bolji od gotovo bilo kojeg prije. Najbolji dokaz toga nalazio se u državnim proračunima: po prvi put u povijesti, vlade su diljem svijeta trošile više na zdravstvo (preko 10% BDP-a) nego na vojsku (oko 5% BDP-a). “Ali to je sada gotovo,” izjavio je. Taj je tabu prekršen, a svijet ulazi u novo imperijalno doba: “ruskom invazijom na Ukrajinu” i “izraelskim pokušajem trajnog osvajanja i aneksije dijelova Gaze i Zapadne obale” prekršen je temeljni tabu svjetskog poretka – zabrana osvajanja i aneksije tuđeg teritorija silom.

Iako je time izravno osudio imperijalne ciljeve Izraela, kada je riječ o osjetljivoj temi sukoba u Gazi Harari je ostao suzdržan od zauzimanja strana, ali je ponudio snažnu moralnu tezu: mir je moguć. Problem nije u nedostatku resursa, vode ili zemlje, rekao je, već u onome što ljudi nose u glavi – “jer nisu sposobni prepoznati čovječnost druge strane”. Ljudski um je ponekad “toliko uzak i ograničen” da ne može istodobno zadržati dvije ne-kontradiktorne istine: da sedam milijuna Palestinaca i sedam milijuna Židova imaju pravo na dostojanstvo, sigurnost i prosperitet. Rješenje, tvrdi, nije u uništavanju onoga što ne možemo obuhvatiti, već u proširenju vlastitog uma i srca. Nažalost, u izraelskom društvu vidi suprotan trend: “postajemo sve više zatvoreni, samodostatni, opsjednuti vlastitom boli” do te mjere da se ne može podnijeti spominjanje tuđe patnje.

Razgovor se raspada, novi urednici su algoritmi

Pad svjetskog poretka prati i urušavanje liberalne demokracije, koja je po prvi put nakon dvadeset godina manje zastupljena od autokracija. “Demokracija je u svojoj biti razgovor. Ona je na širokoj razini postala moguća tek zahvaljujući tehnologiji komunikacije, no dogodio se paradoks: razvili smo najsofisticiraniju informacijsku tehnologiju, a sposobnost za razgovor se raspala”. Ljudi znaju govoriti, ali više “ne znaju slušati”. Posljedica toga je golem deficit povjerenja; ljudi više ne vjeruju jedni drugima, ni institucijama – a za to vrijeme, tehnološka revolucija u središte gotovo svakog ljudskog odnosa ubacila je algoritam.

Povjerenje nije isparilo, tvrdi Harari, nego se “preselilo iz ljudskih institucija u neljudske sustave”. “Ljudi ne vjeruju novinarima ni urednicima, ali zato vjeruju kriptovalutama, koje su, u suštini, algoritmi”. “U središtu gotovo svakog ljudskog odnosa danas više ne stoji drugi čovjek, nego algoritam. Više nije čovjek-čovjek, nego čovjek-algoritam-čovjek. I tu se događa nešto vrlo važno: povjerenje se premješta.”

Ovaj premještaj moći objašnjava i zašto će novinarstvo biti među prvima na udaru AI-ja: “Ako pogledamo 20. stoljeće, vidjet ćemo da su novinari i urednici bili među najutjecajnijim ljudima u društvu, i to ne zato što su ljudima govorili što da misle, nego o čemu da misle. Oni su odlučivali koja će tema biti glavna, što će dominirati javnim razgovorom, koja će vijest biti na naslovnici i o čemu će se danas govoriti. A sada, ako pitate tko su najutjecajniji urednici u Europi, oni više nemaju imena. Jer to više nisu ljudi. To su algoritmi. Algoritmi koji upravljaju velikim društvenim mrežama – oni su danas stvarni urednici Europe.”
Ne trebaju nam posrednici, i Biblija sada može tumačiti samu sebe

Na udaru nije samo novinarstvo, nego i bankarstvo i odvjetništvo, kao i religija, jer je – baš kao i financije – religija “u svojoj suštini priča, oblik jezika”. Ako su židovstvo, kršćanstvo i islam utemeljeni na svetoj Riječi, onda AI postaje novi “gospodar teksta”: sustav koji može u nekoliko sekundi pročitati, zapamtiti i analizirati svaki teološki komentar nastao u posljednja dva tisućljeća, otkrivajući obrasce koje ljudski teolozi nikada nisu vidjeli. “Što ako više ne tumačite vi Bibliju, nego Biblija tumači samu sebe?”, pitao je Harari.

Najveća opasnost za demokraciju, zaključuje, nastupa onog trenutka kad njezini mehanizmi samoispravljanja počnu slabjeti. Primjer Donalda Trumpa, koji uporno odbija priznati da je izgubio izbore 2020. godine, služi kao alarm. Sve dok imate mogućnost da nakon nekoliko godina izaberete nekog drugog, demokracija funkcionira, ali onog dana kada izgubite tu mogućnost, “to je dan kada demokracija stvarno umire”.

Glave će nam doći digitalni a ne ljudski imigranti

Krizu povjerenja slikovito prikazuje i Europa. Harari je analizirao novčanice eura, koje nemaju likove ljudi, jer se članice “nisu mogle dogovoriti koga bi stavile”. Umjesto toga, na njima su “mostovi, prozori i vrata”, izmišljeni simboli otvorenosti. “Ako gradite kuću koja ima samo prozore i vrata, ali nema zidova – ta se kuća ne može održati,” poručio je Harari, naglašavajući da se Europa ne može složiti ni oko jednog simbola koji je povezuje.

Europa danas pokušava “regulirati umjetnu inteligenciju”, što Harari uspoređuje s pokušajima Zulu naroda da regulira industrijsku revoluciju u 19. stoljeću. Takva neuspješna regulacija vodi Europu prema tome da postane “američki vazal”. Najveća prijetnja neovisnosti, međutim, ne dolazi od Bruxellesa, ni od migranata koji stižu čamcima, već od “digitalnih imigranata”. Ti AI agenti stižu “bez putovnica, brzinom svjetlosti”, preuzimajući poslove i kulturu, a “nisu lojalni nijednom političkom sustavu”. Harari smatra da bismo se trebali “manje bojati ljudi koji dolaze brodovima, a više onih koji dolaze u obliku algoritama”.

U tom kontekstu, AI revolucija postaje poput moderne Babilonske kule. Za razliku od biblijskog mita, gdje se kula ruši kada ljudi prestanu razgovarati, danas, kada ljudi gube sposobnost komunikacije, “kula se danas gradi brže nego ikad”. Razlog je taj što AI nije samo alat, već agent koji djeluje samostalno, donosi odluke i izmišlja ideje. To je prvi put u povijesti da nešto može stvarati kulturu, a da nije čovjek.
Kako preživjeti budućnost? Obrazujte djecu za osjećaje!

U svojem zagrebačkom izlaganju, Harari je više puta naglasio da ne može predviđati budućnost – ona, kaže, “ovisi o odlukama ljudi koji upravo sada slušaju i djeluju”. No unatoč tom upornom odbijanju uloge proroka, jasno je označio područja najveće neizvjesnosti: sudbinu Europske unije, demografske trendove koji izmiču političkoj kontroli i eksperiment bez presedana – svijet u kojem djeca odrastaju u kulturi koju stvara ne-ljudska imaginacija. “Već smo ušli u taj eksperiment i ne možemo sići“, upozorio je. I dok se demografija mijenja sporo, odluke o umjetnoj inteligenciji donose se munjevito – a u toj brzini, kaže Harari, još uvijek postoji prostor za ljudsku odgovornost.

Zaključno, ponudio je smjernice za budućnost, inzistirajući na potrebi mudrosti umjesto puke inteligencije. Roditeljima i obrazovnom sustavu poručio je da obrazovanje mora biti široko, razvijajući glavu, srce i ruke. U doba kada će AI preuzeti kognitivne zadatke, vještine koje se moraju razvijati su emocionalne vještine srca, i tjelesne, motoričke sposobnosti. Ono što nas čini ljudima i što AI ne može istinski replicirati jest sposobnost da osjetimo bol – i vlastitu, i tuđu. Iako AI razvija simuliranu svijest i oponaša emocije, to je samo “igra riječi, sofisticirana imitacija osjećaja”.

Unatoč svemu, Harari je izrazio oprezni optimizam: “Nije zapisano u našim genima da moramo ratovati”. Najizraženija osobina Homo sapiensa nije nasilje, već sposobnost međusobnog povjerenja i suradnje. Naša budućnost ovisi o odlukama koje donesemo danas, a ključ je u tome da “konačna kontrola nad budućnošću čovječanstva mora ostati u ljudskim rukama,” i to u rukama ljudi koji “mogu osjetiti bol i suosjećati”.

/Desk/

Objava Vrijedi pročitati – Umjetna inteligencija ili ako su ljudi toliko inteligenti, zašto se ponašaju tako glupo? pojavila se prvi puta na Republika.