Sam Altman poručio je da ljudi imaju opravdan razlog za zabrinutost zbog brzog razvoja umjetne inteligencije, ali istodobno smatra da bi javnost trebala imati povjerenja u OpenAI i druge tehnološke kompanije da će učiniti ono što je potrebno kako bi AI ostao siguran.
Izvršni direktor OpenAI-ja Sam Altman pozvao je javnost na veće povjerenje u kompanije koje razvijaju umjetnu inteligenciju, istodobno priznajući da je zabrinutost zbog mogućih rizika AI-ja potpuno opravdana.
„Svijet bi trebao vjerovati da ćemo učiniti pravu stvar jer je to ispravna stvar i jer osjećamo koliko je sve ovo važno“, rekao je Altman u utorak na konferenciji u San Franciscu.
No šef OpenAI-ja pritom nije umanjio strahove javnosti. Naprotiv, priznao je da se sposobnosti umjetne inteligencije razvijaju toliko brzo da je danas lakše zamisliti scenarije u kojima bi tehnologija mogla krenuti u neželjenom smjeru.
„Mislim da se svijet s pravom treba bojati ovoga“, rekao je Altman.
Sve glasniji pozivi na regulaciju
Altmanove izjave dolaze u trenutku kada se ponovno intenzivirala rasprava o tome tko bi trebao nadzirati razvoj umjetne inteligencije.
Dok dio tehnološkog sektora smatra da bi same kompanije trebale postaviti sigurnosne standarde, pojedini političari pozivaju na snažniju ulogu države.
Američki senator Bernie Sanders i bivši Trumpov savjetnik Steve Bannon među onima su koji su izrazili sumnju u sposobnost tehnološke industrije da sama sebe učinkovito regulira.
Sanders je upozorio da se odluke o budućnosti umjetne inteligencije trenutačno u velikoj mjeri nalaze u rukama nekolicine najbogatijih ljudi na svijetu.
„Građani ove zemlje moraju donositi odluke o umjetnoj inteligenciji, a ne samo nekolicina oligarha“, rekao je Sanders na konferenciji u Washingtonu.
Bannon je također izrazio nepovjerenje prema ideji samoregulacije tehnološkog sektora, tvrdeći da se velikim poduzetnicima i vlasnicima tehnoloških kompanija ne može jednostavno vjerovati da će uvijek djelovati u javnom interesu.
Upozorenja o mogućem katastrofalnom scenariju
Rasprava o sigurnosti umjetne inteligencije dodatno se zahuktala nakon što je prošlog tjedna veliku pozornost privukla objava istraživača koji je napustio AI kompaniju Anthropic.
On je tvrdio da bi umjetna inteligencija, ako ostane bez odgovarajućeg nadzora, do kraja desetljeća mogla dovesti do uništenja čovječanstva.
Nekoliko drugih stručnjaka i čelnika iz industrije javno je reklo da dijeli tu procjenu, iako nisu detaljno objasnili na čemu temelje takve zaključke niti na koji bi način AI mogao ostvariti takav scenarij.
Zbog toga su se posljednjih dana pojačali pritisci na tehnološke kompanije i njihovo upravljanje razvojem naprednih AI sustava.
Dario Amodei, izvršni direktor Anthropica, pozvao je na usporavanje razvoja najnaprednijih AI sustava te zatražio veću regulatornu ulogu vlada.
Njegov prijedlog podržali su i Altman, suosnivač Googleova DeepMinda Demis Hassabis te Elon Musk.
Altman: Ako ne možemo osigurati sigurnost, usporit ćemo ili stati
Altman je poručio da vjeruje kako su kompanije poput OpenAI-ja sposobne odgovorno upravljati razvojem umjetne inteligencije.
„Vrlo sam uvjeren u sposobnost naše kompanije i industrije da ovo učine na siguran način“, rekao je.
Dodao je da bi sigurnost i usklađenost AI sustava s ljudskim vrijednostima trebale ostati ispred samih tehnoloških sposobnosti.
Ako kompanije ne budu mogle osigurati takvu razinu sigurnosti, rekao je Altman, trebale bi „usporiti ili stati“.
Sličan stav iznio je i Jensen Huang, izvršni direktor Nvidije, najvećeg svjetskog proizvođača čipova koji se koriste za razvoj umjetne inteligencije.
Huang smatra da bi odluke o tome treba li novu verziju AI tehnologije pustiti u javnost trebale ostati u rukama kompanija koje je razvijaju, a ne vanjskih institucija.
„Ne trebamo nove zakone ni regulaciju“, rekao je Huang, dodajući da ne treba stvarati lažnu dilemu između brzine tehnološkog razvoja i sigurnosti AI proizvoda.
Prema njegovim riječima, sigurnost je prije svega inženjerski problem.
Istaknuo je i da bi, ako čelnici kompanije u bilo kojem trenutku izgube povjerenje u sigurnost vlastitog proizvoda, trebali jednostavno odgoditi njegovo puštanje.
Dio industrije protivi se potpunoj samoregulaciji
Ideja da bi AI industrija trebala gotovo u potpunosti sama sebe nadzirati nije prihvaćena ni unutar samog sektora.
Jack Clark, suosnivač Anthropica i jedan od njegovih rukovoditelja, rekao je za BBC da bi ostavljanje umjetne inteligencije kao „potpuno neregulirane industrije“ bilo izlaganje društva golemim rizicima.
Sličnu skepsu izrazio je i Patrick Hillman, glavni operativni direktor kompanije Logical Intelligence.
On je upozorio da javnost već ima vrlo malo povjerenja u tehnološke kompanije kada je riječ o djelovanju u širem javnom interesu.
„Ako vjerujete da je ono što gradite opasno, pokažite nam čega ste spremni odustati“, poručio je Hillman.
OpenAI i Anthropic razgovaraju o zajedničkim sigurnosnim standardima
Unatoč neslaganjima oko uloge države, čelnici OpenAI-ja i Anthropica posljednjih mjeseci rade na mogućem zajedničkom pristupu sigurnosti umjetne inteligencije.
Amodei je rekao da je Anthropic već u razgovorima s drugim kompanijama iz industrije o uspostavljanju boljih sigurnosnih standarda i provjera AI alata i njihovog razvoja.
Istaknuo je kako ga je tijekom AI revolucije iznenadila ne samo brzina tehnološkog napretka nego i brzina kojom su AI kompanije postale velike i važne za šire gospodarstvo i društvo.
OpenAI-jev izvršni direktor Chris Lehane ranije je rekao da kompanija također surađuje s drugim AI laboratorijima, uključujući Anthropic i Google DeepMind, na razvoju standarda za najnaprednije sustave umjetne inteligencije.
Riječ je zasad o dobrovoljnoj inicijativi, sa ili bez potpore vlada.
Rasprava tako ostaje otvorena: trebaju li kompanije koje razvijaju umjetnu inteligenciju same postavljati granice njezina razvoja ili bi ključne odluke ipak trebale biti pod nadzorom države?
Dok tehnološki čelnici upozoravaju da sigurnost mora pratiti razvoj sposobnosti AI-ja, političari i dio stručnjaka strahuju da samoregulacija možda neće biti dovoljna kada su posljedice mogućih pogrešaka toliko velike.