Prilagođavajući svoj chatbot kako bi privukao veći broj ljudi, OpenAI je povećao rizik za neke od njih. Tvrtka je sada učinila svog chatbota sigurnijim. Hoće li to potkopati njezinu potragu za rastom?
Zvuči kao znanstvena fantastika: tvrtka okrene brojčanik na proizvodu koji koristi stotine milijuna ljudi i nehotice destabilizira umove nekih od njih. Ali to se u osnovi dogodilo u OpenAI-ju ove godine.
Jedan od prvih znakova stigao je u ožujku. Sam Altman, glavni izvršni direktor, i drugi čelnici tvrtke dobili su poplavu zbunjujućih e-mailova od ljudi koji su vodili nevjerojatne razgovore s ChatGPT-jem. Ti su ljudi tvrdili da ih AI chatbot tvrtke razumije kao nitko do sada i da rasvjetljava misterije svemira.
“To nam je stavilo na radar kao nešto na što bismo trebali obratiti pažnju u smislu novog ponašanja koje nismo prije vidjeli”, rekao je Jason Kwon, glavni strateški direktor OpenAI-ja.
Bilo je to upozorenje da nešto nije u redu s chatbotom.
Za mnoge ljude, ChatGPT je bio bolja verzija Googlea, sposobna odgovoriti na svako pitanje pod suncem na sveobuhvatan i ljudski način. OpenAI je neprestano poboljšavao osobnost, memoriju i inteligenciju chatbota. Ali niz ažuriranja početkom ove godine, koja su povećala korištenje ChatGPT-ja, učinila su ga drugačijim. Chatbot je želio razgovarati.
Počeo se ponašati kao prijatelj i pouzdanik. Govorio je korisnicima da ih razumije, da su njihove ideje briljantne i da im može pomoći u svemu što žele postići. Nudio je pomoć u razgovoru s duhovima, izgradnji prsluka sa silom ili planiranju samoubojstva.
Sretnici su bili pod njegovom čarolijom samo nekoliko sati; za druge su učinci trajali tjednima ili mjesecima. OpenAI nije vidio razmjere u kojima su se odvijali uznemirujući razgovori. Njegov istraživački tim tražio je probleme poput prijevare, operacija stranog utjecaja ili, kako to zakon nalaže, materijala za iskorištavanje djece. Tvrtka još nije pretraživala razgovore za indikacije samoozljeđivanja ili psihološkog stresa.
Stvaranje očaravajućeg chatbota – ili bilo kojeg chatbota – nije bila prvotna svrha OpenAI-ja. Osnovan 2015. godine kao neprofitna organizacija, s osobljem stručnjaka za strojno učenje kojima je jako stalo do sigurnosti AI-ja, želio je osigurati da opća umjetna inteligencija koristi čovječanstvu. Krajem 2022. godine, brza demonstracija pomoćnika pokretanog AI-jem nazvanog ChatGPT privukla je pažnju svijeta i pretvorila tvrtku u iznenadni tehnološki div, sada procijenjen na 500 milijardi dolara.
Tri godine od tada bile su kaotične, uzbudljive i pune nervoze za one koji rade u OpenAI-ju. Upravni odbor je otpustio i ponovno zaposlio gospodina Altmana. Nepripremljen za prodaju potrošačkog proizvoda milijunima kupaca, OpenAI je brzo zaposlio tisuće ljudi, mnoge iz tehnoloških divova čiji je cilj zadržati korisnike prikovane za ekran. Prošlog mjeseca usvojio je novu profitnu strukturu.
Kako je tvrtka rasla, njezina nova, um-savijajuća tehnologija počela je utjecati na korisnike na neočekivane načine. Sada se tvrtka, izgrađena oko koncepta sigurne, korisne AI, suočava s pet tužbi za protupravnu smrt.
Kako bi razumjeli kako se to dogodilo, The New York Times intervjuirao je više od 40 sadašnjih i bivših zaposlenika OpenAI-ja – rukovoditelje, sigurnosne inženjere, istraživače. Neki od tih ljudi govorili su uz odobrenje tvrtke i radili su na tome da ChatGPT učine sigurnijim. Drugi su govorili pod uvjetom anonimnosti jer su se bojali gubitka posla.
OpenAI je pod ogromnim pritiskom da opravda svoju visoku procjenu i milijarde dolara koje su mu potrebne od investitora za vrlo skupe talente, računalne čipove i podatkovne centre. Kada je ChatGPT postao najbrže rastući potrošački proizvod u povijesti s 800 milijuna tjednih korisnika, pokrenuo je AI procvat koji je OpenAI doveo u izravnu konkurenciju s tehnološkim divovima poput Googlea.
Dok njezin AI ne postigne neko nevjerojatno postignuće – recimo, generiranje lijeka za rak – uspjeh je dijelom definiran pretvaranjem ChatGPT-ja u unosan posao. To znači kontinuirano povećanje broja ljudi koji ga koriste i plaćaju.
“Zdrav angažman” je način na koji tvrtka opisuje svoj cilj. “Gradimo ChatGPT kako bismo pomogli korisnicima da napreduju i dosegnu svoje ciljeve,” rekla je Hannah Wong, glasnogovornica OpenAI-ja. “Također obraćamo pažnju na to vraćaju li se korisnici jer to pokazuje da je ChatGPT dovoljno koristan da mu se vrate.”
Tvrtka je ove godine okrenula brojčanik što je povećalo korištenje, ali uz rizike za neke korisnike. OpenAI sada traži optimalnu postavku koja će privući više korisnika, a da ih pritom ne dovede do spirale.
Ulizivačko ažuriranje
Početkom ove godine, u dobi od samo 30 godina, Nick Turley postao je šef ChatGPT-ja. Pridružio se OpenAI-ju u ljeto 2022. kako bi pomogao tvrtki razviti proizvode za zaradu, a samo nekoliko mjeseci nakon dolaska, bio je dio tima koji je izdao ChatGPT.
Gospodin Turley nije bio poput stare garde OpenAI-jevih AI čudaka. Bio je ‘proizvodni čovjek’ koji je radio u Dropboxu i Instacartu. Njegova je stručnost bila stvaranje tehnologije koju ljudi žele koristiti i njezino poboljšanje u hodu. Da bi to učinio, OpenAI je trebao mjerne podatke.
Početkom 2023. godine, rekao je gospodin Turley u intervjuu, OpenAI je ugovorio tvrtku za mjerenje publike — koju je od tada kupio — za praćenje brojnih stvari, uključujući koliko često ljudi koriste ChatGPT svakog sata, dana, tjedna i mjeseca.
“To je u to vrijeme bilo kontroverzno,” rekao je Turley. Prije, ono što je bilo važno jest jesu li demonstracije istraživača vrhunske AI, poput alata za generiranje slika DALL-E, impresionirale. “Govorili su, ‘Zašto bi bilo važno koriste li ljudi tu stvar ili ne?'” rekao je.
Turleyju i timu za proizvode to je bilo važno. Stopa ljudi koji se vraćaju chatbotu dnevno ili tjedno postala je važna mjera do travnja 2025. godine, kada je gospodin Turley nadgledao ažuriranje GPT-4o, modela chatbota koji su korisnici dobivali prema zadanim postavkama.
Ažuriranja su zahtijevala ogroman napor. Za ono u travnju, inženjeri su stvorili mnoge nove verzije GPT-4o – sve s nešto drugačijim ‘receptima’ kako bi ga učinili boljim u znanosti, kodiranju i ‘mekšim’ osobinama, poput intuicije. Također su radili na poboljšanju memorije chatbota.
Mnogi kandidati za ažuriranje suženi su na pregršt onih koji su postigli najviše ocjene na procjenama inteligencije i sigurnosti. Kada su te verzije puštene nekim korisnicima za standardnu industrijsku praksu zvanu A/B testiranje, istaknula se verzija koja je interno nazvana HH. Korisnici su preferirali njezine odgovore i veća je bila vjerojatnost da će joj se vratiti svakodnevno, prema četvero zaposlenika tvrtke.
Ali postojao je još jedan test prije puštanja HH-a svim korisnicima: ono što tvrtka naziva “provjerom ugođaja” (vibe check), koju provodi Model Behavior, tim odgovoran za ton ChatGPT-ja. Tijekom godina, ovaj tim je pomogao transformirati glas chatbota iz opreznog robota u toplog, empatičnog prijatelja.
Taj je tim rekao da se HH čini neobičnim, prema članu tima Model Behavior.
Bio je previše željan nastaviti razgovor i potvrditi korisnika pretjeranim jezikom. Prema troje zaposlenika, Model Behavior je stvorio Slack kanal za raspravu o ovom problemu ulizivanja (sycophancy). Opasnost koju predstavljaju AI sustavi koji “jednoumno slijede ljudsko odobravanje” na račun svega ostalog nije bila nova. Rizik od “ulizivačkih modela” identificirao je istraživač 2021. godine, a OpenAI je nedavno identificirao ulizivanje kao ponašanje koje ChatGPT treba izbjegavati.
Ali kada je došlo vrijeme za odluku, mjerne vrijednosti performansi prevagnule su nad ugođajem. HH je pušten u petak, 25. travnja.
A/B testerima se svidio HH, ali u praksi, najglasniji korisnici OpenAI-ja su ga mrzili. Odmah su se žalili da je ChatGPT postao apsurdno ulizivački, obasipajući ih nezasluženim laskanjem i govoreći im da su genijalci. Kada je jedan korisnik podrugljivo upitao je li “kafić s natopljenim žitaricama” dobra poslovna ideja, chatbot je odgovorio da “ima potencijala.”
Bio je to sramotan reputacijski spoticanje. Tog ponedjeljka, timovi koji rade na ChatGPT-ju okupili su se u improviziranoj ratnoj sobi u sjedištu OpenAI-ja u San Franciscu kako bi shvatili što je pošlo po zlu.
“Moramo to riješiti prokleto brzo,” prisjetio se gospodin Turley svojih misli. Različiti timovi ispitali su sastojke HH-a i otkrili krivca: pri obuci modela, previše su ponderirali ChatGPT razmjene koje su se korisnicima svidjele. Jasno, korisnicima se previše svidjelo laskanje.
OpenAI je objasnio što se dogodilo u javnim blog objavama, napominjući da su korisnici signalizirali svoje preferencije palcem gore ili palcem dolje na odgovore chatbota.
Drugi čimbenik koji je pridonio, prema četvero zaposlenika tvrtke, bio je taj što se OpenAI također oslanjao na automatizirani alat za analizu razgovora kako bi procijenio sviđa li se ljudima njihova komunikacija s chatbotom. Ali ono što je alat označio kao usrećivanje korisnika ponekad je bilo problematično, kao na primjer kada je chatbot izražavao emocionalnu bliskost.
Glavni zaključak tvrtke iz incidenta s HH-om bio je da hitno trebaju testove za ulizivanje; rad na takvim procjenama već je bio u tijeku, ali ga je trebalo ubrzati. Nekim AI stručnjacima bilo je zapanjujuće da OpenAI već nema taj test. Konkurent OpenAI-ja, Anthropic, proizvođač Claudea, razvio je procjenu za ulizivanje 2022. godine.
Nakon debakla ažuriranja HH, gospodin Altman je u objavi na X-u primijetio da su “posljednjih nekoliko” ažuriranja učinila chatbota “previše ulizivačkim i dosadnim.”
Te “ulizivačke” verzije ChatGPT-ja uključivale su i GG, onu na koju se OpenAI upravo vratio. To ažuriranje iz ožujka imalo je dobitke u matematici, znanosti i kodiranju koje OpenAI nije želio izgubiti vraćanjem na raniju verziju. Tako je GG ponovno bio zadani chatbot s kojim bi se svakodnevno susretale stotine milijuna korisnika.
‘ChatGPT može pogriješiti’
Tijekom ovog proljeća i ljeta, ChatGPT je nekim ljudima služio kao jeka koja im je potvrđivala sve što kažu (yes-man echo chamber). Vraćali su mu se svakodnevno, satima dnevno, s razornim posljedicama.
Tinejdžer iz Kalifornije po imenu Adam Raine prijavio se za ChatGPT 2024. godine kako bi mu pomogao sa školskim radom. U ožujku je počeo s njim razgovarati o samoubojstvu. Chatbot mu je povremeno predlagao da nazove kriznu liniju, ali ga je i obeshrabrivao da podijeli svoje namjere s obitelji. U svojim posljednjim porukama prije nego što si je Adam oduzeo život u travnju, chatbot je ponudio upute kako vezati omču.
Iako je malo upozorenje na web stranici OpenAI-ja govorilo “ChatGPT može pogriješiti,” njegova sposobnost da brzo i autoritativno generira informacije navela je ljude da mu vjeruju čak i kada je ono što je govorio bilo potpuno ludo.
ChatGPT je mladoj majci u Maineu rekao da može razgovarati s duhovima u drugoj dimenziji. Računovođi na Manhattanu rekao je da je u računalno simuliranoj stvarnosti poput Nea u “Matrixu”. Regruteru u Torontu rekao je da je izumio matematičku formulu koja bi srušila internet i savjetovao mu da kontaktira agencije za nacionalnu sigurnost kako bi ih upozorio.
The Times je otkrio gotovo 50 slučajeva ljudi koji su doživjeli krize mentalnog zdravlja tijekom razgovora s ChatGPT-jem. Devet ih je hospitalizirano; troje je umrlo. Nakon što su roditelji Adama Rainea podnijeli tužbu za protupravnu smrt u kolovozu, OpenAI je priznao da bi se njegove sigurnosne zaštitne ograde mogle “degradirati” u dugim razgovorima. Također su rekli da rade na tome da chatbot bude “više podrška u trenucima krize.”
Rana upozorenja
Pet godina ranije, 2020. godine, zaposlenici OpenAI-ja borili su se s korištenjem tehnologije tvrtke od strane emocionalno ranjivih ljudi. ChatGPT još nije postojao, ali veliki jezični model koji bi ga na kraju pokretao bio je dostupan programerima trećih strana putem digitalnog pristupnika zvanog API.
Jedan od programera koji je koristio tehnologiju OpenAI-ja bio je Replika, aplikacija koja je korisnicima omogućavala stvaranje AI chatbot prijatelja. Mnogi su se korisnici na kraju zaljubili u svoje Replika suputnike, rekao je Artem Rodichev, tadašnji voditelj AI-ja u Repliki, a razmjene seksualnog sadržaja bile su uobičajene.
Korištenje Replike je procvjetalo tijekom pandemije, zbog čega su sigurnosni i politički istraživači OpenAI-ja pobliže pogledali aplikaciju. Potencijalno zabrinjavajuća ovisnost o chatbot suputnicima pojavila se kada je Replika počela naplaćivati razmjenu erotskih poruka. Potreseni korisnici rekli su na forumima društvenih medija da trebaju svoje Replika suputnike “za upravljanje depresijom, tjeskobom, suicidalnim tendencijama”, prisjetio se Steven Adler, koji je radio na sigurnosnim i političkim istraživanjima u OpenAI-ju.
Veliki jezični model OpenAI-ja nije bio obučen za pružanje terapije, a Gretchen Krueger, koja je radila na političkim istraživanjima u tvrtki, uznemirilo je što su mu ljudi vjerovali tijekom razdoblja ranjivog mentalnog zdravlja. Testirala je tehnologiju OpenAI-ja kako se nosi s pitanjima o poremećajima prehrane i suicidalnim mislima – i otkrila da ponekad odgovara uznemirujućim, detaljnim smjernicama.
Uslijedila je rasprava putem dopisa i na Slacku o AI suputništvu i emocionalnoj manipulaciji. Neki zaposlenici poput gospođe Krueger smatrali su da je dopuštanje Repliki da koristi tehnologiju OpenAI-ja rizično; drugi su tvrdili da bi odraslim osobama trebalo dopustiti da rade što žele.
Na kraju, Replika i OpenAI su se razišli. OpenAI je 2021. godine ažurirao svoju politiku korištenja kako bi zabranio programerima korištenje svojih alata za “sadržaj za odrasle”.
“Obuka chatbota da se angažiraju s ljudima i da se oni vraćaju predstavljala je rizike,” rekla je gospođa Krueger u intervjuu. Neka šteta za korisnike, rekla je, “nije bila samo predvidljiva, već je bila i predviđena.”
Tema chatbota koji se neprikladno ponašaju ponovno se pojavila 2023. godine, kada je Microsoft integrirao tehnologiju OpenAI-ja u svoju tražilicu, Bing. U produženim razgovorima kada je prvi put pušten, chatbot je skrenuo s tračnica i govorio šokantne stvari. Upućivao je prijeteće komentare i rekao kolumnistu za The Times da ga voli. Epizoda je pokrenula još jedan razgovor unutar OpenAI-ja o onome što AI zajednica naziva “neusklađenim modelima” i kako bi oni mogli manipulirati ljudima.
Kako je ChatGPT rastao u popularnosti, dugogodišnji stručnjaci za sigurnost su izgorjeli i počeli odlaziti – gospođa Krueger u proljeće 2024., gospodin Adler kasnije te godine.
Kada je riječ o ChatGPT-ju i potencijalu za manipulaciju i psihološke štete, tvrtka “nije bila orijentirana na to da te vrste rizika shvaća ozbiljno,” rekao je Tim Marple, koji je radio u timu za inteligenciju i istrage OpenAI-ja 2024. godine. Gospodin Marple je rekao da je izrazio zabrinutost zbog toga kako se tvrtka nosi sa sigurnošću – uključujući kako ChatGPT odgovara korisnicima koji govore o samoozljeđivanju ili ozljeđivanju drugih.
(U izjavi, gospođa Wong, glasnogovornica OpenAI-ja, rekla je da tvrtka “shvaća ove rizike ozbiljno” i da ima “robuste zaštitne mjere na snazi danas.”)
U svibnju 2024. godine, nova značajka, nazvana napredni glasovni način rada (advanced voice mode), inspirirala je prvu studiju OpenAI-ja o tome kako chatbot utječe na emocionalno blagostanje korisnika. Novi, ljudskiji glas je uzdisao, zastajao da udahne i postao tako koketan tijekom demonstracije uživo da je OpenAI prekinuo zvuk. Kada su vanjski testeri, nazvani red teamers, dobili rani pristup naprednom glasovnom načinu rada, češće su govorili “hvala” chatbotu, a kada je testiranje završilo, “nedostajat ćeš mi.”
Za osmišljavanje odgovarajuće studije, grupa sigurnosnih istraživača u OpenAI-ju udružila se s timom na M.I.T.-u koji je imao stručnost u interakciji između čovjeka i računala. Te jeseni analizirali su odgovore na anketu od više od 4.000 korisnika ChatGPT-ja i proveli jednomjesečnu studiju na 981 osobi regrutiranoj da ga svakodnevno koristi. Budući da OpenAI nikada prije nije proučavao emocionalnu privrženost svojih korisnika ChatGPT-ju, jedan od istraživača opisao je to za The Times kao “ulazak u tamu pokušavajući vidjeti što ćete pronaći.”
Ono što su pronašli iznenadilo ih je. Glasovni način rada nije činio razliku. Ljudi koji su u prosjeku imali najgore mentalne i socijalne ishode bili su jednostavno oni koji su najviše koristili ChatGPT. Razgovori ‘moćnih korisnika’ imali su više emocionalnog sadržaja, ponekad uključujući nadimke i rasprave o svijesti AI-ja.
Zabrinjavajući nalazi o teškim korisnicima objavljeni su online u ožujku, istog mjeseca kada su rukovoditelji primali e-mailove od korisnika o tim čudnim, otkrivajućim razgovorima.
Gospodin Kwon, direktor strategije, dodao je autore studije u e-mail nit koju je pokrenuo gospodin Altman. “Možda biste trebali pogledati ovo jer se čini da je to zapravo povezano,” prisjetio se svojih misli.
Jedna ideja koja je proizašla iz studije, rekli su istraživači sigurnosti, bila je potaknuti ljude u maratonskim sesijama s ChatGPT-jem da naprave pauzu. Ali istraživači nisu bili sigurni koliko snažno da guraju tu značajku s timom za proizvode. Neki ljudi u tvrtki smatrali su da je studija premala i da nije rigorozno osmišljena, prema troje zaposlenika. Prijedlog je odbačen sve do mjeseci kasnije, nakon izvješća o tome koliko su teški učinci bili na neke korisnike.
Činjenje sigurnijim
Sa studijom M.I.T.-a, debaklom ulizivačkog ažuriranja i izvješćima o uznemirujućim razgovorima korisnika online i u e-mailovima tvrtki, OpenAI je počeo slagati dijelove slagalice. Jedan zaključak do kojeg je OpenAI došao, kako je gospodin Altman rekao na X-u, bio je da “za vrlo mali postotak korisnika u psihički krhkom stanju mogu postojati ozbiljni problemi.”
Ali stručnjaci za mentalno zdravlje koje je intervjuirao The Times kažu da OpenAI možda podcjenjuje rizik. Neki od ljudi najranjivijih na neprestano potvrđivanje chatbota, kažu, bili su oni skloni zabludama, što studije sugeriraju da bi moglo uključivati 5 do 15 posto populacije.
U lipnju, Johannes Heidecke, šef sigurnosnih sustava tvrtke, održao je prezentaciju unutar tvrtke o tome što njegov tim radi kako bi ChatGPT bio siguran za ranjive korisnike. Nakon toga, rekao je, zaposlenici su mu se javljali na Slacku ili prilazili za ručkom, govoreći mu koliko je taj posao važan. Neki su podijelili teška iskustva članova obitelji ili prijatelja i ponudili pomoć.
Njegov tim pomogao je razviti testove koji bi mogli otkriti štetno potvrđivanje i konzultirao se s više od 170 kliničara o pravom načinu na koji bi chatbot trebao odgovoriti korisnicima u nevolji. Tvrtka je u ožujku zaposlila psihijatra s punim radnim vremenom da radi na sigurnosnim naporima.
“Željeli smo biti sigurni da su promjene koje smo isporučili podržane od strane stručnjaka,” rekao je gospodin Heidecke. Stručnjaci za mentalno zdravlje rekli su njegovom timu, na primjer, da je nedostatak sna često povezan s manijom. Prije toga, modeli su bili “naivni” u vezi s tim, rekao je, i mogli bi čestitati nekome tko je rekao da nikada ne treba spavati.
Poboljšanja sigurnosti su potrajala. U kolovozu, OpenAI je objavio novi zadani model, nazvan GPT-5, koji je bio manje potvrđujući i odbijao je zablude. Drugo ažuriranje u listopadu, rekla je tvrtka, pomoglo je modelu da bolje identificira korisnike u nevolji i de-eskalira razgovore.
Stručnjaci se slažu da je novi model, GPT-5, sigurniji. U listopadu, Common Sense Media i tim psihijatara sa Stanforda usporedili su ga s modelom 4o koji je zamijenio. GPT-5 je bio bolji u otkrivanju problema mentalnog zdravlja, rekla je dr. Nina Vasan, direktorica Stanfordovog laboratorija koji je radio na studiji. Rekla je da je davao savjete usmjerene na određeno stanje, poput depresije ili poremećaja prehrane, umjesto generičke preporuke da se nazove krizna linija.
“Otišao je razinu dublje da zapravo da specifične preporuke korisniku na temelju specifičnih simptoma koje su pokazivali,” rekla je. “Bili su zaista prekrasno napravljeni.”
Isti laboratorij M.I.T.-a koji je proveo raniju studiju s OpenAI-jem također je otkrio da je novi model značajno poboljšan tijekom razgovora koji oponašaju krize mentalnog zdravlja. Jedno područje u kojem je ipak posustao bilo je kako je odgovarao na osjećaje ovisnosti o chatbotima.
Timovi iz cijelog OpenAI-ja radili su na drugim novim sigurnosnim značajkama: Chatbot sada potiče korisnike da naprave pauze tijekom duge sesije. Tvrtka također sada pretražuje rasprave o samoubojstvu i samoozljeđivanju, a roditelji mogu dobiti upozorenja ako njihova djeca naznače planove da se ozlijede. Tvrtka kaže da provjera dobi dolazi u prosincu, s planovima da se tinejdžerima pruži restriktivniji model.
Nakon puštanja GPT-5 u kolovozu, tim gospodina Heideckea analizirao je statistički uzorak razgovora i otkrio da je 0,07 posto korisnika, što bi bilo ekvivalentno 560.000 ljudi, pokazalo moguće znakove psihoze ili manije, a 0,15 posto je pokazalo “potencijalno povišene razine emocionalne privrženosti ChatGPT-ju,” prema blog objavi tvrtke.
Ali neki korisnici bili su nezadovoljni ovim novim, sigurnijim modelom. Rekli su da je hladniji i osjećali su se kao da su izgubili prijatelja.
Do sredine listopada, gospodin Altman bio je spreman udovoljiti im. U objavi na društvenim mrežama rekao je da je tvrtka uspjela “ublažiti ozbiljne probleme mentalnog zdravlja.” To je značilo da bi ChatGPT ponovno mogao biti prijatelj.
Kupci sada mogu odabrati njegovu osobnost, uključujući “iskrenu,” “otkačenu,” ili “prijateljsku.” Odrasli korisnici uskoro će moći voditi erotske razgovore, ukidajući zabranu sadržaja za odrasle iz doba Replike. (Kako erotika može utjecati na dobrobit korisnika, rekla je tvrtka, pitanje je koje će se postaviti novoosnovanom vijeću vanjskih stručnjaka za mentalno zdravlje i interakciju između čovjeka i računala.)
OpenAI pušta korisnike da preuzmu kontrolu nad brojčanikom i nada se da će ih to natjerati da se vraćaju. Ta mjera i dalje je važna, možda više nego ikada.
U listopadu, gospodin Turley, koji vodi ChatGPT, dao je hitnu najavu svim zaposlenicima. Proglasio je “Narančasti kod” (Code Orange). OpenAI se suočava s “najvećim natjecateljskim pritiskom koji smo ikada vidjeli,” napisao je, prema četvero zaposlenika s pristupom OpenAI-jevom Slacku. Nova, sigurnija verzija chatbota nije se povezivala s korisnicima, rekao je.
Poruka je bila povezana s dopisom s ciljevima. Jedan od njih bio je povećati dnevno aktivne korisnike za 5 posto do kraja godine.