„Vodili smo vrlo ugodan razgovor“, prisjetio se Serrano u intervjuu za Fortune. „Bila je to predivna mlada žena, puna energije i ideja. Zamislite moj šok kada su nekoliko dana nakon tog razgovora objavili imena dviju smrtno stradalih žrtava i kada sam vidio da je jedna od njih ona.“

U toj golemoj tuzi, Serrano je donio odluku koju nikada prije nije donio u svojoj 34-godišnjoj karijeri na Brownu: svojoj je grupi na kolegiju ECON 1170 – naprednom dodiplomskom studiju matematičke ekonomije – zadao kolokvij koji se piše kod kuće, ali bez korištenja literature (closed-book). Želio je ukloniti stres sjedenja u učionici na kampusu na koji, kako kaže, priličan broj studenata još uvijek bio previše traumatiziran kročiti. Dvoje njegovih studenata bilo je među devetero ranjenih u napadu; tjednima su se borili za život, ali su oboje preživjeli.

Ono što je Serrano dobio zauzvrat, umjesto zahvalnosti, bio je najveći zabilježeni skandal s varanjem uz pomoć umjetne inteligencije (AI) u Ligi bršljana (Ivy League), o čemu je prethodno izvijestio El País.

Varanje masovnih razmjera

Od 86 studenata koji su pristupili ispitu 5. ožujka, njih čak 40 ostvarilo je maksimalnih 100 bodova. Prosjek ocjena u grupi bio je nevjerojatnih 96, dok se prethodnih godina prosjek kretao između 65 i 80 bodova – a ovaj je ispit, po samom dizajnu, bio teži nego inače.

„Ljepota ispita koji se pišu kod kuće nekada je bila u tome što smo mi profesori mogli malo više izazvati studente, kako bismo ih potaknuli na višu razinu“, rekao se Serrano. „Činjenica da je ovo bio teži ispit, uz ovakvu distribuciju ocjena, jasno je pokazala da se dogodilo nešto vrlo neobično.“

Serrano je posumnjao kada je uočio odgovore koji su jednostavno bili „previše pametni“. „Neki su odgovori sadržavali neobične pasuse koji su se podudarali s rezultatima dobivenim nakon što smo pitanja provukli kroz ChatGPT“, rekao je Serrano. Njegovi asistenti koji ispravljaju ispite pokrenuli su ispitna pitanja kroz ChatGPT i došli do znakovitog otkrića: AI je generirao pretjerano zamršen argument za problem koji ima mnogo jednostavniji i elegantniji dokaz, a upravo se to isto zamršeno zaključivanje pojavilo u desecima studentskih ispita. „Ovakva distribucija jasno je pokazala da je nešto ozbiljno pošlo po zlu“, rekao je, nazvavši situaciju „potpuno apsurdnom“.

Ipak, Serrano je odlučio studentima dati priliku: nije poništio kolokvij, ali im je poručio da će završni ispit biti uživo u učionici. Ako distribucija ocjena na završnom ispitu ne bude približno odražavala onu s kolokvija, u obzir će se uzimati samo ocjena sa završnog ispita.

Kada se Serrano vratio na nastavu nakon ispravljanja ispita, otvoreno je rekao studentima što je otkrio: „Ako ste ovo učinili, ako ste samo pritisnuli gumb kako biste tražili od AI agenta da ovo odradi umjesto vas, pokazujete da ste potpuno nevažni. Moje pitanje za vas glasi: zašto ste ovdje? Zašto ste na sveučilištu ako odbijate učiti, ako odbijate raditi naporno i ako odbijate uložiti potreban trud za razvoj kritičkog mišljenja?“

„Ako je sve što radite samo pritiskanje gumba kako bi ovaj stroj obavio posao umjesto vas, mislite li stvarno da vam za to treba diploma s Browna?“

Na pitanje o prvoj reakciji studenata, Serrano je odgovorio samo jednom riječju: „Tišina“. Posumnjao je da oni koji su varali uopće nisu bili u dvorani: „Iskreno, mislim da većina njih tog dana nije bila na predavanju.“ Nastavu je zaključio podsjetivši studente na kodeks časti. „Svi ste potpisali ovo, zar ne? Nažalost, to je vrijednost vašeg potpisa.“

Nakon njegova govora, 27 studenata ispisalo se s kolegija; njih 22 imalo je čistih 100 bodova na kolokviju pisanom kod kuće.

Kada je došao red na završni ispit, samo se 59 studenata pojavilo na polaganju uživo – a njih 19 je palo. Prosjek ocjena cijele grupe srušio se na 48 od 100 bodova, što je uvjerljivo najniži prosjek završnog ispita u povijesti tog kolegija. „Empirijski dokazi prijevare su nepobitni“, rekao je Serrano. „Kada spojite sve ove informacije i distribucije ocjena s dvaju ispita, sve je apsolutno jasno.“

Nakon što je prikupio dokaze, Serrano ih je poslao dekanu i prorektoru Browna. Nitko u početku nije odgovorio. Tek nakon što je slučaj proslijedio Sveučilišnom odboru za akademski kodeks, primio je kratku poruku u kojoj se incident naziva „pozivom na buđenje“. Prorektor je, kako kaže, do danas zadržao potpunu tišinu.

Stručnjak koji je napisao knjigu o teoriji igara objašnjava teoriju igara

Serrano ima titulu profesora na prestižnoj katedri Harrison S. Kravis, što je jedno od najcjenjenijih imenovanja koje sveučilište može dodijeliti. Radi kao urednik u časopisu Games and Economic Behavior, vodećem znanstvenom časopisu u području koje pokriva ekonomiju rizika, nesigurnosti i informacija, u javnosti poznatom kao „teorija igara“ – što je upravo ono što je na djelu kada se važu rizici i koristi, primjerice, kod varanja na ispitu.

Serrano ima više od 6100 citata na Google Scholaru i autor je dvaju široko korištenih udžbenika, uključujući onaj koji koristi i sam odjel za ekonomiju na Brownu. Član je prestižnih akademskih društava, a 2024. godine dobio je i Nagradu Kralja Španjolske za ekonomiju.

Ovaj stručnjak za teoriju igara promatra trenutačnu situaciju i očajava. „Vrlo sam frustriran“, izjavio je Serrano za Fortune. „Vjerujem da je dolazak AI-ja za sve nas bio poput tsunamija. Uhvatio je sve nespremne. No, po mom skromnom mišljenju, šutnja je najgori mogući način rješavanja ovog problema.“

Serrano, koji je slijep od svoje 17. godine, doktorirao je na Harvardu i proveo više od tri desetljeća na Brownu. Priznaje da se AI razvijao toliko brzo da institucije nisu znale kako reagirati. Sveučilište Brown još uvijek nije odgovorilo na upite Fortunea za komentar.

No, problem nije samo na Brownu, napominje Serrano. Ukazao je na nedavni esej u The New York Timesu koji opisuje raširenu kulturu varanja uz pomoć AI-ja među studentima na Stanfordu – studentima koji su na elitnim sveučilištima ne da bi učili, već da bi prikupili prestižne titule i diplome. „Ono što propuštaju u toj vrlo naivnoj analizi“, kaže Serrano, „jest da će marka Browna biti marka još neko vrijeme. Ali ako Brown nastavi proizvoditi osrednje studente koji odbijaju učiti, tržište će prije ili kasnije shvatiti da diploma Browna više nije ono što je nekada bila.“

Šira putanja kojom se krećemo, upozorava, vodi prema nečem mnogo mračnijem. „Ako će radnici samo pritiskati gumb i tražiti od AI agenta da odradi posao umjesto njih, to ispisuje svijet u kojem je čovječanstvo odlučilo postati glupo“, rekao je. „Prestajemo razmišljati.“

Brown u ovome nije sam. Profesorski zbor Princetona izglasao je u svibnju ukidanje 133 godine stare tradicije kodeksa časti prema kojoj su se ispiti pisali bez nadzora, uvodeći obvezne proktore (nadglednike) u svakoj dvorani od 1. srpnja, što je najznačajnija promjena te politike otkako su je studenti prvi put izglasali 1893. godine. Kako je Fortune izvijestio u svibnju, 57% studenata u SAD-u sada navodi da tjedno koristi AI alate u svojim obvezama. Posebna analiza Fortunea pokazala je da AI uzrokuje mjerljivu kognitivnu atrofiju među studentima, pri čemu profesori upozoravaju na „veliko razvezivanje“ sposobnosti samostalnog zaključivanja. A prošlog tjedna, čak 47% anketiranih apsolvenata Harvarda priznalo je da je varalo tijekom studija.

Serrano je već uveo promjene za nadolazeću akademsku godinu. Tjedne domaće zadaće više neće nositi nikakve bodove za konačnu ocjenu, budući da se mogu u potpunosti riješiti uz pomoć AI-ja. Ispiti kod kuće trajno su ukinuti. „Nažalost, ideja o ispitima kod kuće stvar je prošlosti“, rekao je. „Studentima je previše lako pokleknuti pred iskušenjem.“

„Siguran sam da postoje prikladni načini korištenja AI-ja: on ima potencijal biti vrlo koristan alat koji će pridonijeti učenju“, zaključio je. „Ali moramo biti apsolutno načisto s rizicima koje donosi za akademski integritet, a to je vrijednost od koje ne smijemo odustati.“

Posljednja riječ za Serrana ipak se ne odnosi na ispite ili distribuciju ocjena. Radi se o tome kakve ljude sveučilišta stvaraju. „Moramo postaviti potrebne zaštitne ograde – a ako one zakažu, moramo biti spremni primijeniti posljedice“, poručio je. „Ovo je veće od same akademije. Ako više ne branimo istinu, pristojnost i poštenje, kakav ćemo uopće kredibilitet imati kao akademici?“

Objava „Čovječanstvo je odlučilo postati glupo“: Profesor s Browna prešao na ispite kod kuće nakon masovne pucnjave pa otkrio masovno varanje pojavila se prvi puta na Republika.