UI (AI) sada pomaže ljudima s vjenčanim govorima, poreznim prijavama i procesuiranjem ratnih trauma. Univerzalnost ove tehnologije omogućuje joj da zauzme uloge koje su nekada bile isključivo ljudske: asistent, tutor, prijatelj, ljubavnik, terapeut. Beskrajno je strpljiva, uvijek dostupna i — za razliku od bilo kojeg prethodnog alata — aktivni sudionik u našem kognitivnom životu.
Dok su nam prošli alati omogućavali eksternalizaciju diskretnih mentalnih procesa — bilježnice za pamćenje, kalkulatori za računanje, karte za navigaciju — UI proširuje taj vidik. Sada se i sažimanje i analiza informacija, generiranje ideja i donošenje odluka također mogu prebaciti na vanjske sustave. „Počinje se uvlačiti u stvari za koje smo mislili da su kognitivno samo naše“, kaže Evan Risko, profesor na Sveučilištu Waterloo koji proučava „kognitivno rasterećenje“ (offloading) ili praksu poduzimanja vanjskih radnji kako bi se olakšali mentalni zadaci.
Iako tvorci ovih UI alata njih opisuju kao „partnere u razmišljanju“ i „suradnike“, uloga koju UI igra u našim životima često je čudnija. Sa svojim krnjim, ali golemim znanjem, neprestanom pažnjom i uvjerljivim tonom, UI nas mazi, a zauzvrat ne traži ništa osim naših podataka. To proizvodi strukturnu asimetriju: nijedan raniji odnos, s alatima ili ljudima, nije imao ovakav oblik.
Zabrinutost leži u tome što bi stručnjaci — i ljudi koji već uživaju u razmišljanju, oni s onim što psiholozi nazivaju „potrebom za kognicijom“ — mogli koristiti ove sustave kao partnere bez ugrožavanja vlastite misaonosti, dok bi za mnoge druge UI mogla funkcionirati manje kao partner, a više kao zamjena.
Ovaj novi odnos već preoblikuje obrazovanje i intelektualni rad. Preoblikuje li on i nas?
Tiha predaja
U dosad najvećoj studiji o tome kako ljudi koriste UI, tvrtka Anthropic opisala je napetost između „korištenja UI-ja za učenje i postajanja toliko ovisnim o njemu da prestajete misliti svojom glavom“. Utvrđeno je da iste sposobnosti koje proizvode koristi, proizvode i štetu; to dvoje je isprepleteno. Ljudi u visokorizičnim profesijama — poput prava, financija, državne uprave i zdravstva — bili su posebno skloni oslanjanju na UI pri donošenju odluka, ali su isto tako osjetili štetu zbog njezinih pogrešaka. „Gotovo polovica svih odvjetnika spominje izravno suočavanje s nepouzdanošću UI-ja, a ipak prijavljuju i najviše stope ostvarenih koristi u donošenju odluka“, napisala je tvrtka na temelju više od 80.000 odgovora.
Nalazi ostaju privremeni: nedostaju nam longitudinalni podaci o utjecajima UI-ja, a sustavi se poboljšavaju i objavljuju brže nego što se mogu proučiti. No, neki trendovi su već vidljivi. Anthropicova studija otkrila je da su studenti, učitelji i akademici posebno skloni izvještavati o koristima za učenje, ali istovremeno izražavati zabrinutost zbog kognitivne atrofije. S druge strane, obrtnici su također često spominjali koristi za učenje, ali gotovo uopće nisu izvještavali o strahu od popratne atrofije.
Druge nedavne studije otkrile su da ljudi teže pretjeranom samopouzdanju u kvalitetu svog rada uz pomoć UI-ja, dok oni koji se nekritički oslanjaju na nju izvještavaju o smanjenom povjerenju u vlastito razmišljanje. Kako UI odvaja produkciju rada od kognitivnih procesa koji su ga nekad stvarali, pojavljuje se jaz: naše povjerenje u rad potpomognut UI-jem ponekad premašuje naše povjerenje u nas same.
No važno je gdje se UI uklapa u vaš tijek rada. Istraživači sa Sveučilišta u Chicagu i Sveučilišta u Torontu otkrili su da je, kada je dano nedovoljno vremena za zadatak koji zahtijeva analizu dokumenata i kritičku argumentaciju, pristup UI-ju od samog početka poboljšao izvedbu. No kada je dano dovoljno vremena, korištenje UI-ja u ranoj fazi pogoršalo je izvedbu, dijelom zato što su sudionici pamtili manje, prerano suzili svoje razmišljanje i previše se vezali uz početni okvir modela. Međutim, korištenje UI-ja kasnije u procesu — nakon što su sami promislili o problemu — dovelo je do dubljeg bavljenja suprotnim stavovima i širih odgovora.
Kada prihvaćamo izlaze UI-ja bez primjene kritičkog preispitivanja ili vlastite intuicije, upuštamo se u „kognitivnu predaju“. Dok kod tipičnih slučajeva kognitivnog rasterećenja — poput prepuštanja pamćenja ili navigacije vanjskim sredstvima — zadržavamo vlastitu volju, predaja se događa u trenutku kada „samo slijedite“, objašnjava Steve Shaw, istraživač sa Sveučilišta Pennsylvania koji je suautor rada u kojem je skovan taj termin.
Shaw ističe da je u nekim slučajevima korištenje UI-ja prikladno i prilagodljivo ponašanje. „Za strukturirane zadatke poput programiranja, očito ima visoku točnost“, kaže on. „Ali postoje stvari u životu koje nemaju ispravan odgovor — stvari koje možemo odlučiti samo sami za sebe. Ako te odluke ne donosite sami, tko ste vi?“
Paradoks stručnosti
Jedna internetska basna iz 2012. zamišlja „šaputavu naušnicu“: čarobni komad nakita koji uvijek nudi savjet superiorniji od onoga što bi njezina nositeljica sama smislila. Tko god je nosi, završi živeći neobično sretnim životom; nakon njezine smrti, otkriva se da je dio mozga povezan s višim donošenjem odluka atrofirao, dok su dijelovi povezani s refleksnim djelovanjem prekomjerno narasli.
Trenutna korporativna krilatica glasi da će, iako UI sustavi postaju sve sposobniji za obavljanje posla, ljudi i dalje biti potrebni da njima upravljaju i koordiniraju ih. No, rijetko se objašnjava zašto ti isti UI sustavi neće moći obavljati i taj posao orkestracije, kao i sve druge nove zadatke koje stvore. Tu leži još jedan paradoks, kaže Zana Buçinca, buduća docentica na MIT-u koja proučava dizajn interakcija čovjeka i UI-ja. Bilo da je riječ o programskom kodu ili medicinskim dijagnozama, „mi implicitno pretpostavljamo da ljudi imaju stručnost da procijene je li UI u pravu ili u krivu“, kaže ona.
No stručnost se formira kroz angažman uz napor — ako izbjegnemo potrebu za tim, riskiramo nagrizanje sposobnosti da je uopće razvijemo. Tendencija pretjeranog oslanjanja na ponuđeno rješenje značajka je ljudske psihologije, a ne isključivo vezana uz UI. No UI nudi mnogo prečaca — i, za razliku od kalkulatora, nije uvijek u pravu. „Dakle, u biti, ubijamo put do toga da netko postane stručnjak, ali istovremeno pretpostavljamo da stručnjaci postoje u svijetu i da mogu upravljati tim sustavima“, kaže Buçinca.
Sam Gilbert, profesor koji istražuje kogniciju na UCL-u, skeptičan je prema ideji da će UI uzrokovati masovno gubljenje vještina. Podsjeća na slične prošle strahove da će nas Google „zaglupiti“ ili da će televizija skratiti raspon pažnje. „To je toliko izlizan argument da morate imati stvarno dobar razlog zašto su stvari ovaj put drugačije“, kaže on.
Gilbert ističe da poticaj za korištenje kognitivne sposobnosti i sam kapacitet za to nisu ista stvar. Karte su smanjile naš poticaj da pamtimo rute, ali naš kapacitet da to učinimo ostaje. „Prihvaćam ideju da tehnologija iskrivljuje naše poticaje da radimo ono što bi moglo biti najbolje za nas“, kaže on. „Ali ne prihvaćam ideju da ona temeljno mijenja naše osnovne ljudske sposobnosti.“
Naš novi odnos
Mogućnost da bi sustavi UI-ja u bliskoj budućnosti mogli biti bolji od većine ljudi u mnogim kognitivnim zadacima vrlo je stvarna, a vodeće UI tvrtke u nju ulažu stotine milijardi dolara. U travnju je OpenAI objavio ažurirani skup načela, od kojih se jedno odnosi na osnaživanje. „Vjerujemo da UI može osnažiti svakoga da postigne svoje ciljeve, nauči više, bude sretniji i ispunjeniji te slijedi svoje snove“, napisao je izvršni direktor Sam Altman. No, kako UI oblikuje te ciljeve i snove dok sudjeluje u našem unutarnjem životu — i kako zadržavamo svoju autonomiju u ovom strukturno asimetričnom odnosu — nije posve jasno. Kako se pripremiti za ovu neizvjesnu, radikalnu budućnost?
Ključne vještine koje treba svladati u ovoj eri su „metakognitivne“ — razumijevanje kada se treba osloniti na UI, a kada uložiti trud i razmišljati samostalno. Iz desetljeća neuroznanstvenih i psiholoških istraživanja znamo da je vježba ključna za razvoj vještina te da je otpor (frikcija) nužan za učenje. Stroj vam može objasniti kako napraviti sklek, ali morate sami odraditi ponavljanja ako želite izgraditi mišiće.
Buçinca savjetuje da kritički razmislimo o tome koji se aspekti korištenja UI-ja povezuju s našim identitetima. „Želite biti oprezni i koristiti ove alate na način koji vas nadopunjuje, a ne da samo prebacujete posao na njih“, kaže ona. „U protivnom riskirate gubitak dijela svog identiteta.“ Desetljeća istraživanja organizacijske psihologije pokazala su da su ljudi najmotiviraniji kada osjećaju da imaju određenu autonomiju nad svojim zadacima, kompetenciju da ih izvrše i osjećaj društvene povezanosti sa svojom okolinom.
Ostati povezan s osjećajem svrhe lakše je reći nego učiniti. Dosadašnji dokazi ukazuju na još jedan paradoks: ustrajno korištenje UI-ja — osobito kada se uvede prerano u nečije kognitivne napore — može zakržljati upravo one metakognitivne vještine potrebne za dobar rad s UI-jem.
Dok je kognitivna predaja aktivan rizik, možemo zamisliti i pozitivniju viziju, kaže Andy Clark, profesor kognitivne filozofije koji o ovim temama piše desetljećima. Clark razlikuje delegiranje sustavima UI-ja od suradnje s njima te sugerira da je najbolji scenarij „uzajamno pojačavanje“, u kojem naši upiti poboljšavaju kvalitetu izlaza UI-ja, što pak poboljšava naše upite, stvarajući pozitivan krug.
„Strateški delegiram razne stvari UI-ju cijelo vrijeme“, napominje Shaw. „Samo sam namjeran u tome, i uvijek pokušavam prvo razmisliti, a tek onda poslati upit (prompt).“ Za Shawa, stigma oko korištenja UI-ja, bilo u radu ili obrazovanju, koči napredak. „Moramo prihvatiti da je UI tu i da ostaje“, kaže on. „Jer ako postoji stigma, onda ne možete o tome razgovarati, ne možete se s tim nositi i ne možete razvijati politike.“
Za Clarka, mi smo oduvijek bili „prirodno rođeni kiborzi“, koristeći alate kako bismo proširili i pojačali svoj um. Ali sada kada imamo alate koji aktivno sudjeluju u našem kognitivnom životu, čini se da postajemo nešto posebno: kolektivna inteligencija. „Moramo izbrusiti svoje metakognitivne vještine kako bi se primijenile na ovo novo i neobično područje: to nije baš osoba, ali zasigurno nije ni obična bilježnica. To zapravo nije slično ničemu do sada“, kaže on, napominjući da su najbliže analogije dugogodišnji parovi, istraživački centri ili sportski timovi.
„Što više o sebi mislimo kao o klasično proširenim umovima, to bolje“, kaže on, „jer ćemo tada osjećati da imamo izravan interes, jer je to dio nas. To nije samo neko mjesto kamo šaljemo zadatke kako ih više ne bismo morali raditi. To je temeljno drugačiji odnos prema tehnologiji.“