Slučaj četrnaestogodišnjaka iz Australije, koji je od gledanja povijesnih snimki na TikToku stigao do istraživanja mogućnosti terorističkog napada, ponovno je otvorio pitanje utjecaja umjetne inteligencije i društvenih mreža na mlade. Australske sigurnosne službe upozoravaju da se proces radikalizacije, koji je nekada trajao mjesecima ili godinama, danas može odvijati u svega nekoliko dana.
Četrnaestogodišnjak iz Australije počeo je gledati povijesne sadržaje na TikToku, a s vremenom se našao u svijetu ekstremističke propagande i istraživanja mogućnosti izvođenja terorističkog napada. Njegov slučaj, o kojem je 10. studenoga izvijestio britanski Guardian, dolazi u trenutku sve ozbiljnijih upozorenja australskih sigurnosnih službi o brzini kojom se mladi radikaliziraju u digitalnom prostoru.
Dječak, kojeg je australski sud identificirao pseudonimom RK, imao je samo 14 godina kada je 2024. počeo pripremati teroristički napad u Sydneyju.
Prema sudskim nalazima, njegov put prema ekstremizmu započeo je interesom za povijest. Na TikToku je gledao snimke o križarskim ratovima, a zatim i sadržaje povezane s terorističkim napadima 11. rujna i ratovima koji su uslijedili. S vremenom je počeo pratiti sve nasilnije materijale.
„U početku je gledao povijesne sadržaje koji su mogli imati političku tematiku. Gledao je snimke o križarima i njihovim carstvima“, naveo je sudac Stephen Campbell u obrazloženju presude.
Dječak je kasnije priznao da mu je ekstremistička propaganda „isprala mozak“.
Tijekom radikalizacije koristio je različite digitalne platforme, uključujući YouTube, Telegram i ChatGPT. Umjetnu inteligenciju koristio je za istraživanje sigurnosnih informacija povezanih s potencijalnim napadom u Sydneyju.
Sud je utvrdio da nije imao razrađen operativni plan niti je pribavio materijal za izradu eksplozivne naprave. Ipak, slučaj je pokazao kako se različite digitalne platforme mogu povezati u procesu postupne radikalizacije mladih.
Algoritmi postupno vode korisnike prema ekstremističkim sadržajima
Claire McGuinness, zamjenica glavnog ravnatelja australske obavještajne agencije ASIO, pred parlamentarnim odborom opisala je obrazac koji sigurnosne službe sve češće prepoznaju među mladima.
Prema njezinim riječima, proces često počinje bezazleno – pregledavanjem sadržaja na Instagramu, TikToku ili drugim društvenim mrežama.
Prvi sadržaji mogu biti politički memovi ili vjerski konzervativni videozapisi, koji sami po sebi ne upućuju na ekstremizam. Međutim, nakon što korisnik počne reagirati na određene objave, algoritmi mu postupno nude sve sličniji sadržaj.
„Ali onog trenutka kada stupe u interakciju, algoritam preuzima kontrolu“, upozorila je McGuinness.
S vremenom sadržaji mogu postajati sve radikalniji, dok dio mladih prelazi u zatvorene internetske zajednice na platformama poput Telegrama i Discorda.
U takvim se zajednicama ekstremističke ideje često šire kroz humor, provokacije i stvaranje osjećaja pripadnosti određenoj skupini.
Sandra Booth, vršiteljica dužnosti zamjenice povjerenika Australske federalne policije, upozorila je 21. listopada da se proces radikalizacije, koji je nekada mogao trajati mjesecima ili godinama, danas može odviti „za nekoliko dana“.
„Australska federalna policija duboko je zabrinuta da umjetna inteligencija ubrzava i smanjuje razinu vještina potrebnih za aktivnu manipulaciju i radikalizaciju žrtava na internetu“, izjavila je Booth.
Istraživanje Australskog instituta za kriminologiju, provedeno na 9951 ispitaniku, pokazalo je da su algoritamske preporuke tijekom 2024. imale sve značajniju ulogu u izlaganju korisnika radikalnim sadržajima. Istodobno je zabilježena i veća izloženost materijalima koji prikazuju ili zagovaraju nasilje.
Sve veći broj maloljetnika povezanih s terorizmom
Podaci australskih sigurnosnih službi dodatno naglašavaju ozbiljnost problema.
Australska federalna policija objavila je da su od 37 maloljetnika procesuiranih zbog kaznenih djela povezanih s terorizmom od 2020. godine čak 32 optužena tijekom posljednje dvije godine.
Istraživači pritom upozoravaju da se radikalizacija mladih ne može pripisati isključivo tehnologiji.
Usamljenost, društvena izolacija, potreba za prihvaćanjem, nedostatak samopouzdanja i potraga za vlastitim identitetom često mogu prethoditi uključivanju u ekstremističke internetske zajednice.
Digitalni algoritmi dodatno otežavaju situaciju jer korisnicima neprestano preporučuju sadržaje slične onima koje su prethodno gledali ili na njih reagirali. Na taj način mlada osoba može postupno biti izložena sve užem i radikalnijem pogledu na svijet.
Može li umjetna inteligencija postati alat za radikalizaciju?
Generativna umjetna inteligencija otvara dodatna pitanja o sigurnosti mladih na internetu.
Današnji chatbotovi mogu voditi dugotrajne i personalizirane razgovore, prilagođavati odgovore interesima korisnika te mu pomagati u pronalaženju informacija.
Međutim, još uvijek nije dovoljno istraženo u kojoj mjeri takvi sustavi mogu pridonijeti prihvaćanju ekstremističkih uvjerenja i ubrzavanju procesa radikalizacije.
Važno je naglasiti da u australskom slučaju nije utvrđeno da je ChatGPT izazvao dječakovu radikalizaciju. Njegov slučaj ipak pokazuje kako se umjetna inteligencija može pojaviti kao jedan od alata u širem procesu u kojem mlada osoba koristi više digitalnih platformi.
Roditelji i institucije suočeni s novim izazovom
Australski slučaj ponovno je otvorio raspravu o odgovornosti digitalnih platformi i utjecaju algoritama na odrastanje novih generacija.
Roditelji često nemaju uvid u sadržaje kojima su njihova djeca izložena, dok platforme na temelju njihovih interesa, pretraživanja i reakcija sve preciznije oblikuju ono što će im se prikazivati.
Problem je dodatno složen činjenicom da radikalizacija ne mora započeti otvoreno ekstremističkim sadržajima. Ponekad se razvija postupno, kroz naizgled uobičajene internetske interese, sve dok mlada osoba ne završi u okruženju u kojem se nasilje i ekstremizam predstavljaju kao prihvatljivi.
Koliko umjetna inteligencija i algoritmi društvenih mreža utječu na oblikovanje političkih i društvenih stavova mladih, pitanje je koje tek dobiva ozbiljniju pozornost istraživača, sigurnosnih institucija i roditelja.
