Španjolska vlada zatražila je istragu protiv društvenih divova X, Meta i TikTok zbog njihove navodne uloge u proizvodnji i širenju materijala seksualnog zlostavljanja djece generiranog umjetnom inteligencijom (AI), prenosi Times.
“Vijeće ministara pozvat će se na članak 8. Organskog statuta javnog tužiteljstva kako bi zatražilo istragu kaznenih djela koja X, Meta i TikTok možda čine stvaranjem i širenjem dječje pornografije putem svoje umjetne inteligencije”, napisao je španjolski premijer Pedro Sánchez na platformi X u utorak. Sánchez je optužio platforme za “napad na mentalno zdravlje, dostojanstvo i prava naših sinova i kćeri”, poručivši da “nekažnjivost divova mora prestati”.
Ovaj poziv dolazi u trenutku kada Španjolska poduzima šire mjere za suzbijanje negativnih utjecaja društvenih mreža. Govoreći na Svjetskom samitu vlada u Dubaiju ranije ovog mjeseca, Sánchez je najavio planove o zabrani društvenih mreža za djecu mlađu od 16 godina, uz niz drugih mjera usmjerenih na platforme. Predložena zabrana, koja još treba odobrenje parlamenta, dolazi nakon što je Australija u prosincu postala prva zemlja na svijetu koja je provela takvu zabranu, te dok druge nacije, uključujući Francusku i Dansku, poduzimaju slične korake.
Sánchez je tom prilikom kritizirao tehnološke divove zbog propusta u cenzuri — ili čak generiranja — ilegalnog seksualiziranog sadržaja, nazvavši društvene mreže “propalom državom, mjestom gdje se zakoni ignoriraju, a kriminal trpi, gdje dezinformacije vrijede više od istine, a polovica korisnika pati zbog govora mržnje”.
Tehnološki milijarder Elon Musk, vlasnik platforme X, nazvao je napore za zabranu društvenih mreža mlađima od određene dobi “ludošću”, a Sáncheza je opisao kao “tiranina i izdajnika španjolskog naroda” nakon njegovih izjava u Dubaiju.
Iz Mete su odbili komentirati Sánchezov poziv tužiteljima, ali su za TIME izjavili da su njihovi AI alati obučeni da ne ispunjavaju zahtjeve za generiranje golotinje; da zabranjuju oglašavanje aplikacija za “svlačenje” (nudify), koje se koriste za izradu eksplicitnih slika pojedinaca, te da imaju stroga pravila protiv iskorištavanja djece.
Glasnogovornik TikToka izjavio je za TIME: “Materijal seksualnog zlostavljanja djece je odvratan i kategorički zabranjen na našoj platformi. TikTok ima robusne sustave za sprječavanje pokušaja iskorištavanja ili nanošenja štete mladima i nastavljamo ulagati u napredne tehnologije kako bismo bili korak ispred zlonamjernih aktera.”
Platforma X još se nije očitovala na upite.
Pod povećalom Muskova Grok AI
xAI-jev Grok, AI chatbot koji se može koristiti za generiranje i mijenjanje slika, proteklih se mjeseci suočio s posebnim nadzorom zbog širenja seksualiziranih slika generiranih umjetnom inteligencijom. Nakon ažuriranja chatbota u prosincu, Centar za suzbijanje digitalne mržnje (CCDH) otkrio je da je Grok generirao oko 3 milijuna seksualiziranih slika, uključujući 23.000 onih koje su prikazivale maloljetnike. X je u siječnju objavio da je uveo mjere za sprječavanje Groka da uređuje slike stvarnih ljudi kako bi ih prikazao u “razotkrivajućoj odjeći”. Međutim, Reuters je ranije ovog mjeseca izvijestio da Grok i dalje generira takve slike na izravne upite korisnika, čak i kada korisnici eksplicitno navedu da osobe na slikama nisu dale pristanak.
I druge europske zemlje pokrenule su istrage protiv X-a zbog Grokova sadržaja:
- Irska: Povjerenstvo za zaštitu podataka (DPC) otvorilo je istragu o tome koristi li X osobne podatke (uključujući dječje) za izradu potencijalno štetnih, seksualiziranih slika bez pristanka.
- Europska komisija: Pokrenula je istragu 26. siječnja zbog navodnog širenja ilegalnog sadržaja putem Groka. Prethodno je kaznila X sa 120 milijuna eura zbog kršenja Akta o digitalnim uslugama (DSA).
- Francuska: Francuske vlasti su 3. veljače upale u urede X-a u Parizu u sklopu istrage o zlouporabi algoritama i sadržaju generiranom Grokom. Musk i bivša izvršna direktorica Linda Yaccarino pozvani su na razgovore 20. travnja. X je raciju nazvao “politiziranom kaznenom istragom” i “policijskim teatrom”.
- Ujedinjeno Kraljevstvo: Regulatori ICO i Ofcom također su otvorili odvojene istrage o Groku zbog izvještaja o stvaranju pornografskog sadržaja i materijala seksualnog zlostavljanja djece.
Iako Meta i TikTok proteklih mjeseci nisu bili pod istim stupnjem nadzora zbog AI slika, Europska komisija ih je kaznila zbog drugih pitanja. TikTok je optužen za kršenje DSA-a zbog “ovisničkog dizajna” platforme, dok je Meta obaviještena o kršenju antitrustovskih pravila EU jer je isključila vanjske AI asistente iz pristupa korisnicima na WhatsAppu.