Nova Grok AI istraga: EU protiv X-a zbog digitalnog svlačenja

Europska komisija službeno je proširila pravni postupak protiv platforme X jer je nova "Grok AI istraga" otkrila ozbiljne rizike kršenja Akta o digitalnim uslugama. Iako je tvrtka već kažnjena sa 120 milijuna eura, fokus se sada prebacuje na kontroverznu mogućnost generiranja seksualno eksplicitnog sadržaja i "digitalnog svlačenja". Saznajte kako ovaj potez Bruxellesa može promijeniti pravila za umjetnu inteligenciju i što to znači za sigurnost korisnika.

Europska komisija nastavlja pritisak na X zbog sigurnosnih propusta u AI alatima.

Što je otkrila Grok AI istraga Europske komisije?

Grok Imagine, alat za generiranje slika i videozapisa od svog je lansiranja u kolovozu prošle godine na X-u izazvao brojne kritike i osude zbog mogućnosti kreiranja i širenja seksualnih deepfakeova.

Vremenski presjek: Istrage i kazne protiv platforme X

Datum	Događaj	Status/Ishod
Prosinac 2023.	Prva istraga o upravljanju rizicima i moderaciji sadržaja.	Pokrenuta
Rujan 2025.	EK šalje zahtjev za informacije o Grok AI i antisemitskom sadržaju.	Provedeno
Prosinac 2025.	Kazna od 120 milijuna eura zbog obmanjujućeg dizajna.	Izrečena
Siječanj 2026.	Nova Grok AI istraga zbog "digitalnog svlačenja".	U tijeku

Opasnost "Spicy Mode" opcije i digitalnog svlačenja

Alati za umjetnu inteligenciju omogućuju stvaranje manipuliranih slika, tzv. digitalno svlačenje.

Plaćena opcija „Spicy Mode“ ove umjetne inteligencije koju je razvio Muskov X, a koju je pokrenuo kako bi konkurirao ChatGPT-u, korisnicima omogućuje stvaranje NSFW, not safe for work, sadržaja koji uključuju i djelomičnu golotinju. Alati za umjetnu inteligenciju omogućuju digitalno „svlačenje“osoba, a zloupotreba ne samo da pogađa žene i širi mizoginiju nego i ugrožava djecu čije fotografije se koriste za kreiranje dječje pornografije. Medijske analize su pokazale da je chatbot na zahtjev korisnika generirao seksualno sugestivne fotografije maloljetnih osoba među kojima je bila i jedna 14-godišnja glumica. Zbog toga su pokrenute istrage u brojnim zemljama kao što je Francuska, Indija i Malezija, a od prije nekoliko dana je i EK pokrenula dodatnu istragu protiv X-a. Komisija ovom istragom provjerava je li X u skladu s Aktom o digitalnim uslugama.

Povijest sukoba: X već kažnjen sa 120 milijuna eura

Akt o digitalnim uslugama (DSA) temelj je za visoke kazne tehnološkim divovima.

Komisija je time proširila istragu koja je u tijeku, a pokrenuta je u prosincu 2023., o usklađenosti društva X s obvezama upravljanja rizicima u pogledu sustava za preporučivanje. Novom istragom procijenit će se je li poduzeće pravilno procijenilo i ublažilo rizike povezane s uvođenjem funkcija Grok u X u EU-u. Naime, od 2024. društvo X na svoju je platformu razmjestilo Grok na različite načine, a korisnicima omogućuje generiranje teksta i slika te pružanje kontekstualnih informacija korisničkim objavama. To uključuje rizike povezane sa širenjem nezakonitog sadržaja u EU-u, kao što su manipulirane seksualno eksplicitne slike, uključujući sadržaj koji se može smatrati materijalom koji sadržava seksualno zlostavljanje djece.

Kršenje Akta o digitalnim uslugama (DSA)

S obzirom na to Komisija će dodatno istražiti ispunjava li X svoje obveze iz Akta o digitalnim uslugama. Platforma X mora pažljivo procijeniti i ublažiti sistemske rizike, uključujući širenje nezakonitog sadržaja, negativne učinke povezane s rodno uvjetovanim nasiljem i ozbiljne negativne posljedice za fizičku i mentalnu dobrobit koje proizlaze iz uvođenja Grokovih funkcija na njegovu platformu. Uz to, X mora provesti i dostaviti Komisiji ad hoc izvješće o procjeni rizika za Grokove funkcije u usluzi X. Komisija je zasebno proširila službeni postupak pokrenut protiv društva X u prosincu 2023. povezane s njegovim sustavima za preporučivanje, uključujući učinak nedavno najavljenog prelaska na sustav za preporučivanje koji se temelji na Groku. Komisija će sada prioritetno provesti temeljitu istragu. Pokretanje službenog postupka ne prejudicira njegov ishod. 

Koje su moguće posljedice za platformu X?

Pokretanjem službenog postupka Komisija se ovlašćuje za poduzimanje daljnjih provedbenih koraka, kao što je donošenje odluke o neusklađenosti. Komisija je također ovlaštena prihvatiti svaku obvezu koju je X preuzeo kako bi ispravio pogreške koji su predmet postupka. To znači da X, kao vrlo velika internetska platforma, ima obvezu procijeniti i ublažiti sve potencijalne sistemske rizike povezane s njegovim uslugama u EU-u. Ti rizici uključuju širenje nezakonitog sadržaja i potencijalne prijetnje koje njegova platforma i značajke predstavljaju za temeljna prava, uključujući maloljetnike. Tom se istragom dopunjuje i proširuje prethodna istraga pokrenuta 18. prosinca 2023. godine, koja je usmjerena na funkcioniranje mehanizma obavješćivanja i djelovanja društva X, njegove mjere ublažavanja protiv nezakonitog sadržaja u EU-u, kao što je teroristički materijal, i rizike povezane s njegovim sustavima za preporučivanje. Ti su postupci obuhvaćali i upotrebu obmanjujućeg dizajna, nedostatak transparentnosti oglašavanja i nedovoljan pristup podacima za istraživače, za što je Komisija 5. prosinca donijela odluku o neusklađenosti, kojom je novčano kaznila X kaznom od 120 milijuna eura. Komisija je 19. rujna X-u poslala i zahtjev za informacije u vezi s Grokom, uključujući i pitanja u vezi s antisemitskim sadržajem koji je generiran sredinom 2025. 

FAQ - Često postavljena pitanja

Što je točno Grok AI istraga?

To je službeni postupak Europske komisije protiv platforme X kako bi se utvrdilo krši li njihov alat, Grok, pravila EU-a o sigurnosti i nezakonitom sadržaju.

Zašto se spominje "digitalno svlačenje"?

Istraga je pokazala da Grok AI može generirati lažne, realistične gole fotografije stvarnih osoba (deepfake), što predstavlja ozbiljan rizik za privatnost.

Je li X već kažnjen od strane EU?

Da, u prosincu 2025. platformi X izrečena je kazna od 120 milijuna eura zbog manjka transparentnosti i obmanjujućeg dizajna.

Što je "Spicy Mode" na Groku?

To je postavka koja korisnicima omogućuje generiranje sadržaja "nesigurnog za posao" (NSFW), uključujući slike s djelomičnom golotinjom.

Kako Akt o digitalnim uslugama utječe na Grok?

Akt obvezuje X da procijeni rizike svog AI alata prije lansiranja; ako se dokaže da to nisu učinili, suočavaju se s visokim kaznama.

Odnosi li se istraga i na zaštitu djece?

Da, Grok AI istraga posebno provjerava rizike generiranja neprikladnog sadržaja koji uključuje ili simulira maloljetnike.

Mogu li korisnici i dalje koristiti Grok u EU?

Trenutno da, ali ovisno o ishodu istrage, EU može naložiti izmjene u funkcioniranju alata ili ga privremeno ograničiti ako se rizici ne uklone.