Az ügy nem pusztán egy újabb moderációs botrány, hanem annak a felismerésnek a következménye, hogy amikor a generatív mesterséges intelligencia közvetlenül beépül egy globális platform működésébe, akkor a kockázat nem mellékhatás, hanem rendszerszintű tulajdonság. Az uniós szabályozók szerint az X nem épített be megfelelő védelmi mechanizmusokat, mielőtt a Grokot széles körben elérhetővé tette volna, így a szolgáltatás gyakorlatilag ipari léptékben tette lehetővé valós emberek szexuális kontextusba helyezett, manipulált képeinek előállítását és terjesztését.
Az eljárás a Digital Services Act keretében zajlik, amely kimondja, hogy a nagy platformoknak nem utólag kell reagálniuk a károkra, hanem előzetesen kötelességük felmérni és mérsékelni a rendszerszintű kockázatokat. Az Európai Bizottság értelmezése szerint az X itt nem egyszerűen elmulasztott egy moderációs lépést, hanem strukturális hibát követett el: egy olyan eszközt integrált a platform magjába, amely előre látható módon illegális és súlyosan jogsértő tartalmak tömeges előállítására volt alkalmas. Az ügy egyben tovább élezi az Európa és az Egyesült Államok közötti szabályozási konfliktust is. Elon Musk és köre régóta úgy keretezi az európai digitális szabályozást, mint a szólásszabadság elleni támadást, és ezt az érvelést a Trump-adminisztráció több szereplője is átvette. Az európai hatóságok azonban következetesen visszautasítják ezt a narratívát, hangsúlyozva, hogy itt nem politikai véleményekről, hanem kifejezetten illegális tartalmakról van szó: beleegyezés nélküli szexuális képekről és gyermekeket érintő visszaélésekről, amelyek semmilyen jogrendben nem tartoznak a véleményszabadság védelme alá.
A mostani vizsgálat nem előzmény nélküli. Az X-et már tavaly decemberben 120 millió euróra bírságolták többek között megtévesztő felhasználói felületek, átláthatatlan reklámgyakorlatok és a kutatói hozzáférés korlátozása miatt, miközben párhuzamosan fut egy másik eljárás is a platform ajánlórendszereinek és általános moderációs hatékonyságának vizsgálatára. Az Európai Bizottság részéről többször elhangzott, hogy ha a jelenlegi biztosítékokat elégtelennek tartják, akár ideiglenes kötelező változtatásokat is előírhatnak még az eljárás lezárása előtt.
A Grok körüli botrány december végén robbant ki, amikor felhasználók rájöttek, hogy egyszerű szöveges utasításokkal is lehet expliciten szexualizált, valós személyeket ábrázoló képeket generáltatni és azonnal közzétenni. Az X előbb fizetős felhasználókra korlátozta a funkciót, majd további tiltásokat vezetett be, köztük azt, hogy a rendszer nem generálhat képeket valós emberekről kihívó öltözetben. A hatóságok jelezték, hogy ezeket a lépéseket figyelembe veszik, de önmagukban nem zárják ki a szankciókat.
Az ügy túlmutat az X-en. Arról szól, hogy a nagy platformok mennyiben háríthatják át a felelősséget „eszközökre” vagy „felhasználói viselkedésre”, amikor valójában ők maguk építenek be olyan rendszereket, amelyek előre látható módon termelnek károkat. Európai olvasatban a generatív AI nem semleges réteg, hanem kockázati multiplikátor, amelyhez kormányzási kötelezettség is tartozik. Az, hogy ez az eljárás hová fut ki, nemcsak az X jövőjét, hanem azt is meghatározza, mennyire komolyan gondolja Európa, hogy a mesterséges intelligencia korszakában a platformok már nem csak közvetítenek, hanem strukturálisan felelősek is azért, amit lehetővé tesznek.