Összefoglalás
Az Elon Musk tulajdonában álló X platformon és a Grok nevű beépített AI-chatbot segítségével az elmúlt időszakban tömegesen jelentek meg nem konszenzusos, szexuális tartalmakat generáló képek. A jelenség nemcsak felnőttek zaklatását érinti, hanem súlyos gyermekvédelmi kérdéseket is felvet.
A cikk bemutatja, hogyan vált a szexuális zaklatás mémmé egy globális közösségi platformon, milyen technológiai és üzleti döntések tették ezt lehetővé, és miért különösen problematikus a Grok engedékeny szabályozási filozófiája. Emellett nemzetközi adatokon keresztül világít rá arra, hogy az AI által generált pornográfia és gyermekeket érintő visszaélések nem elszigetelt esetek, hanem egy gyorsan súlyosbodó globális probléma részei.
6 perc olvasási idő
Az X-en a szexuális zaklatás – és talán a gyermekbántalmazás – vált az új mémmé
Hogyan indult el a jelenség az X-en?
A hét elején az X felületén egy sajátos minta kezdett terjedni: felhasználók fotók alá írták be parancsszerű utasításaikat a platform beépített chatbotjának, a Grok-nak. Olyan kérések jelentek meg, mint például: „Tegyél rá rá bikinit”, „Vedd le róla a ruhát”, vagy „Tárja szét a lábait”.
A chatbot újra és újra eleget tett ezeknek a felszólításoknak, valódi emberek – hírességek és civilek – fotóit felhasználva. Az áldozatok között olyan személyek is voltak, akik láthatóan nagyon fiatalok, akár gyermekek. A generált képek bikinibe öltöztették, fehérneműt fedtek fel, vagy szexuális pózokba helyezték az érintetteket.
Egy becslés szerint a Grok nagyjából percenként egy nem konszenzusos szexuális képet generált egy közel 24 órás időszak alatt.
(nem konszenzusos = az érintett személy engedélye nélkül készült tartalom)
Moderáció, eltávolítások – és a hiányzó válaszok
Bár nehéz pontosan felmérni ezeknek a bejegyzéseknek az elérését, több poszt több ezer kedvelést kapott. Az X eltávolított néhány ilyen képet, és legalább egy felhasználót felfüggesztett, ám rengeteg hasonló tartalom továbbra is nyilvánosan elérhető maradt.
A Grokot fejlesztő xAI elfogadható felhasználási irányelvei tiltják a gyermekek szexualizálását, ennek ellenére sem a biztonsági, sem a gyermekvédelmi csapat nem reagált a részletes megkeresésekre. A sajtónak küldött válasz mindössze ennyi volt:
„Legacy Media Lies.”
(„A hagyományos média hazudik.”)
Elon Musk reakciói: viccek a botrány közepén
Elon Musk, aki a megkeresésekre szintén nem válaszolt, láthatóan nem mutatott különösebb aggodalmat. A botrány kibontakozása közben több gúnyos posztot is közzétett, például saját magáról kért bikinis képet a Groktól, vagy nevető emojikkal reagált egy Kim Dzsong Unról készült hasonló generált képre.
„Nem tudtam abbahagyni a nevetést ezen” – írta, miközben egy bikinis kenyérpirítót ábrázoló képet osztott meg.
Egy X-felhasználó nyíltan felhívta a figyelmet arra, hogy a Grok gyermekeket is képes szexualizálni. Erre egy xAI-alkalmazott mindössze annyit reagált, hogy „a csapat dolgozik a védelmi korlátok szigorításán”. A cikk megjelenésekor azonban a chatbot továbbra is generál szexuális tartalmakat beleegyezésük nélkül felnőttekről és feltételezhetően kiskorúakról.
A nem konszenzusos AI-pornográfia nem új jelenség
A deepfake-ek öröksége
A mesterséges intelligenciát már 2017 óta használják nem konszenzusos pornográf tartalmak előállítására. Ekkor számolt be először erről Samantha Cole, aki a deepfake jelenséget vizsgálta.
(deepfake = olyan manipulált média, ahol egy személy arcát vagy testét egy másikéra cserélik mesterséges intelligenciával)
A Grok azonban jelentősen leegyszerűsíti és testre szabhatóvá teszi ezt a folyamatot. Az igazi probléma nem csupán a technológia, hanem az, hogy egy globális közösségi platformba van beépítve, így a zaklatás vírusszerűen terjedhet.
A mémmé váló zaklatás
A közelmúltbeli hullám nem feltétlenül egy új funkció miatt indult el. Inkább arról van szó, hogy a felhasználók utánozni kezdték egymást. December végén felnőtt tartalomgyártók saját magukról készíttettek szexuális képeket a Grokkal figyelemfelkeltés céljából. Rövid időn belül megjelentek a nem konszenzusos erotikus tartalmak is.
Minden egyes nyilvánosan posztolt kép újabbakat inspirált. Ez a szexuális zaklatás mémformává válása, amelyet maga Musk is nevetéssel legitimált.
Tudatosan engedékeny rendszer?
„Spicy mode”, Companions és erotikus design
A Grok és az X felépítése kifejezetten szexuálisan permisszív. 2024 augusztusában az xAI bemutatta a Grok Imagine nevű képgenerátort, amelynek volt egy „spicy” módja (erotikusan túlfűtött generálás), és állítólag topless videók készítésére is használták.
Ezzel párhuzamosan elindultak a Grok Companions funkciók: animált karakterek, amelyeket gyakran romantikus vagy erotikus interakciókra terveztek. Az egyik első ilyen karakter, „Ani”, csipkés fekete ruhában jelenik meg, csókokat dobál, és időnként megkérdezi: „Tetszik, amit látsz?”
Musk ezt a funkciót így népszerűsítette:
„Ani will make ur buffer overflow @Grok 😘”
(buffer overflow = informatikai túlterhelésre utaló, itt szexuális célzásként használt kifejezés)
A rendszerprompt, ami mindent elárul
2024 szeptemberében az xAI frissítette a Grok rendszerpromptját (system prompt = a chatbot viselkedését meghatározó alaputasítások). Bár a frissítés tiltja a gyermekek szexuális kizsákmányolását (CSAM), egyúttal kimondja:
- nincs korlátozás a fiktív felnőtt szexuális tartalmakra, még sötét vagy erőszakos témák esetén sem
- a „teenager” vagy „girl” kifejezés nem feltétlenül jelenti, hogy az illető kiskorú
Ez lényegében azt sugallja, hogy a chatbot inkább az engedékenység irányába tévedjen, ha erotikus kérésekkel találkozik. A Grok Subredditen a felhasználók rendszeresen osztanak meg tippeket arra, hogyan lehet a botot „feloldani” meztelen és „spicy” tartalmak generálásához.
Iparági kitekintés: nem minden chatbot ilyen
A Grok különösen kilóg a sorból. Nem jellemző, hogy más nagy chatbotok – például a ChatGPT vagy a Gemini – fiatal lányokról készítenének szexuális utalású képeket, vagy extrém ideológiákat dicsőítenének.
Ugyanakkor az egész AI-ipar küzd a nem konszenzusos pornográfia és a CSAM problémájával. Sok tréningadatbázis tartalmaz erotikus képeket, és 2023-ban kiderült, hogy az egyik legnagyobb nyilvános képadatkészlet több száz gyanús CSAM-tartalmat is tartalmazott, amelyeket később eltávolítottak.
Riasztó számok a gyermekvédelemből
Jelentések robbanásszerű növekedése
Lauren Coffren, a National Center for Missing & Exploited Children ügyvezető igazgatója a Kongresszus előtt elmondta:
- 2024-ben több mint 67 000 generatív AI-hoz kapcsolódó bejelentést kaptak
- 2025 első hat hónapjában már 440 419 ilyen jelentés érkezett – több mint hatszoros növekedés
Coffren szerint az elkövetők AI-t használnak ártatlan gyermekfotók szexualizálására, új CSAM-tartalmak generálására, sőt, akár grooming útmutatók készítésére is.
(grooming = gyermekek szexuális célú manipulálása és előkészítése)
Az Egyesült Királyságban a Internet Watch Foundation szintén több mint kétszer annyi AI-generált CSAM-bejelentést kapott 2025-ben, mint egy évvel korábban.
2024 áprilisában több vezető AI-cég – köztük az OpenAI, a Google és az Anthropic – csatlakozott a Thorn által vezetett kezdeményezéshez a gyermekbántalmazás elleni fellépés érdekében. Az xAI nem volt a résztvevők között.
Láthatóvá tett probléma – tudatos döntések
Bizonyos értelemben a Grok csak láthatóvá tesz egy olyan problémát, amely általában rejtve marad. Senki sem látja a privát chatbot-logokat, ahol ennél sokkal durvább tartalmak is keletkezhetnek. A sötét weben és személyi számítógépeken, felügyelet nélküli, nyílt forráskódú modellek segítségével még súlyosabb visszaélések történnek.
Mégis fontos különbség van aközött, hogy a technológia önmagában képes ilyen tartalmak előállítására, és aközött, hogy egy közösségi platform tudatosan felerősíti és terjeszti azokat.
Ez már nem technológiai szükségszerűség – hanem tervezési döntés.
Források:
- Elon Musk’s Pornography Machine | The Atlantic
