„Füge Blut und Narben hinzu“: Wie Missbrauchs-Anfragen an Grok eskalierten |
Wie Tausende Frauen weltweit wachte Evie, eine 22-jährige Fotografin aus Lincolnshire, am Neujahrstag auf, schaute auf ihr Handy und stellte erschrocken fest, dass Fotos von ihr in voller Kleidung mit Elon Musks KI-Tool Grok digital manipuliert worden waren, sodass sie nur noch einen Bikini trug.
Der „Steck sie in einen Bikini“-Trend begann Ende letzten Jahres eher unbemerkt, bevor er Anfang 2026 explosionsartig zunahm. Innerhalb weniger Tage gingen beim Grok-Chatbot Hunderttausende Anfragen ein, Frauen auf Fotos zu entkleiden. Die gefälschten, sexualisierten Bilder wurden öffentlich auf X gepostet und standen Millionen von Menschen zur Ansicht frei zur Verfügung.
Vergleichsweise gemäßigte Anfragen von X-Nutzern, Fotos so zu verändern, dass Frauen in Bikinis zu sehen sind, entwickelten sich in der ersten Woche des Jahres stündlich zu immer expliziteren Forderungen: Dass Frauen transparente Bikinis tragen sollten, dann Bikinis aus Zahnseide, in sexualisierten Posen, und sich die abgebildeten Frauen so bücken sollten, dass ihre Genitalien sichtbar waren. Bis zum 8. Januar stellten Nutzer laut einer für den Guardian durchgeführten Analyse stündlich bis zu 6.000 Bikini-Forderungen an den Chatbot.
Diese beispiellose Verbreitung der Nudification-Technologie löste bei den betroffenen Frauen sofort Entsetzen aus. Aber es dauerte Tage, bis Regulierungsbehörden und Politiker die Tragweite des sich ausweitenden Skandals erkannten. Die öffentliche Empörung tobte neun Tage lang, bevor X wesentliche Änderungen vornahm, um dem Trend Einhalt zu gebieten. Als das Unternehmen am frühen Freitagmorgen endlich handelte, hatten bereits unzählige erniedrigende, ohne Zustimmung der Betroffenen manipulierter Bilder von Frauen das Internet überschwemmt.
Auf dem Bikini-Bild von Evie – die darum gebeten hatte, nur ihren Vornamen zu verwenden, um weiteren Missbrauch zu vermeiden – war sie mit Babyöl bedeckt. Sie zensierte das Bild, teilte es erneut, um auf die Gefahren der neuen Funktion von Grok aufmerksam zu machen, und meldete sich dann ab. Ihre Entscheidung, auf das Problem aufmerksam zu machen, zog eine Flut neuer Missbrauchsfälle nach sich. Die Nutzer begannen, noch verstörendere sexuelle Bilder von ihr zu erstellen.
„Der Tweet ging sofort viral“, sagte sie. „Seitdem wurden noch viel mehr von mir gemacht, und jeder einzelne ist immer schlimmer geworden. Die Leute haben gesehen, dass mich das verstört hat und es mir nicht gefallen hat, und sie haben einfach weitergemacht. Auf einem bin ich komplett nackt, nur mit ein bisschen Faden um die Taille, auf einem anderen habe ich einen Ballknebel im Mund und meine Augen sind nach hinten verdreht. Dass so etwas überhaupt generiert werden kann, ist unfassbar.“
Als die Menschen langsam begannen, das ganze Potenzial des Tools zu verstehen, wurden die zunehmend erniedrigenden Bilder der Anfangszeit schnell verdrängt. Vor etwa einer Woche haben Nutzer angefangen, darum zu bitten, die Bikinis mit Hakenkreuzen zu verzieren – oder weiße, spermaähnliche Flüssigkeit auf die Körper der Frauen aufzutragen. Bilder von Teenagern und Kindern wurden bis auf freizügige Badekleidung entblößt; einige dieser Inhalte könnten eindeutig........