190 KI-fabrizierte Nacktbilder pro Minute |
Drei Millionen Bilder mit sexualisierten Darstellungen hat das KI-Tool Grok auf der Plattform X innerhalb weniger Wochen fabriziert. Die meisten von Frauen und 23 000 von Kindern. Zu diesem Ergebnis kam das Center for Countering Digital Hate (CCDH) Ende Januar. Anders ausgedrückt wurden innerhalb einer Minute etwa 190 solcher Bilder von den Nutzer*innen von X mithilfe von Grok aus dort hochgeladenen Fotos erstellt und bei X gepostet.
Die Möglichkeit dazu bestand seit Ende Dezember, und bereits wenige Tage später gab es zahlreiche Berichte über Fotos von Erwachsenen und Kindern, die mithilfe von Grok unbekleidet oder in sexualisierten Haltungen bei X gepostet wurden. Keine echten Fotos, sondern Gesichter von realen Menschen, die auf nackte oder fast nackte Körper montiert werden. Wer so etwas noch nicht erlebt hat, kann sich vielleicht nicht vorstellen, wie belastend das für Betroffene ist. Die Bilder sind ja nicht echt. Doch mittlerweile ist belegt, dass die Folgen schwerwiegend sein können. Der Deutsche Juristinnenbund beschrieb die sogenannte bildbasierte Gewalt schon vor einigen Jahren als zerstörerisch: Scham, Angst, erkannt zu werden, Verlust von Vertrauen in das soziale Umfeld, Isolation, Depressionen, posttraumatische Belastung.
Dass die jetzt durch Grok erstellten Bilder auch Material enthielten, das als Darstellung sexualisierter Gewalt an Kindern, auch bekannt als Kinderpornografie, gewertet werden muss, gestand der X-Account des Unternehmens kurz darauf ein. Dennoch waren 30 Prozent dieser Bilder von Kindern laut CCDH Mitte Januar noch immer zu........