X greift nicht ein: Sexuelle Fake-Bilder echter Frauen kursieren weiter

Nach einem massiven Aufschrei über die Möglichkeit, mit dem Bildgenerator der Grok-KI öffentlich und direkt auf X sexuelle Deepfakes echter Menschen zu generieren, versprachen die Verantwortlichen, sich um das Problem zu kümmern – doch auch am Tag danach ist es weiterhin möglich (Stand: Samstag, 3. Januar 12 Uhr), entsprechende Bilder zu generieren. Ein entsprechender Fall wurde der Redaktion von heise online am Sonntag zugespielt.

In dem Fall hatte ein X-Account Grok in einem Post aufgefordert, ein Foto einer Frau in ein Bikini-Bild umzuwandeln (da der Inhalt die Rechte der betroffenen Frau verletzt, wird die Quelle in diesem Fall nicht verlinkt). Auf X ist das möglich, indem man den offiziellen X-Account von Grok in einem Post mit dem entsprechenden Prompt und dem Originalbild markiert – ohne Einverständnis stellt das jedoch eine massive Verletzung der Persönlichkeitsrechte der Betroffenen dar, wird von diesen sehr wahrscheinlich als entwürdigend empfunden und ist zudem illegal.

Bild nach über 24 Stunden nicht entfernt

Den Kommentaren zu dem besagten X-Post ist zu entnehmen, dass Nutzer den Fall bereits vor über 24 Stunden als Verstoß gegen EU-Recht gemeldet haben. Ob es wirklich geschehen ist, lässt sich jedoch nicht unabhängig überprüfen (dieser Artikel wird ggf. aktualisiert). Angesichts des Ausmaßes, das die sexuellen Deepfakes auf X angenommen haben, ist das Team für Content Moderation bei X vermutlich massiv überlastet.

Bereits am 2. Januar wurde über den Grok-Account auf X gepostet, dass es zu einem „Versagen der Sicherheitsvorkehrungen“ komme, was gegenwärtig behoben werde. Vorübergehende Maßnahmen, um das Problem einzudämmen – etwa die Deaktivierung des Bildgenerators auf X oder sogar komplett – ergriffen xAI, Elon Musks Betreiberfirma von Grok, und auch X aber offensichtlich nicht.

Problem wird nicht eingedämmt

Auch die Verfasser der Grok-Stellungnahmen zu dem Skandal bleiben unklar. Seitens der Verantwortlichen von xAI gibt es dazu keinerlei Erklärung, gegenüber der Nachrichtenagentur Reuters tat das Unternehmen das Problem sogar als „Lüge der traditionellen Medien“ ab.

Auch Grok selbst leugnet in seinen Antworten, dass sich Bilder entsprechender Art mit der KI generieren lassen. Im vorliegenden Fall hatte Grok gegenüber der betroffenen Frau abgestritten, dass sich Bilder von realen Personen ohne deren Einverständnis erstellen lassen. Erst, nachdem Grok in einem späteren Prompt mit dem betreffenden Bild als Beispiel konfrontiert wurde, räumte der Chatbot sein Fehlverhalten ein – das Bild ist derweil weiterhin auf X verfügbar. Grok selbst verweist in seinen Antworten an das Team für Content Moderation, welches für die Löschung solcher Inhalte zuständig sei und ebenso für die Sperrung von Accounts, die Grok zur Erstellung solcher Bilder auffordern.

Und selbst, wenn die Inhalte im Original von der Plattform verschwinden, kursieren die Screenshots oft weiter. Die Staatsanwaltschaft in Paris bestätigte gegenüber Politico, dass die Vorfälle in eine laufende Untersuchung gegen X einfließen. Diese umfasse bereits Antisemitismus und Holocaust-Leugnung durch Grok. Ein Nachspiel auf EU-Ebene steht noch aus. Bereits im Dezember verhängte die EU gegen X für Verstöße gegen den europäischen Digital Services Act (DSA) eine Strafe von 120 Millionen Euro.

(nen)