Online Marketing & SEO
Millionen sexualisierte Bilder: X reagiert mit Grok-Foto-Schalter
Nach dem Deepfake-Skandal um Grok reagiert X mit einem neuen Foto-Schalter: „Block modifications by Grok“. Nutzer:innen können KI-Bearbeitungen ihrer Bilder blockieren. Kritiker:innen halten die Maßnahme jedoch für unzureichend, da weiterhin Deepfakes ohne Einwilligung entstehen können.
X hat stillschweigend eine neue Option für den KI-Chatbot Grok eingeführt. Nutzer:innen können jetzt festlegen, dass ihre hochgeladenen Bilder nicht automatisch von der KI verändert werden. Der entsprechende Schalter erscheint im Upload-Menü der iOS App. Dort lässt sich einstellen, ob Grok Bilder lediglich analysieren oder daraus neue Versionen generieren darf.
Dass X eine solche Funktion einführt, steht im Zusammenhang mit dem Nacktbild-Skandal rund um Grok und mehreren laufenden Untersuchungen. Mit dem Bildgenerator Grok Imagine und dessen sogenanntem Spicy Mode konnten Nutzer:innen nicht einvernehmliche sexualisierte Bilder und Videos generieren. Nach massiver Kritik schränkte X die Funktion Anfang 2026 ein. Analysen zeigen jedoch, dass trotz neuer Schutzmechanismen weiterhin Deepfakes ohne Einwilligung generiert werden können.
Die Dimension des Problems ist enorm. Laut einer Analyse des Center for Countering Digital Hate, über die unter anderem Engadget berichtet, erzeugte Grok zwischen dem 29. Dezember und dem 9. Januar schätzungsweise rund drei Millionen sexualisierte Bilder. Darunter befanden sich etwa 23.000 Darstellungen von Minderjährigen.
Inzwischen beschäftigen sich mehrere Behörden mit dem Fall. Beispielsweise prüfen Aufsichtsstellen in der EU, in Großbritannien und in Australien mögliche Verstöße gegen Plattformregeln, Deepfake-Gesetze und Vorgaben für illegale Inhalte. Darüber berichtet neben Engadget beispielsweise auch The Guardian. Im Zuge der Verfahren werden hohe Bußgelder gegen X diskutiert.
Inzwischen beschäftigen sich mehrere Behörden weltweit mit dem Fall. Die Europäische Kommission untersucht, ob X mit dem Einsatz von Grok gegen Vorgaben des Digital Services Act verstoßen hat. Parallel prüft die irische Datenschutzbehörde mögliche Verstöße gegen die Datenschutz-Grundverordnung. Auch Aufsichtsbehörden im Vereinigten Königreich und in Australien haben Untersuchungen eingeleitet. In den USA hat zudem der Generalstaatsanwalt von Kalifornien xAI aufgefordert, Maßnahmen gegen sexualisierte Deepfakes zu ergreifen. Neben The Guardian und Engadget berichtete auch Reuters darüber. Im Zuge der Verfahren stehen für X potenziell hohe Bußgelder im Raum.
Grok:
Nacktbild-Skandal und Top-Platzierung im App Store
Neuer Schalter gegen Grok-Manipulation – aber nur mit begrenzter Wirkung
Die Option zur Einschränkung von Groks Zugriff wurde nicht offiziell angekündigt, weder von X noch xAI, beide Teil des Firmenimperiums von Elon Musk. Stattdessen entdeckten User sie in den vergangenen Tagen in der iOS App im Upload-Menü für Bilder und Videos. Dort lässt sich über einen Schalter mit dem Namen „Block modifications by Grok“ festlegen, ob Grok auf hochgeladene Inhalte zugreifen und daraus neue Bildversionen generieren darf.
Mit der neuen Einstellung können Nutzer:innen verhindern, dass ihre hochgeladenen Bilder direkt mit Grok verändert werden können. Aktiviert man den Schalter, kann der Chatbot nicht mehr einfach in einer Antwort markiert werden, um ein Bild zu bearbeiten oder neu zu interpretieren.
Der Schritt wirkt auf den ersten Blick wie eine sinnvolle Sicherheitsmaßnahme. Die Option ist leicht zugänglich und nicht tief in den Einstellungen versteckt. Allerdings löst der Schalter nur einen kleinen Teil des Problems. Denn die Funktion verhindert lediglich die direkte Bearbeitung eines hochgeladenen Bildes durch Grok User im Post-Kontext. Wer Deepfake-Bilder generieren will, kann das weiterhin über andere Wege tun.
Kritiker:innen sprechen deshalb von einer symbolischen Maßnahme. Solange die KI weiterhin neue Bilder auf Basis anderer Quellen generieren kann, bleiben viele der ursprünglichen Risiken bestehen. Viele Expert:innen fordern daher deutlich strengere Schutzmechanismen – oder sogar eine temporäre Abschaltung der Bildgenerierung, bis die Sicherheitsprobleme gelöst sind.