Auch das ist das KI-Zeitalter: Die Diskrepanz zwischen problematischen, ja illegalen Deepfakes und dem Erfolg eines AI Visual Tools zeigt sich ganz besonders am Beispiel von Grok. Die große KI von xAI und Elon Musk, die so eng mit der Social-Media-Plattform X und der kontroversen KI-Enzyklopädie Grokipedia verknüpft ist, steht erneut in der Kritik. Mithilfe der Edit Images-Funktion beim Feature Grok Imagine haben User sexualisierte Deepfakes von sich, aber auch Frauen und sogar Minderjährigen erstellen können. Daher fordern Staaten wie Frankreich und Indien Aufklärung, es gibt sogar schon Strafanzeigen. Grok entschuldigt sich vage, Elon Musk scheint das weniger zu besorgen. Kein Wunder, denn Grok erobert dank der Feature Updates die App Charts.

Grok Imagine mit Spicy Mode jetzt for free

Mit Grok Imagine: Beinahe Grenzenlose KI-Bildmöglichkeiten von Nacktbildern bis zu Politikverzerrung

Das KI-Video- und Bildgenerierungsmodell Grok Imagine steht allen Grok Usern weltweit in der App kostenfrei zur Verfügung. Damit können User diverse Bildideen in Visuals umsetzen. Es gibt sogar einen Spicy Mode, der auch in fiktiven Videos sexualisierte Inhalte ermöglicht. Lasziv tanzende Anime-Charaktere und entblößte Figuren, nicht zuletzt ein Video, das eine Person, die Taylor Swift verblüffend ähnlich sieht, oben ohne zeigt. Diese Inhalte konnten User trotz der Sicherheitsvorkehrungen von xAI kreieren, was Grok schon vor Monaten in die Kritik brachte.

Doch zuletzt kam es gar dazu, dass die kürzlich überarbeitete Edit Images-Option Usern ermöglichte, eigene Bilder sowie Bilder von Dritten zu nutzen, um die Personen virtuell – zumindest teilweise – zu entkleiden. Dabei wurde sogar vor Minderjährigen nicht Halt gemacht. Sexualisierte Deepfakes von xAI wurden vielfach auf X geteilt – wo seit geraumer Zeit auch Pornographieinhalte erlaubt sind.

Grok hat schon mehrfach heftige Kritik auf sich gezogen, weil der KI-Bot durch antisemitische Aussagen und Fehlinformationen für Aufsehen sorgte. Die jüngsten Verfehlungen aber führten in Frankreich sogar schon zu Strafanzeigen, Indien fordert eine Aufklärung von xAI. Nur: Das KI-Unternehmen von Elon Musk scheint die Problematik nicht so ernst zu nehmen wie sie ist. Grok entschuldigte sich zwar via X und sprach von Schwachstellen bei den Guardrails und einer raschen Behebung. Elon Musk aber zeigt sich unbeeindruckt, reagiert auf X auf andere Grok Imagine-Kreationen wie eine Art Karikatur des jüngst von den USA entführten venezolanischen Machthabers Nicolás Maduro mit dem Verbrecher und einstigem Popstar Sean Combs (P. Diddy) mit einem Lach-Emoji.

Unlock your creativity with Grok Imagine! pic.twitter.com/IBfc4LeCMa

— Grok (@grok) January 4, 2026

Grok Imagine lässt User beinahe alles kreieren und das wird zum Problem, wenn Sicherheitsvorkehrungen kaum greifen, die Eigner wenig Interesse an einer Regulierung zeigen und damit zahlreiche Menschen gefährden. Denn insbesondere Frauen und Minderjährige, im Grunde aber alle Menschen, deren Bilder online zirkulieren, laufen Gefahr, Ofer von Deepfakes zu werden, im sexualisierten Kontext oder auch im Kontext der Dekontextualisierung. Erschwerend kommt hinzu, dass xAI Grok Imagine stetig mit Feature-Optimierungen versieht und wieder neue geplant hat. Außerdem hatte Grok laut Center for Countering Digital Hate (CCDH) CEO Imran Ahmed bereits 2024 die schwächsten Sicherheitsvorkehrungen aller AI Image Creator zu bieten, wie TechCrunch seinerzeit berichtete.

Grok is the „worst of all the image generators“ for guardrails according to tests completed by the Center for Countering Digital Hate (CCDH) and CCDH CEO Imran Ahmed. pic.twitter.com/UpiNYVrZCe

— TechCrunch (@TechCrunch) October 30, 2024

---

Grok 4.1 ist da:

Das kann die Konkurrenz für OpenAI und Google

---

Parallel zur Kritik: Grok toppt App Store Charts

Dass sich Elon Musk und xAI wenig um die Regulierung von Grok und Grok Imagine kümmern, kann viele Gründe haben. Einer dürfte darin bestehen, dass Grok durch technologisch starke sowie perfide Optionen ein Nutzungshoch erlebt. In zahlreichen Regionen setzte sich die App für die KI in den vergangenen Tagen zeitweise an die Spitze der App Store Charts – nicht zuletzt in Frankreich. Heute (Stand: 5. Januar 2026) steht sie dort immerhin noch auf Rang zwei der meistheruntergeladenen Free Apps.

In Deutschland liegt Grok in den App Store Charts derzeit auf Rang sieben. Auch X zeigte zuletzt besonders gute Nutzungsdaten, wie Head of Product Nikita Bier auf der Plattform angibt.

X has hit the ground running in 2026:
It is the highest engagement start-of-the-year in X’s history — with yesterday being among our biggest days.

— Nikita Bier (@nikitabier) January 4, 2026

Die kontroversen Einsatzoptionen von Grok, die ans Illegale grenzen, scheinen auf Interesse zu stoßen. Derweil warnen Kritiker:innen vor den Folgen solcher Features. Die BBC berichtet von Frauen, die sich von Grok Imagine durch die Sexualisierung ohne ihre Zustimmung „entmenschlicht“ fühlen. Die Anti-Sexual-Violence-Organisation RAINN warnt:

Grok’s ‘Spicy’ AI Video Setting Will Lead to Sexual Abuse [.]

Ein weiteres Problem: Grok Imagine besteht erst seit kurzer Zeit und könnte nur den Startpunkt einer digitalen Szene darstellen, in der illegitime sexualisierte Inhalte mit KI erstellt werden, die potentiell dauerhaft im Netz kursieren könnten.

---

Grokipedia-Start:
„Besseres“ Wikipedia mit KI und ersten Problemen