X droht der Bann: Grok-Nacktbilder als Ursache

Unter diesem Motto aber erstellen Menschen eben auch Deepfakes von echten Personen. Die BBC berichtet von Frauen, die sich von Grok Imagine durch die Sexualisierung ohne ihre Zustimmung „entmenschlicht“ fühlen. Die Anti-Sexual-Violence-Organisation RAINN warnt:

Grok’s ‘Spicy’ AI Video Setting Will Lead to Sexual Abuse [.]

X droht sogar die Sperre

Dem möchte die Regierung im vereinigten Königreich ein Ende setzen. Die BBC berichtet ebenso wie The Telegraph, dass die Regierung der Regulierungsbehörde Ofcom die Freiheit gibt, gegen xAI und Grok jegliche Sanktionen zu verhängen, die angesichts der illegalen Deepfake-Verbreitung im sexualisierten Kontext angemessen sind. Unter den Deepfakes fanden sich auch Versionen von Personen aus dem Kabinett im UK, von der Princess of Wales und andere Berühmtheiten. So meint Keir Starmer:

X need to get their act together and get this material down – and we will take action on this because it’s simply not tolerable.

Das heißt, dass im Vereinigten Königreichs sogar eine Sperre von X unter dem Online Safety Act – von Musk bereits kritisiert – kommen könnte. Ofcom gibt an, bereits mit xAI Kontakt aufgenommen zu haben und die Ursachen und Entwicklungen zu evaluieren. X selbst erklärte jüngst in einem Statement:

Anyone using or prompting Grok to make illegal content will suffer the same consequences as if they upload illegal content.

EU fordert Antworten und denkt womöglich an Klagekontexte

Während das Vereinigte Königreich schon über konkrete Schritte gegen X nachdenkt, fordert die EU von xAI als Unternehmen zunächst, dass interne Dokument länger aufbewahrt werden. Reuters berichtet, dass die EU-Kommission eine Retention Order verlängert habe, bis Ende 2026, die die Speicherung interner Dokumente notwendig macht. Damit möchte man die Nachvollziehbarkeit der Beteiligung von xAI an Entwicklungen gewährleisten, die User und EU-Bürger:innen gegebenenfalls beeinträchtigen. Das trifft im Fall der illegitimen Deepfakes durchaus zu.

This is saying to a platform, keep your internal documents, don’t get rid of them, because we have doubts about your compliance … and we need to be able to have access to them if we request it explicitly,

erklärte Sprecher Thomas Regnier. Noch hat die EU-Kommission keine Schritte gegen X eingeleitet. Dass es aber zu Klagen gegen die Plattform und das Unternehmen xAI kommen könnte, liegt auf der Hand. Schon 2023 leitete die EU-Kommission ein Verfahren gegen X ein, weil auf der Plattform illegale Inhalte und Falschmeldungen verbreitet wurden. Zudem könnten diverse Privatpersonen juristisch gegen xAI als Unternehmen hinter Grok und X vorgehen, wenn sie Opfer illegaler sexualisierter Deepfakes geworden sind.

Die Entwicklung sorgt für großes Unbehagen in der Digitalwelt, wird von zahlreichen Personen verurteilt, darunter auch der schwedische Premierminister Ulf Kristersson:

It’s distasteful, unacceptable, offensive.

Kritiker:innen raten derweil Spitzenpolitiker:innen und anderen Personen, ihre X Accounts zu löschen, um nicht parallel scharfe Kritik an einer Plattform zu üben, die sie selbst mit ihrem Auftreten dort fördern. Schon vor Jahren verließen viele Organisationen, Unternehmen und Personen X aufgrund der mangelnden Regulierung, die zu vielen Fake News, zu Diskriminierung und nicht zuletzt zu illegalem Content auf der Plattform führte. Dennoch bleibt X eine solide Größe unter den Social-Media-Plattformen. Die Gefahr von Grok könnte das Bild in Europa jedoch drastisch verändern. Immerhin dürfte diese Deepfake-Welle nur ein Beispiel kommender Probleme sein, die durch die scheinbar grenzenlosen Möglichkeiten der KI-Generierung ohne umfassende Regulierung vorstellbar sind. Man mag kaum darüber nachdenken, aber man sollte.

Grok 4.1 ist da:

Das kann die Konkurrenz für OpenAI und Google