Erster US-Bundesstaat geht gegen xAI und Grok wegen sexualisierter KI-Bilder vor

Der US-Bundesstaat Kalifornien ist die erste offizielle Stelle der USA, die sich mit den sexualisierten KI-Bildern von Frauen und Kindern auf Elon Musks Online-Plattform X beschäftigt. Der kalifornische Generalstaatsanwalt Rob Bonta leitete am Mittwoch eine Untersuchung zu der Verbreitung von sexuell explizitem Material ein, das mit Grok, einem von xAI entwickeltem KI-Modell, generiert wurde. Zuvor hatten bereits andere Staaten und die EU entsprechende Schritte angekündigt oder eingeleitet.

Denn auf X kann Grok von Nutzern aufgefordert werden, KI-Bilder zu erstellen oder Fotos per KI zu verändern. Das haben einige User offenbar dazu verwendet, um Bilder bekleideter Frauen und Kinder in entkleidetem Zustand zu generieren – ohne Wissen oder Einverständnis der abgebildeten Personen. Eine 24-stündige Analyse ergab, dass X-Nutzer jede Stunde tausende öffentlich zugängliche sexualisierte Deepfakes erstellt haben. Im Rahmen ihrer Ermittlungen gegen das Unternehmen hat die EU wegen Groks KI-Bildern von Kindern den Druck auf Elon Musks X erhöht. Mittlerweile haben Indonesien und Malaysia als erste Staaten Grok wegen dieser sexuellen Deepfakes gesperrt.

Elon Musk sieht keine Kinder-Deepfakes

Elon Musk zeigt sich überrascht und erklärte vor einigen Stunden auf X, dass ihm „keine Nacktbilder von Minderjährigen bekannt sind, die von Grok generiert wurden, absolut keine“. Dem Tech-Milliardär zufolge „weigert sich Grok bei der Anfrage zur Bildgenerierung, illegale Inhalte zu erstellen, da es sich grundsätzlich an die Gesetze des jeweiligen Landes oder Bundesstaates hält“. Sollten Nutzer etwa „per Hackerangriff“ Grok trotzdem dazu verleiten, würde der Fehler umgehend behoben.

Kaliforniens Gouverneur Gavin Newsome sieht dies anders und bezeichnet „die Entscheidung von xAI, eine Plattform für Pädophile zu schaffen und zu betreiben, auf der sie nicht einvernehmliche, sexuell explizite KI-Deepfakes verbreiten können, darunter auch Bilder, die Kinder digital entkleiden“, in einem Beitrag auf X als „abscheulich“. Deshalb hat er den kalifornischen „Generalstaatsanwalt aufgefordert, unverzüglich gegen das Unternehmen zu ermitteln und xAI zur Rechenschaft zu ziehen“.

Dem ist Rob Bonta umgehend nachgekommen und hat eine entsprechende Untersuchung von xAI eingeleitet. „Die Flut von Berichten, die detailliert über das nicht einvernehmliche, sexuell explizite Material berichten, das xAI in den letzten Wochen produziert und online veröffentlicht hat, ist schockierend“, erklärt Bonta laut Pressemitteilung. „Ich fordere xAI dringend auf, unverzüglich Maßnahmen zu ergreifen, um ein weiteres Fortschreiten dieser Entwicklung zu verhindern. Wir dulden in keiner Weise die KI-gestützte Erstellung und Verbreitung von nicht einvernehmlichen intimen Bildern oder Material mit Darstellungen von sexuellem Kindesmissbrauch.“

Briten haben ein Deepfake-Gesetz, Deutschland will eines

In Großbritannien ist man bereits einen Schritt weiter. Dort sollen Apps, die Menschen digital entkleiden, verboten werden. Aufgrund der Aktivitäten von Grok auf X werden die britische Regierung und Medienaufsicht gegen Grok aktiv und wollen ein neues Gesetz durchsetzen. Dass X die Möglichkeit zur Bildgenerierung vor wenigen Tagen auf kostenpflichtige Accounts beschränkt hat und die Bildgenerierung weitgehend verweigert, sei nach Ansicht der britischen Technologieministerin „nicht annähernd genug“. Es sei eine Beleidigung für die Opfer, wenn man sage, der Dienst sei weiterhin abrufbar, man müsse nur dafür bezahlen.

Auch in Deutschland wird der Ruf nach strengeren Regeln gegen KI-generierte Sex-Bilder laut. Bundesjustizministerin Stefanie Hubig will härter gegen das Erstellen und Verbreiten mit Künstlicher Intelligenz erzeugter sexualisierter Bilder vorgehen. Die Betroffenen sollen besser vor solchen KI-Bildmanipulationen geschützt werden und Hubig verlangt, das „Strafrecht noch einmal nachzuschärfen“. Zudem erstellt ihr Ministerium „derzeit den Entwurf für ein digitales Gewaltschutzgesetz“, das Strafen für Deepfakes vorsieht, die die Persönlichkeitsrechte von Betroffenen verletzen.

Soweit ist Kalifornien noch nicht. Generalstaatsanwalt Bonta hat gestern keine Einzelheiten über den Umfang der Untersuchungen von xAI und Grok genannt und ob strafrechtliche Vorwürfe dazu gehören.

(fds)