Analyse: Warum dem Grok-Desaster mit geltendem Recht schwer beizukommen ist

Fast muss man Elon Musk dankbar sein: Der Skandal um die sexualisierten KI-Bilder auf X wirft ein Schlaglicht auf viele Probleme, die generative Bild-KI entstehen lässt. Recht und Gesetz scheinen auf den ersten Blick kaum die passenden Antworten parat zu haben. Die Folge: Politiker äußern allerorten entschlossen, aber auch etwas hilflos ihre Empörung über das, was sich seit Wochen auf der Plattform X abspielt.

Dabei ist das Phänomen nicht neu: Pornografische KI-Deepfakes gibt es seit Jahren. Mit Apps oder spezialisierten KI-Generatoren im Web lassen sich beispielsweise sexualisierte Abbildungen von Prominenten oder Revenge Porn (meist kostenpflichtig) erprompten. Dass aber ein Anbieter diesen „Service“ direkt und kostenlos in seine große Social-Media-Plattform integriert und damit den Erstellen-Publizieren-Vorgang für Millionen von Nutzern mit wenigen Klicks attraktiv machte, gab es zuvor noch nicht.

Hinzu kommt, dass Musk als Chef von xAI, das sowohl die Plattform X als auch die dort integrierte KI Grok verantwortet, diese fatale Entwicklung sogar befördert hat. Er wertet offensichtlich die massenhaften Verletzungen von Persönlichkeitsrechten über seine Plattform eher als Feature denn als Bug. Kooperation kann die Politik von ihm nicht erwarten, auch wenn er jüngst auf Druck in den USA ein wenig eingelenkt hat. Die EU-Gesetze etwa sind im Digitalen aber so konzipiert, dass sich die regulierten Akteure zumindest an vorgegebene Procedere halten, also im Grunde kooperativ in dem Markt sind, von dem sie profitieren.

Das war die Leseprobe unseres heise-Plus-Artikels „Analyse: Warum dem Grok-Desaster mit geltendem Recht schwer beizukommen ist“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.