Die sexualisierten Deepfakes des KI-Chatbots Grok von xAI, die für Empörung in aller Welt sorgten, könnten absichtlich generiert worden sein, um das soziale Netzwerk X interessanter zu machen. Darauf deuten Dokumente und Aussagen von einem halben Dutzend früheren Mitarbeitern des Unternehmens, die der US-Tageszeitung Washington Post vorliegen.

Dem umfangreichen Zeitungsbericht zufolge erhielten Mitglieder des Human Data Teams von xAI, die eingestellt worden waren, um die Reaktionen von Grok auf Nutzer mitzugestalten, im Frühjahr vergangenen Jahres eine überraschende Verzichtserklärung von ihrem Arbeitgeber. In dieser wurden sie aufgefordert, sich zur Arbeit mit obszönen Inhalten, einschließlich sexueller Inhalte, zu verpflichten. Vielleicht sei das Unternehmen nun bereit, alle Inhalte zu produzieren, die Nutzer anziehen und binden könnten, so die damalige Befürchtung.

Seit der Chef des Mutterkonzerns X, Elon Musk, im Mai seine Position als Leiter der US-amerikanischen Effizienzbehörde DOGE aufgegeben hat, drängt er laut Aussagen zweier Mitarbeiter darauf, die Popularität von Grok zu steigern. Bei X, der Social-Media-Plattform, die früher als Twitter firmierte und 2022 von Musk gekauft wurde, warnten Sicherheitsteams die Geschäftsleitung in Besprechungen und Nachrichten demnach wiederholt, dass ihre KI-Tools es Nutzern ermöglichen könnten, sexuelle KI-Bilder von Kindern oder Prominenten zu erstellen. Zudem bestand das KI-Sicherheitsteam von xAI, das für die Verhinderung schwerwiegender Schäden durch Nutzer mithilfe der App zuständig ist, während des größten Teils des vergangenen Jahres aus nur zwei oder drei Personen, erklärten die von dem Blatt interviewten Insider. Konkurrenten wie OpenAI und andere Unternehmen beschäftigen in dem Bereich teilweise mehrere Dutzend Mitarbeiter.

Laxe Beschränkungen

Laut der Washington Post haben die größten KI-Unternehmen in der Regel zudem strenge Auflagen für die Erstellung oder Bearbeitung von KI-Bildern und -Videos. Damit soll genau verhindert werden, dass Nutzer Material über sexuellen Kindesmissbrauch oder gefälschte Inhalte über Prominente erstellen. xAI integrierte jedoch im Dezember seine Bearbeitungswerkzeuge in X und ermöglichte damit allen registrierten Nutzern die Erstellung von KI-Bildern. Dies wiederum führte laut David Thiel, früherer Chief Technology Officer des Stanford Internet Observatory, das Missbrauch in der Informationstechnologie untersucht, zu einer beispiellosen Verbreitung sexualisierter Bilder. Grok unterscheide sich völlig von der Funktionsweise anderer KI-Bildbearbeitungsdienste, so Thiel gegenüber der Washington Post. Auf Anfrage um Stellungnahme des Blattes reagierten weder X, Musk noch xAI.

Tatsächlich verwendeten X-Nutzer die Bildbearbeitungsfunktion des generativen KI-Systems Grok zunehmend, um Fotos von Frauen und sogar Minderjährigen digital zu entkleiden und sexualisierte Versionen der Aufnahmen zu erzeugen. Diese Deepfakes wurden öffentlich auf X gepostet, was zu heftiger weltweiter Empörung führte. Obwohl X behauptete, dass es sich nur um „vereinzelte Fälle“ gehandelt habe und ein ursächliches „Versagen der Sicherheitsvorkehrungen“ behoben wurde, hörte der Chatbot nicht mit der Generierung solcher Inhalte auf. Mehrere Staaten und die EU kritisierten das massiv und versprachen Gegenmaßnahmen. Der Generalstaatsanwalt von Kalifornien, die britische Kommunikationsaufsichtsbehörde und die Europäische Kommission leiteten Ermittlungen gegen xAI, X oder Grok wegen dieser Funktionen ein.

In mindestens einer Hinsicht aber habe Musks Vorstoß für das Unternehmen funktioniert, schreibt die Washington Post. Die Kontroverse um das Entkleiden zog die Aufmerksamkeit der Öffentlichkeit auf Grok und X. Neben ChatGPT von OpenAI und Gemini von Google sei Grok in der Folge in die Top 10 des App Store von Apple aufgestiegen. Die durchschnittliche Anzahl der täglichen App-Downloads des KI-Chatbots stieg weltweit in den ersten drei Januarwochen, als der Skandal publik wurde, um 72 Prozent im Vergleich zum gleichen Zeitraum im Dezember. Das geht aus Zahlen des Marktforschungsunternehmens Sensor Tower hervor.

Neue Mitarbeiter für die Sicherheitsteams

Nach dem weltweiten Aufschrei im Grok-Skandal hat xAI laut Washington Post Anstrengungen unternommen, mehr Mitarbeiter für das KI-Sicherheitsteam zu gewinnen, und Stellenanzeigen für neue sicherheitsorientierte Positionen veröffentlicht. Der Mutterkonzern X wiederum kündigte an, dass es Nutzern „in Ländern, in denen solche Inhalte illegal sind“ die Möglichkeit nehmen werde, Bilder von realen Personen in Bikinis, Unterwäsche und anderer freizügiger Kleidung zu erstellen; xAI würde dasselbe in der Grok-App tun. US-Nutzer konnten jedoch nach dieser Ankündigung weiterhin solche Bilder in der Grok-App erstellen, fand die Zeitung heraus. Auch entkleide der Chatbot von xAI immer noch bereitwillig Männer und produziere auf Anfrage intime Bilder, hat das US-amerikanische Tech-Portal The Verge herausgefunden.

Im Sommer vergangenen Jahres sorgte Grok mit antisemitischen Ausfällen für Aufsehen. Polens Regierung forderte die EU-Kommission darauf hin auf, mögliche Verstöße gegen den europäischen Digital Services Act (DSA) zu untersuchen.

(akn)

Das Herz der deutschen Demokratie will aus der angespannten Weltlage konsequente Schlüsse für die eigene IT-Infrastruktur ziehen. Der Bundestag arbeitet laut Table.Media unter Hochdruck an einem weitreichenden Umbau seiner digitalen Architektur. Das Ziel ist demnach ehrgeizig und politisch brisant: Das Parlament will sich aus der technologischen Umklammerung von US-Konzernen wie Microsoft lösen, um in Krisenzeiten resilienter und vor allem unabhängig von Drittstaaten zu agieren.

Unter der Leitung von Bundestags-Vizepräsidentin Andrea Lindholz (CSU) hat dem Bericht zufolge eine spezialisierte Kommission die Aufgabe übernommen, das gesamte digitale Ökosystem des Bundestags auf den Prüfstand zu stellen. Das reiche von der Bürosoftware bis zur Cloud-Infrastruktur.Die vollständige Digitalstrategie soll im Mai vorgestellt werden.

Die Motivation hinter diesem Vorhaben ist keine reine Abneigung gegen Silicon-Valley-Produkte, sondern eine Frage der viel beschworenen staatlichen digitalen Souveränität. Lindholz hob gegenüber Table.Media hervor, dass ein eigenständiges digitales Umfeld die Kontrolle über parlamentarische Prozesse und sensible Daten sichern soll. Es gehe darum, das Parlament gegen Cyberangriffe zu wappnen. Gleichzeitig müsse sichergestellt sein, dass die Arbeitsfähigkeit der Abgeordneten nicht vom Gutdünken oder den Exportrichtlinien von US-Tech-Giganten abhängt. Anna Lührmann von den Grünen bringt es auf den Punkt: Die Arbeitsfähigkeit des Bundestags dürfe nicht komplett an der Infrastruktur einiger weniger Großunternehmen hängen.

Delos als Brückenlösung?

Derzeit sieht die Realität in den Berliner Büros noch weitgehend nach Monokultur aus. Für über 10.000 Arbeitsplätze im Parlament und den Wahlkreisen ist Microsoft 365 der Standard. Zwar gibt es mit der Open-Source-Alternative Phoenix-Suite bereits ein zweites Standbein, doch der Weg zu einem vollwertigen Ersatz ist steinig. Vor allem der Bekanntheitsgrad und die tiefe Verzahnung der Microsoft-Dienste auch mit Fachverfahren stellen eine enorme Hürde für den Umstieg dar.

Eine europäische „All-in-One-Lösung“, die es mit dem Komfort der etablierten Platzhirsche aufnehmen kann, würde größeren Umstellungsbedarf mit sich bringen. In Teilen des Parlaments geht daher die Sorge vor einer fragmentierten IT-Landschaft um, in der verschiedene Insellösungen die Effizienz eher bremsen als fördern.

Um den laufenden Betrieb nicht zu gefährden, strebt die Kommission kontrollierte Übergänge an. Im Gespräch ist etwa die in Deutschland betriebene Cloud-Plattform der SAP-Tochter Delos, in die Microsoft-Dienste direkt integriert werden können. Einen solchen Ansatz nehmen Abgeordnete als Brücke wahr, um kurzfristig mehr Souveränität zu gewinnen und einen „harten Schnitt“ zu vermeiden. Gegner solcher Cloud-Systeme, bei denen US-Konzerne im Boot bleiben, sprechen dagegen von „Souveränitäts-Washing“. Langfristig richten sich die Blicke daher auf rein europäische Lösungen wie Stackit, eine Cloud-Plattform der Schwarz-Gruppe.

Grüne drängen auf freie Software

Ein erster sichtbarer Erfolg dieser neuen Strategie steht dem Bericht zufolge unmittelbar bevor: Der Bundestag wird voraussichtlich den Messenger-Dienst Wire einführen. Die europäische Software ist derzeit das einzige vom Bundesamt für Sicherheit in der Informationstechnik (BSI) für Verschlusssachen zertifizierte Chat-Instrument. Damit würde das Parlament ein Signal setzen. Je mehr staatliche Institutionen auf europäische Software setzen, desto schneller entwickeln sich diese Alternativen weiter und werden wettbewerbsfähig. Dass dieser Weg auch international Schule macht, zeigt ein Blick nach Frankreich, wo Visio Microsoft Teams und Zoom in den Behörden ersetzen soll.

Ungewöhnlicherweise herrscht beim Thema Resilienz eine seltene Einigkeit unter den Fraktionen im Bundestag. Dennoch gibt es im Detail Reibungspunkte: Die Grünen fordern eine noch konsequentere Ausrichtung auf eine robuste Open-Source-Infrastruktur. Dass die Kommission trotzdem prinzipiell handlungsfähig ist, bewies sie bei kleineren Themen wie der digitalen Anwesenheitserfassung. Statt komplizierter App-Lösungen einigte sich das Gremium pragmatisch auf die Nutzung der bereits vorhandenen Hausausweise an den Erfassungssäulen.

(mma)

Die Wasserrakete steht aufrecht auf ihrer Startplattform. Das Manometer zeigt an: Der Druck ist aufgebaut. Die Schnur am Entriegelungshebel ist gespannt, der gemeinsam gesprochene Countdown läuft. Das ist der Stoff, aus dem packende Schulexperimente und fröhliche Gartenfeste mit Kindern sind.

Aber was beeinflusst den Flug einer Wasserrakete und wie wirken sich die Parameter aus? Die Website H2Orocks soll das verdeutlichen. Sie fragt mit ihren Eingabefeldern die relevanten Daten ab und berechnet den daraus resultierenden Flug.

Die dafür erforderliche Simulationssoftware hat ein Hersteller für Schulexperimente, zu dessen Produkten beispielsweise eine Wasserraketen-Startplattform gehört, gemeinsam mit dem Institut für Luft- und Raumfahrt der TU Berlin entwickelt. Sie berechnet die Flugbahnen von speziell produzierten Wasserraketen ebenso wie die von umfunktionierten PET-Getränkeflaschen. Den erforderlichen Druck erzeugt man mit einer Fahrrad- oder Ballpumpe.

Das war die Leseprobe unseres heise-Plus-Artikels „Web-Tipp: Höher, schneller, weiter mit vorausberechneten Wasserraketen“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.