Regulatorische Offensive: US-Bundesstaaten nehmen Ermittlungen gegen OpenAI auf

Eine Koalition mehrerer US-Bundesstaaten hat Ermittlungen gegen OpenAI eingeleitet und umfangreiche Unterlagen zu Geschäftspraktiken, Datennutzung, Nutzerwirkungen und Sicherheitsfragen angefordert. Die Untersuchung ist Teil einer breiter angelegten regulatorischen Offensive gegen führende KI-Unternehmen in den USA.

Bereits Ende vergangenen Jahres hatten 42 Generalstaatsanwälte führende KI-Unternehmen, darunter OpenAI, Meta, Anthropic, Google und xAI, aufgefordert, stärkere Schutzmaßnahmen für besonders gefährdete Nutzergruppen einzuführen. In einem Schreiben an die Unternehmen warnten sie ausdrücklich davor, dass Entwickler für problematische oder schädliche KI-Ausgaben rechtlich verantwortlich gemacht werden könnten, wenn sie „eine Person zur Begehung einer Straftat ermutigen“ würden.

Umfassende Unterlagen eingefordert

Einem Bericht des Wall Street Journal zufolge erhielt OpenAI am vergangenen Freitag eine von der Generalstaatsanwaltschaft des Bundesstaates New York im Namen mehrerer Bundesstaaten versandte Vorladung. Darin fordern die Ermittlungsbehörden Unterlagen zu zahlreichen Bereichen der Unternehmenspraxis an. Dazu zählen unter anderem Werbung, Nutzerbindung, der Umgang mit Verbraucher- und Gesundheitsdaten, mögliche Auswirkungen auf Minderjährige und ältere Menschen, die Entwicklung von KI-Modellen sowie interne Richtlinien und Sicherheitsmechanismen.

Die Ermittlungen erfolgen vor dem Hintergrund weiterer rechtlicher Auseinandersetzungen. Anfang Juni reichte Florida als erster US-Bundesstaat Klage gegen OpenAI und Unternehmenschef Sam Altman ein. Die Behörden werfen dem Unternehmen vor, ein potenziell gefährliches Produkt wissentlich auf den Markt gebracht und Warnungen vor möglichen Schäden ignoriert zu haben. Auslöser war unter anderem die Rolle von ChatGPT bei einem tödlichen Angriff an der Florida State University. Nach Darstellung des Generalstaatsanwalts James Uthmeier, der die Ermittlungen bereits im April dieses Jahres aufgenommen hatte, soll der mutmaßliche Täter den Chatbot als Vertrauten und Gesprächspartner bei der Planung der Tat genutzt haben.

Unterwürfige KI besonders im Blick der Ermittler

Besonders in den Fokus der Ermittler rückte das Thema „Model Sycophancy“ – die Frage, inwieweit KI-Systeme dazu neigen, Nutzern übermäßig zuzustimmen oder deren Ansichten unkritisch zu bestätigen. Dieses Phänomen wird zunehmend als mögliches Risiko für die psychische Gesundheit und die Qualität von KI-Interaktionen diskutiert und soll bereits zu mehreren Suiziden beigetragen haben. Zuletzt wurde ein Fall bekannt, der vor dem Obersten Gerichtshof des Bezirks San Francisco eingereicht wurde. Demnach soll das inzwischen nicht mehr verfügbare und für dieses Verhalten massiv kritisierte ChatGPT-Modell 4o zum Freitod einer 24-Jährigen beigetragen haben.

Auch andere KI-Unternehmen geraten zunehmend ins Visier der Aufsichtsbehörden. So leitete Kaliforniens Generalstaatsanwalt Rob Bonta Anfang des Jahres Ermittlungen gegen xAI ein. Anlass waren Berichte über die massenhafte Erstellung sexualisierter Darstellungen von Frauen und Kindern mithilfe des Chatbots Grok. Diese sollen anschließend auf der Plattform X zur Belästigung der Betroffenen eingesetzt worden sein.

OpenAI will konstruktiv kooperieren

OpenAI erklärte, die Anliegen der Generalstaatsanwälte ernst zu nehmen und konstruktiv mit den Behörden zusammenarbeiten zu wollen. Gleichzeitig betonte das Unternehmen, kontinuierlich daran zu arbeiten, die Vorteile künstlicher Intelligenz verantwortungsvoll und sicher seinen Nutzern bereitzustellen. Die Untersuchungen könnten für den Konzern jedoch zu einem ungünstigen Zeitpunkt kommen: Erst am vergangenen Montag hatte OpenAI vertraulich Unterlagen für einen Börsengang bei der US-Börsenaufsicht Securities and Exchange Commission (SEC) eingereicht. Ermittlungen mehrerer Staatsanwaltschaften könnten nun potenzielle Investoren verunsichern oder sich negativ auf die Unternehmensbewertung auswirken.