Sicherheitsbedenken geäußert: xAI soll Ingenieur nach Kritik an Grok entlassen haben

Ein ehemaliger xAI-Ingenieur klagt gegen seinen früheren Arbeitgeber, der ihn wegen seiner Warnungen vor Sicherheitsrisiken bei Grok entlassen haben soll. Der Fall könnten kurz vor dem geplanten Börsengang von SpaceX zur Belastung werden, da er sowohl die KI-Sicherheit als auch den Umgang mit Kritik und Compliance betrifft.

Bereits früh auf „Verhalten“ von Grok hingewiesen

In seiner nun vor einem kalifornischen Gericht gegen xAI und dessen Mutterunternehmen SpaceX eingereichten Klage erhebt Devin Kim schwere Vorwürfe gegen den Konzern. Laut der Klageschrift, über die TechCrunch berichtet, sei er im September 2025 entlassen worden, nachdem er wiederholt auf Sicherheitsprobleme bei Grok hingewiesen hatte.

Den Unterlagen zufolge gehörte Kim innerhalb von xAI zu den prominentesten Befürwortern strengerer Sicherheitsmaßnahmen. Seine wiederholt geäußerten Bedenken betrafen unter anderem die Möglichkeit, dass Grok diskriminierende Inhalte erzeugen oder Informationen verbreiten könnte, die für die Entwicklung von Massenvernichtungswaffen relevant sind.

Befürchtungen wurden schnell bestätigt

Dass seine Befürchtungen nicht unbegründet waren, stellte Grok bereits kurze Zeit später unter Beweis. „Grok gab Herrn Kim natürlich Recht, indem es spektakuläre Darbietungen von Hass und Verachtung im Internet zeigte, wobei sich das Modell mit Hitler verglich“, zitiert TechCrunch aus der Klage und verweist damit auf spätere Vorfälle als Bestätigung dieser Warnungen. Genannt werden außerdem Fälle, in denen Grok zur Verbreitung nicht einvernehmlicher sexueller Bildinhalte auf der Plattform X genutzt wurde.

Elon Musk nicht Kern der Anklage

Die Vorwürfe richten sich dabei nicht gegen Musk selbst, sondern gegen xAI-Mitgründer und Kims Vorgesetzten Jimmy Ba, der das Unternehmen Anfang des Jahres verlassen hat und seinerzeit von Musk für diese Position ausgewählt worden war. Musk soll hingegen wiederholt auf die Einhaltung gesetzlicher Vorgaben und Sicherheitsprozesse gedrängt haben. In der Klageschrift wird Ba vorgeworfen, Sicherheitsbedenken systematisch zurückgewiesen und Vergeltungsmaßnahmen gegen Kim ergriffen zu haben, um „seine wiederholten Beschwerden über KI-Sicherheit und Verzerrungen zum Schweigen zu bringen“, so die Anklage.

Darüber hinaus soll Ba Sicherheitsanforderungen als Hindernis für das Ziel betrachtet haben, möglichst schnell eine Form von Superintelligenz zu entwickeln. Besonders schwer wiegt die Behauptung, Ba habe im Zusammenhang mit der Veröffentlichung eines Modells namens „Grok Code 1“ versucht, europäische Sicherheitsvorschriften zu umgehen, um verpflichtende Tests zu vermeiden. In der Klage wird zudem geschildert, dass Musk in diesem Fall letztlich habe eingreifen müssen.

Ohne Gründe entlassen

„Nach dem Hitler-Debakel arbeitete Herr Kim daran, Groks politische Voreingenommenheit und diskriminierende Tendenzen neu zu bewerten“, heißt es in den Unterlagen weiter. Kim soll dabei beabsichtigt haben, seine Erkenntnisse in der Woche vom 15. September 2025 vorzustellen, wurde jedoch kurz zuvor in einem persönlichen Gespräch von Ba ohne nachvollziehbaren Grund entlassen. Die Klage stuft Kim als Whistleblower ein, seine Anwälte argumentieren, dass seine Hinweise auf mögliche Verstöße gegen Verbraucher-, Internet- und Sicherheitsvorschriften rechtlich geschützt gewesen seien. Neben Schadensersatz fordert er eine gerichtliche Feststellung, dass das Verhalten von xAI und SpaceX rechtswidrig war.

Ingenieur mit hoher Expertise

Die Arbeit an KI-Sicherheit reicht deutlich über Kims Zeit bei xAI hinaus. Während seiner Tätigkeit bei Scale AI, das sich darauf spezialisiert hat, Rohdaten wie Texte, Bilder und Videos für das maschinelle Lernen von Künstlicher Intelligenz aufzubereiten, arbeitete der Ingenieur bereits an frühen Initiativen zur KI-Sicherheit. So leitete er beispielsweise ein Projekt, das Trainingsdaten für KI erzeugte, um Systeme darauf zu trainieren, schädliche Inhalte zu erkennen und Governance-Richtlinien einzuhalten.

In der vergangenen Woche ernannte zudem das gemeinnützige Center for AI Safety, eine der bekanntesten und einflussreichsten Non-Profit-Organisationen im Bereich der weltweiten KI-Sicherheitsforschung, Kim zu ihrem Präsidenten.