3 Erkenntnisse: Wie das Abschalten von Claude Fable einen KI-Kill-Switch etabliert

Mehr als eine Woche ist vergangen, seit die Trump-Administration Anthropics neues Spitzenmodell Claude Fable 5 und Mythos 5 vom Markt genommen hat. Es ist keine kurze Episode, die Modelle sind weiterhin nicht nutzbar. Mittels der Exportkontrolle wurde so ein Kill Switch für KI-Modelle etabliert, der Konsequenzen für Europa hat.

Wenn die Trump-Administration entscheidet: Exportkontrollen als aggressive Form der KI-Regulierung

Der Lesart der US-Regierung zufolge waren es Sicherheitsbedenken, die zur Sperre von Fable 5 und Mythos 5 führten. Mit einem Jailbreak war es möglich, die Mechanismen auszuhebeln, die die Cyber-Sicherheitsfähigkeiten von Fable 5 begrenzten. Die Konsequenz war der Exportbann, der beide Modelle ausschließlich für Nutzer sperrte, die keine US-Staatsangehörigkeit besitzen. Weil Anthropic technisch nicht trennen kann, wurden die Modelle für alle abgeschaltet.

Freigeben will die US-Regierung erst wieder, wenn Anthropic sicherstellen kann, dass sämtliche Jailbreaks unterbunden werden. Sicherheitsexperten bestreiten, dass so etwas überhaupt möglich ist. Allerdings krankt diese Lesart noch bei weiteren Argumenten. Zwei Punkte:

• Wenn es nur um Jailbreaks geht, warum wurde neben Fable 5 auch noch Mythos 5 abgeschaltet? Das steht ohne Sicherheitsmechanismen für ausgewählte Organisationen bereit, damit diese Systeme absichern können (Mythos Preview soll noch laufen). Wird der Sicherheitsargumentation gefolgt, müsste das Modell eigentlich erhalten bleiben.
• Warum nur Ausschluss von Ausländern? Bei Sicherheitsbedenken hätte tatsächlich jeder ausgeschlossen werden müssen, weil es ja auch Angreifer im Inland geben könnten (Anthropic hat es nur komplett abgeschaltet, weil nicht zwischen Nationalitäten unterschieden werden kann)

Eine potenzielle Erklärung für das Abschalten beider Modelle ist laut Wired, dass der koreanische Telekom-Anbieter SK Telecom zu den Unternehmen zählt, die Zugang zu Mythos erhalten haben. Innerhalb der US-Regierung besteht laut Personen, die mit den Vorgängen vertraut sind, jedoch der Verdacht, SK Telecom habe Verbindungen nach China. Die Sorge ist daher, dass China über den koreanischen Telekom-Konzern auf Anthropics Top-Modelle zugreifen könnte.

Neben den Sicherheitsaspekten ist jedoch auch der Gedanke naheliegend, dass hier ein Kontrollmechanismus etabliert werden soll. Axios berichtete bereits von einem Lizenzregime, das die US-Regierung im Sinn hat. Die Executive Order, die Präsident Trump Anfang Juni unterzeichnete, setzt noch auf ein freiwilliges Regelwerk. KI-Entwickler können selbst entscheiden, ob sie der US-Administration die neuen Modelle zur Prüfung vorlegen.

Festzuhalten ist aber: Berichte und Aussagen sind nach wie vor nicht eindeutig, die Motive der US-Regierung bleiben am Ende unklar. So könnten auch die persönlichen Konflikte zwischen den Verantwortlichen von Anthropic und der US-Regierung zur Eskalation beigetragen haben, berichtet etwa The Verge.

Was bewertet werden kann, ist jedoch die praktische Konsequenz: Auf Anordnung der US-Regierung wurde erstmals ein Modell gesperrt. Ohne stichhaltige Begründung oder nennenswerte Diskussion wurde so ein KI-Kill-Switch etabliert. Es ist ein neues Zeitalter der KI-Regulierung, heißt es daher auch bei The Verge. Das zentrale Problem: Es handelt sich nicht um ein fixiertes und standardisiertes Regelwerk. Angesichts der Möglichkeiten, die eine US-Regierung bei der Exportkontrolle hat, kann die Trump-Administration laut The-Verge-Reporterin Hayden Field mehr oder weniger willkürlich und nach Tagesform entscheiden, welche Modelle gesperrt werden.

Epochenbruch: keine Top-KI-Modelle mehr für alle?

Dass Claude Mythos gefährlich ist, war allerdings nicht die Idee der US-Regierung. Vielmehr sind es die Vertreter von Anthropic, die seit Wochen und Monaten predigen, wie riskant solche Modelle in freier Wildbahn sein könnten. „Wenn man sein Produkt in jeder Presseerklärung als Munition beschreibt, nimmt einem die Regierung irgendwann beim Wort“, sagt Peter Girnus, Forscher bei der Zero Day Initiative, laut einem Bericht von Business Insider. So gesehen war es also das Marketing von Anthropic, was dem Unternehmen jetzt zum Verhängnis wird.

Selbst in den wenigen Tagen, in denen Fable 5 verfügbar war, sorgten die Sicherheitsmechanismen für Diskussionen. Anthropic selbst argumentierte, Restriktionen in Bereichen wie Cyber-Sicherheit und Biologie wären aufgrund der Risiken nötig. In solchen Fällen wechselte das Modell dann automatisch auf das weniger leistungsfähige Opus 4.8. Der Haken: Der Wechsel erfolgte sogar bei alltäglichen Fragen, die Journalistin Eva Wolfangel bezeichnete Fable in diesem Kontext sogar als „kaputt“.

Brisanter mit Blick auf die Kontrollinfrastruktur ist jedoch eine weitere Restriktion, die Anthropic bei Fable implementiert hat. Wer Fable nutzen wollte, um KI-Modelle zu entwickeln, wurde ebenfalls abgestuft. In diesem Fall wurden Nutzer aber nicht informiert, das Vorgehen geschieht heimlich im Hintergrund. In der Systemcard des Modells (via Marcel Weiß) wird von der Sorge gesprochen, dass andere KI-Entwickler mit den Fähigkeiten von Fable die KI-Entwicklung noch weiter beschleunigen könnten.

We have also added safeguards related to frontier LLM development. As discussed in Section 6.1 of our February 2026 Risk Report, we are concerned about the risks of accelerating the overall pace of AI development, though we remain uncertain about the severity of these risks. In particular, our concern is with—as we wrote then—“accelerating other AI developers in building powerful AI systems that pose similar risks to the ones ours pose – without necessarily having commensurate safeguards.

Unlike our interventions for cybersecurity, biology and chemistry, and distillation attempts, these safeguards will not be visible to the user. Fable 5 will not fall back to a different model. Instead, the safeguards will limit effectiveness through methods such as prompt modification, steering vectors, or parameter-efficient fine-tuning (PEFT).

Fable 5 Systemcard, Auszug S. 13

Erneut wird also die Sicherheit als Vorwand für etwas verwendet, das der Analyst und Autor Marcel Weiß zusätzlich noch als Marktabschottung interpretiert. Anthropic wollte bei Mythos und Fable 5 schon vor dem Bann der US-Regierung bestimmen, wer auf welche Fähigkeiten des Modells zugreifen kann. Der Bruch in der Art und Weise, wie KI-Modelle veröffentlicht werden, erfolgte also schon, bevor die Trump-Administration tätig wurde.

Open Source als Alternative für Europa

Per Anordnung KI-Modelle sperren lassen ist nicht nur für Entwickler wie Anthropic brisant. Dass es sich um eine Exportkontrolle handelt, die sämtliche Nicht-US-Bürger aussperrt, rückt auch die Abhängigkeiten in Europa in den Fokus. Der Analyst Marcel Weiß spricht von einem Grönland-Moment, der zeigt, wie verwundbar der Kontinent ist.

Das Argument ist: Nicht nur bei der KI-Entwicklung, sondern bei zentralen technischen Infrastrukturen kommt die EU ohne die Dienste der Big-Tech-Konzerne nicht aus. „So eine Exportkontrolle könnte (…) auch Software oder Hardware treffen, bei der es unmittelbar spürbare Alltagsfolgen hätte. Microsoft Teams, Google Maps oder Cloud-Services, ohne die kaum noch etwas funktioniert“, heißt es in einer Analyse des Zentrums für Digitalrechte und Demokratie. Was bislang nur als hypothetisches Szenario galt, wurde mit der Exportkontrolle für Fable 5 und Mythos 5 zur realen Bedrohung.

Der Kill Switch ist Realität.

Zentrum für Digitalrechte und Demokratie

Mehr digitale Souveränität für Europa war daher eines der Schlagworte in dieser Woche. Die EU-Kommission hat bereits Anfang Juni mit dem Tech Sovereignty Package ein Maßnahmenpaket vorgelegt, das neben KI-Projekten wie dem Chips Act 2.0 und Cloud and AI development act (CADA) noch einen interessanten Punkt enthält: Eine Open-Source-Strategie.

Dabei geht es nicht nur um die Art, wie Software entwickelt wird, heißt es in einer Analyse von Inside Global Tech. Stattdessen handelt es sich um ein Regulierungsmodell für Verwaltung und Industrie, das Kosten senken, Innovationen beschleunigen und Abhängigkeiten von ausländischen Anbietern reduzieren soll. Ein offenes Ökosystem soll demnach also die Alternative für Europa sein.