Sperre von Anthropics KI-Modellen: China soll Zugriff auf Mythos gehabt haben

Die US-Regierung hat die Abschaltung der KI-Modelle Fable 5 und Mythos 5 von Anthropic unter anderem angeordnet, weil es den Verdacht gibt, dass eine Gruppe mit Verbindungen zur chinesischen Regierung Zugriff auf letzteres hatte. Das berichtet das US-Magazin Semafor unter Berufung auf eine anonyme Quelle. Das könnte erklären, warum nicht nur das beschränkte Fable 5, sondern auch Mythos 5 gesperrt werden musste. Der Zugriff auf letzteres war eigentlich streng reglementiert. Sollte die Volksrepublik Zugriff darauf haben, könnte das ein Risiko für die nationale Sicherheit der USA darstellen, schreibt Semafor. Eine Bestätigung steht aber aus. Bislang hieß es, dass es eine Möglichkeit gegeben hat, Schutzmechanismen von Fable 5 zu umgehen, weshalb die Sperre angeordnet wurde.

Holpriger Start und Kehrtwende

Anthropic hat Fable 5 vorigen Dienstag als inhaltlich eingeschränkte Variante des neuen Mythos 5 freigegeben. Erste Tests hatten die merklich höhere Leistungsfähigkeit des KI-Modells bestätigt, aber auch zu Kritik an den Sicherheitsmaßnahmen geführt. Stufte ein sogenannter Classifier eine Anfrage als heikel ein, beantwortete nicht Fable die Frage, sondern das ältere Modell Claude Opus 4.8. Damit wollte Anthropic verhindern, dass Angreifer die Fähigkeiten des Modells für Cyberattacken oder andere schädliche Zwecke ausnutzen. Das konnte aber auch bei „sicheren, normalen Inhalten“ passieren, heiß es in einem Hinweis. Das Vorgehen hat für viel Kritik gesorgt.

Am Freitag hat Anthropic dann unerwartet den Zugriff auf Fable 5 und Mythos 5 gesperrt – für alle Nutzerinnen und Nutzer weltweit. Auslöser war angeblich eine Exportkontrolldirektive der US-Regierung, die ausländischen Staatsangehörigen den Zugriff auf beide Modelle untersagt – auch ausländischen Anthropic-Angestellten innerhalb der USA. Am Wochenende hieß es dann, dass Amazon-CEO Andy Jassy vorher US-Finanzminister Scott Bessent von einem mutmaßlichen Jailbreak berichtet habe. Grundlage soll ein Bericht der Cybersicherheits-Abteilung seines Konzerns gewesen sein, in dem der angebliche Jailbreak erklärt wurde. Dass die Volksrepublik China Zugriff auf Mythos gehabt haben soll, wurde erst später bekannt. Die genauen Hintergründe bleiben deshalb unklar.

(mho)