Anordnung der Trump-Administration: Anthropics Top-Modelle Fable 5 und Mythos weltweit gesperrt

Anthropic sperrt weltweit den Zugang zu den neuen Spitzenmodellen Fable 5 und Mythos. Vorausgegangen war eine Anordnung der US-Regierung. Unter Verweis auf die nationale Sicherheit sollte der Export der neuen Modelle untersagt werden, schreibt Anthropic im Blog.

Die Anordnung erreichte Anthropic gegen 17 Uhr amerikanischer Zeit. Die Auflage lautet eigentlich, Fable 5 und Mythos nicht mehr für nicht-amerikanische Nutzer bereitzustellen. Der Bann bezieht sich laut Anthropic aber explizit nicht nur auf das amerikanische Ausland, sondern auch auf ausländische Nutzer, die sich innerhalb der USA aufhalten.

Um die Einhaltung der Anordnung sicherzustellen, hat Anthropic die neuen Modelle für sämtliche Nutzer – also auch US-Bürger – abgeschaltet.

Fable 5 nicht mehr in Claude abrufbar

Die Umsetzung ist bereits aktiv. Noch befindet sich Fable 5 in der Modell-Auswahlliste des Claude-Assistenten, nutzen lässt es sich aber nicht. Erfahrungsberichte aus der Nacht zeigen, dass der Zugang plötzlich nicht mehr möglich war.

Möglicher Jailbreak als Grund

Ein Grund für die Exportkontroll-Anordnung der US-Regierung waren Hinweise auf einen möglichen Jailbreak, mit dem sich Sicherheitsvorkehrungen in Fable 5 umgehen lassen. Das Modell hat strikte Restriktionen, damit es etwa im Bereich Cyber-Sicherheit nicht verwendet wird, um Sicherheitslücken zu enttarnen.

Von dem Jailbreak hat Anthropic bislang in Gesprächen erfahren. Nach Einschätzung ist es kein universeller Jailbreak, mit dem sich sämtliche Sicherheitsvorgaben von Fable 5 umgehen lassen. Aufgrund kleinerer Schwachstellen im Modell sei es hingegen möglich, Cybersicherheitsfähigkieten in einem sehr engen Rahmen freizuschalten. Auf diese Weise lassen sich mit Fable 5 dann Schwachstellen in Code finden. Laut Anthropic handele es sich aber um alltägliche Fähigkeiten

These vulnerabilities all appear relatively simple, and we have found that other publicly-available models are able to discover them as well without requiring a bypass.

Anthropic

Weitere Details will Anthropic im Verlauf des Tages mitteilen.

Fable 5 als neue Modellklasse

Fable 5 und Mythos hat Anthropic in dieser Woche vorgestellt. Während Fable 5 eine eingeschränkte Variante des Modells für die Allgemeinheit ist, stand Mythos weiterhin nur ausgewählten Partnern im Bereich Cybersicherheit zur Verfügung. Insbesondere Mythos sorgte in den letzten Wochen für Aufsehen, weil es in der Lage ist, in bislang nicht bekanntem Ausmaß Sicherheitslücken zu entdecken.

Die Sicherheitsvorkehrungen waren bis dato aber so weitreichend, dass selbst alltägliche Aufgaben im Bereich Coding oder anderen Gebieten wie der Biologie blockiert worden sind. Kuriose Chat-Abbrüche kursierten in den letzten Tagen auf Social Media.

Für Anthropic und die Trump-Administration ist es der zweite Konflikt binnen weniger Monate. Ende Februar kam es zum Zerwürfnis, weil Anthropic dem Militär keine Modelle bereitstellen wollte, bei denen sämtliche Sicherheitsrichtlinien entfernt sind. Das amerikanische Verteidigungsministerium stufte Anthropic in der Folge als Lieferkettenrisiko ein. Den Fall verhandeln derzeit noch Gerichte.