Hinweis von Amazon: Wie es zur Sperre von Mythos 5 und Fable 5 kam

Überraschend und kurzfristig musste Anthropic die neuen Top-Modelle Fable 5 und Mythos 5 aufgrund einer Anordnung der Trump-Administration sperren. Wie Politico berichtet, kam der ursprüngliche Hinweis demnach aus den Reihen von Amazon – einem der größten Investoren von Anthropic.

Das berichtet Politico unter Verweis auf zwei Quellen aus dem Weißen Haus. Am Donnerstag – also zwei Tage nach der Veröffentlichung von Fable 5 und Mythos 5 – meldete sich demnach Amazons CEO Andy Jassy bei der US-Regierung. Er war besorgt, dass es möglich sei, die Sicherheitsmechanismen der neuen Top-Modelle zu umgehen.

Wie genau die Meldung zustande kam, ist aber strittig. Amazon erklärte auf Anfrage von Politico, das Weiße Haus habe um Feedback gebeten. Mindestens fünf weitere Unternehmen haben laut Axios ebenfalls auf mögliche Jailbreaks hingewiesen.

Anthropic musste Modelle binnen 90 Minuten sperren

Ab Freitagmorgen sorgten die Meldungen jedenfalls für hitzige Diskussionen innerhalb der US-Regierung. An den Gesprächen beteiligt waren unter anderem Finanzminister Scott Bessent, Cyber-Direktor Sean Cairncross und Handelsminister Howard Lutnick sowie Susie Wiles, Chief of Staff der Trump-Administration.

Nach dem Meeting wollte man Anthropic-Chef Dario Amodei erreichen, was allerdings einige Zeit in Anspruch nahm. Laut Regierungskreisen war er nicht sofort zu erreichen, weil er sich in einer Wellness-Auszeit befand. Anthropic bestreitet diese Darstellung. In der Mittagszeit war er demnach innerhalb von 75 Minuten am Telefon.

Zu diesem Zeitpunkt starteten dann die entscheidenden Gespräche, in denen Amodei der US-Regierung versichern wollte, dass es sich um ein Missverständnis handele. Er erklärte demnach das, was Anthropic auch im Blog-Beitrag mitteilte: Es handele sich nicht um einen allgemeinen Jailbreak, sondern nur um eine partielle Schwachstelle, mit der sich bestimmte Cyber-Sicherheitsfähigkeiten freischalten lassen. Die würden aber nicht die Fähigkeiten von bereits veröffentlichten Modellen übertreffen.

Die Hinweisgeber sind laut den Berichten hingegen besorgt, dass sich die Sicherheitsvorkehrungen von Fable 5 umgehen lassen. Damit wäre de facto das Mythos-Modell auf dem Markt, das in der Lage ist, Sicherheitslücken im bislang nicht bekanntem Ausmaß zu entdecken.

Aufgrund der Fähigkeiten erhalten bislang nur ausgewählte Organisationen einen Zugang zu Mythos. Den hatte Anthropic gemeinsam mit dem Start von Fable 5 nochmals ausgeweitet.

Die Exportkontrollen-Anordnung, die Anthropic schriftlich übermittelt wurde, beinhalte dann die Aufforderung, sowohl Fable 5 als auch Mythos 5 binnen 90 Minuten für ausländische Staatsbürger zu sperren. Unterschieden wurde dabei nicht nur zwischen den USA und dem Rest der Welt. Die Anordnung betraf auch ausländische Nutzer, die sich innerhalb der USA aufhalten. Weil Anthropic diese Trennung nicht so schnell umsetzen konnte, wurde der Zugang für sämtliche Nutzer blockiert.

Konsequenzen des Vorfalls sind schwer abzuschätzen

Interessant wird nun, welche Konsequenzen dieser Beschluss für die weitere KI-Regulierung hat. Eine Quelle aus dem Weißen Haus sagte gegenüber Axios, es sei nun de facto ein Lizenzierungsregime etabliert. Weil die Anordnung im Rahmen einer Exportkontrolle erlassen wurde, müsste Anthropic einen Antrag stellen.

Interessant ist zudem, dass die Trump-Administration erst Anfang des Monats eine Executive Order erlassen hatte. Diese sieht vor, dass die US-Administration neue Modelle erst testen kann, bevor diese freigegeben werden. Es handelt sich laut Axios um eine freiwillige Regelung; KI-Entwickler sind also nicht verpflichtet, neue Modelle prüfen zu lassen. Und ein Lizenzsystem sollte explizit vermieden werden.

Anthropic war laut US-Regierung „übertrieben selbstsicher“

Wie Axios berichtet, war die US-Regierung laut Quellen aus dem Weißen Haus unzufrieden, wie Anthropic Fable 5 veröffentlichte. Die Rede ist von einem „Mangel an Ernsthaftigkeit“ im Umgang mit der Schwachstelle. Wäre diese direkt behoben worden oder der Zugang pausiert, wäre es zu keiner Anordnung gekommen. Anthropic-Mitarbeiter waren demnach „übermäßig selbstsicher“.

Dieser Vorwurf liest sich auch aus einer Stellungnahme des Investors David Sacks heraus, der in der Trump-Administration als KI- und Krypto-Berater tätig ist. Er hoffe, dass Anthropic die Schwachstellen bald beseitige. In diesem Fall könne die Exportkontrollanordnung wieder aufgehoben werden und Fable 5 allgemein verfügbar sein. In dem Kontext merkte er an, dass Anthropics Vorgehen nicht zu dem Fokus auf Sicherheit passt, den das Unternehmen ansonsten regelmäßig als Maßstab bezeichnet.