Anthropic in Gesprächen, um Mythos-Modelle wieder freizugeben

Am 9. Juni veröffentlichte das Unternehmen Anthropic seine brandneuen und hochleistungsfähigen Modelle Claude Fable 5 und Claude Mythos 5. Es sind die besten, aber auch gefährlichsten Modelle des Unternehmens bisher. Deshalb und aufgrund des erwarteten Usage-Ansturms gab es direkt viele Einschränkungen. So wurde Claude Mythos 5 zum Beispiel nur einigen Unternehmen und Researchern im Project Glasswing bereitgestellt, während umfassende Sicherheitskontrollen den bösartigen Einsatz der KI-Modelle mit Top-Leistung eindämmen sollten. Doch diese Vorkehrungen reichten nicht aus. Die US-Regierung gab kurz nach dem Start eine Direktive bekannt, nach der Nicht-US-Bürger:innen – egal ob im Ausland oder in den USA – die Modelle nicht mehr nutzen dürfen. Das dürfte auch auf Anthropic-Personal zutreffen, etwa AI Scientist Andrej Karpathy, wie France 24 berichtet. Und so verkündete Anthropic am 12. Juni in einem Beitrag:

[…] The net effect of this order is that we must abruptly disable Fable 5 and Mythos 5 for all our customers to ensure compliance. Access to all other Anthropic models will not be affected.

Jetzt befindet sich die Führungsetage Berichten zufolge in Gesprächen mit der US-Regierung, die zu einer Wiederaufnahme der Modelle für die breite Nutzung führen sollen. Immerhin steht auch Anthropics Börsengang bevor, sind die Modelle extrem wichtig für das Geschäftsmodell. Möglicherweise hat die Regierung aber noch eine Rechnung mit dem Unternehmen offen.

Claude Fable 5 und Claude Mythos 5:

Jetzt kommen die gefährlichen KI-Modelle

Zugriff auf weltklasse KI-Modell verwehrt: Anthropic um Lösung bemüht

Mit Claude Fable 5 kam jüngst das beste Anthropic-Modell aller Zeiten für die Allgemeinheit. Es brilliert in verschiedenen Bereichen, von Software-Entwicklung über wissenschaftliche Recherche bis hin zu visueller Wahrnehmung. Gerade bei langen und komplexen Aufgaben zeigt sich der Vorsprung gegenüber anderen Modellen. Claude Fable 5 gehört zur Mythos-Reihe, in der auch Claude Mythos 5 veröffentlicht wurde. Beide Modelle kommen mit großen Sicherheitsvorkehrungen daher, da das KI-Unternehmen selbst warnt:

Releasing a model this capable comes with risks.

Die Risiken werden vom Unternehmen als „substantiell“ eingestuft. Dabei verlässt man sich auf die Sicherheitsvorkehrungen und hofft womöglich, dass die Fähigkeiten der eigenen – und anderer – KI-Modelle nicht übermäßig zu bösartigen Zwecken eingesetzt werden. Allerdings sollen Amazon CEO Andy Jassy und sein Team die US-Regierung nach der Nutzung von Mythos-Modellen Anthropics bereits über etwaige Sicherheitslücken informiert haben. Amazon arbeitet eng mit dem KI-Unternehmen zusammen. Laut David Sacks, Co-Vorsitzender des President’s Council of Advisors on Science and Technology (PCAST), gab es einen Jailbreak, der sowohl Anthropic als auch der Regierung bekannt war. Er schreibt auf X:

A highly credible trusted partner of both Anthropic and the USG who was testing Fable came forward with a jailbreak of those guardrails. The Admin asked Dario [Dario Amodei, CEO von Anthropic, Anmerkung der Redaktion] to fix the jailbreak or de-deploy the model. Dario refused.

Im eigenen Blog Post spricht Anthropic indes von einem „potentiellen“ Jailbreak. Neben diesem Problem könnte jedoch noch der etwaige Zugriff aus China auf die Modelle eine Rolle gespielt haben. Semafor und Heise Online berichten, dass eine Gruppe aus China mit Verbindungen zur dortigen Regierung sogar das eigentlich streng eingeschränkte Modell Claude Mythos 5 nutzen konnte. Auch das könnte die Regierung zur Direktive veranlasst haben, die User weltweit aufgrund der Anthropic-Reaktion von den neuen Modellen abschneidet. Unklar ist indes, wer tatsächlich unregulierten Zugriff auf Mythos 5 gehabt haben könnte; bestätigt ist diese Annahme weder von Anthropic noch der US-Regierung. Mit dieser möchte das KI-Unternehmen nun eine Lösung finden, um die Modelle schnellstmöglich wieder in den Einsatz zu bringen.

Gespräche zwischen US-Regierung und Anthropic: Noch ein Deal für Trump?

Nach Informationen von Axios befindet sich eine Delegation aus Anthropics Führungsriege in der US-Hauptstadt Washington, DC, um mit Regierungsverantwortlichen über eine Lösung zu sprechen und eine Rücknahme der Direktive zu erwirken. Das berichteten unternehmensnahe Quellen dem Publisher. Schon seit der Entscheidung der US-Regierung kurz vor dem vergangenen Wochenende sei es zu ersten Gesprächen in virtuellen Meetings zwischen dem Unternehmen und Verantwortlichen aus dem Weißen Haus gekommen. Nun möchte Anthropic schnell eine Möglichkeit finden, um die Modelle der Mythos-Reihe wieder für Kund:innen bereitstellen zu können. Immerhin sind die hochleistungsfähigen Modelle ein wichtiger Teil des Geschäftsmodells, das zum großen Teil auf Abonnements für die KI-Dienste basiert. Anthropic schrieb am Freitag:

We apologize for this disruption to our customers. We believe this is a misunderstanding and are working to restore access as soon as possible.

Die Gespräche mit der Regierung könnten unterdessen durch eine Entscheidung von Anthropic selbst erschwert werden. Das Unternehmen lehnte vor einigen Monaten einen Deal mit dem Pentagon ab – den OpenAI schließlich einging –, da man die eigenen KI-Modelle nicht für jegliche rechtlich legitimen, aber moralisch fragwürdigen Zwecke zur Verfügung stellen wollte; darunter Überwachung und Kriegseinsatz.

So kam es zum Bruch zwischen Anthropic und der US-Regierung. Auf seiner eigenen Plattform Truth Social schrieb US-Präsident Donald Trump vor Monaten, es sei ein „desaströser Fehler“ vonseiten Anthropics, der Regierung die eigenen Nutzungsbedingungen aufzwingen zu wollen, und bezeichnete die Verantwortlichen als „Spinner des linken Flügels“. Die New York Times sieht in der aktuellen Direktive der Regierung eine Fortführung der Auseinandersetzung mit Anthropic. Und so könnte es für das KI-Unternehmen kompliziert werden, die Modelle der Mythos-Reihe ohne Kompromiss mit der US-Regierung wieder einzuführen. Möglicherweise muss Anthropic aber einlenken, da der angekündigte Börsengang in durch Modellrestriktionen zumindest beeinträchtigt werden könnte. Nicht zuletzt, weil potentielle Anleger:innen im Kontext eines Disputs mit der Regierung zurückhaltend sein könnten.

Derweil hat Anthropic mit Claude Opus 4.8 und Co. eine Reihe leistungsfähiger Modelle zu bieten, die das KI-Portfolio vieler Unternehmen und User weiterhin gut bedienen können.

Anthropics Mega-IPO:

Dieser Börsengang könnte Tech-Geschichte schreiben

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.