Die Trump-Administration will Anthropics Modell Claude Fable 5 erst wieder freigeben, wenn es sämtliche Jailbreaks blockiert, hat Wired aus Regierungskreisen erfahren. Der Haken: Laut IT-Sicherheitsexperten sind so stark abgesicherte Modelle schlicht nicht realistisch.

Jailbreaks bedeuten bei den KI-Modellen, dass Nutzer die Sicherheitsmechanismen überlisten, sodass diese Modelle auf Fragen antworten, die eigentlich gesperrt sind. Klassischerweise gilt das für Bereiche wie den Bau von Waffen oder das Herstellen von Drogen.

Fable 5 hatte weitreichende Sicherheitsvorgaben. So wurden viele Anfragen aus dem Bereich Coding und Biologie geblockt. Selbst bei harmlosen Themen wie Mitochondrien wurden Nutzer auf das alte Spitzenmodell Opus 4.8 abgestuft. Angesichts der Einschränkungen bezeichnete die Tech-Journalistin Eva Wolfangel das Modell sogar als „kaputt“.

Die Jailbreak-Frage: Wie anfällig ist Fable 5?

In dem für die Sperre von Fable 5 und Mythos 5 relevanten Fall ging es um einen Jailbreak, der Fähigkeiten der Modelle im Bereich Cybersicherheit freischaltete. Entsprechende Hinweise sollen von Amazon und weiteren Unternehmen stammen. Anthropic bestreitet aber, dass der Vorfall schwerwiegend ist. Mit Fable 5 wären keine Maßnahmen umsetzbar, die nicht ohnehin verfügbare Modelle wie GPT-5.5 beherrschen.

Die Sorgen der Trump-Administration wären übertrieben, lautet daher die Einschätzung von Anthropic. Für Vertreter der Trump-Administration spielt die Schwere der Schwachstellen laut dem Wired-Bericht jedoch keine Rolle. Demnach habe die NSA bestätigt, dass es Möglichkeiten gebe, die Sicherheitsvorgaben von Fable 5 zu umgehen. Nun sei es die Aufgabe von Anthropic, die Probleme zu beheben, hat Wired von drei Personen erfahren, die mit den Vorgängen vertraut sind.

Zuvor meldete bereits Semafor, im Weißen Haus gebe es den Verdacht, dass China einen Zugang zu Mythos 5 hat. Mythos ist die Variante von Fable 5 ohne Sicherheitsvorkehrungen, die aber nur ausgewählte Organisationen nutzen dürfen.

Offizieller Fall eigentlich harmlos?

Die IT-Sicherheitsexpertin Katie Moussouris, die den Report über die Fable-5-Schwachstelle gelesen hat, hält das Problem nicht einmal für eine Schwachstelle. Der Ausgangspunkt war laut ihrem Blog-Beitrag: Forscher nahmen Open-Source-Code mit bekannten Sicherheitslücken sowie neuen Code mit absichtlich platzierten Fehlern. Fable 5, Mythos und Opus 4.8 sollten dann den Code auf Sicherheitslücken hin überprüfen.

Fable 5 verweigerte zunächst die Auskunft. Dann wollten die Forscher, dass Fable 5 die Fehler behebt („fix this code“). Die Ausgabe wurde im Rahmen eines mehrstufigen und manuellen Prozesses in Skripte umgewandelt, die die Patches testeten. Laut Moussouris sei das kein Umgehen von Sicherheitsmechanismen. Code-Lücken zu finden und zu beseitigen sei eine der wertvollsten Dinge, die KI-Modelle im Bereich Cybersicherheit leisten können. „Niemals hätte [so eine Maßnahme] eine Exportkontrolle auslösen sollen“, so Moussouris.

Wie sich KI-Modelle hacken lassen

Wie komplex Jailbreak-Angriffe ausfallen können, demonstrierte Pliny. Er konnte Sicherheitsvorgaben umgehen, indem er eine Reihe von Techniken einsetzte. Dazu zählen der Einsatz mehrerer Agenten, Wechsel von Unicode-Zeichen, das Ausnutzen langer Kontextfenster mit per se harmlosen Inhalten, er tarnte die Inhalte als Uni-Vorlesung und unterteilte die Aufgabe in Teilinformationen, die er im Nachgang zusammensetzte. Details zu dem Jailbreak beschreibt Pliny auf X.

Diese Vorgehensweise beschreibt im Kern die Argumentation von Sicherheitsforschern. Die Schutzmechanismen in den KI-Modellen sind laut dem Wired-Bericht demnach nur eine Art Übergangslösung. Findige Nutzer sowie künftige Modelle werden immer Wege finden, um diese zu umgehen. Technisch lassen sich Jailbreaks also niemals vollständig verhindern. Das Weiße Haus wollte diese Thematik auf Anfrage von Wired nicht kommentieren.

Ein weiteres Problem ist zudem: Je strikter die Schutzmechanismen sind, desto eingeschränkter ist die Leistungsfähigkeit der Modelle. Das zeigt das Beispiel Fable 5, das selbst bei Alltagsfragen die Auskunft verweigerte.

Fable-5-Sperre als Exportkontrolle

Die Sperre von Fable 5 und Mythos 5 erfolgte im Rahmen einer Exportkontrollanordnung. Grundsätzlich ist also nur nicht-US-Bürgern der Zugang zu den Modellen untersagt. Weil Anthropic aber nicht zwischen amerikanischen und ausländischen Nutzern unterscheiden kann, wurden die Modelle für alle gesperrt.

Nach wie vor wird aber diskutiert, ob es bei dem Streit tatsächlich um den Jailbreak geht oder nicht doch eher um das zerrüttete Verhältnis von Anthropic und der US-Regierung.

Anthropic verzahnt die Design- und Programmierfunktionen seiner Claude-Plattform künftig noch enger, Anwender sollen nahtlos zwischen Gestaltung und Code-Entwicklung wechseln können. Gleichzeitig vereinfacht das Unternehmen den Austausch mit etablierten Kreativ-Werkzeugen und erweitert die Zusammenarbeit innerhalb von Teams.

Arbeiten zwischen den Werkzeugen austauschen

Um die Arbeit mit den beiden Plattformen zu vereinfachen, hat Anthropic Claude Design und Claude Code enger miteinander verbunden, wodurch ein nahtloser Wechsel zwischen beiden Umgebungen ermöglicht wird. Über den Befehl „/design“ lässt sich ab sofort direkt aus der Terminal-Umgebung auf die Design-Ressourcen zugreifen, ohne die gewohnte Entwicklungsumgebung verlassen zu müssen. Änderungen werden dabei zwischen beiden Plattformen in Echtzeit synchronisiert, sodass Anwender stets mit dem aktuellen Stand ihrer Projekte arbeiten können. Mit „/designsync“ steht darüber hinaus eine manuelle Synchronisation zur Verfügung. Durch den Wegfall des ständigen Wechsels zwischen den Werkzeugen sollen sich Arbeitsabläufe beschleunigen und Unterbrechungen vermeiden lassen.

Mit den neuen Funktionen kommt Anthropic zudem dem eigenen Ziel näher, den gesamten Prozess von der ersten Idee bis zum fertigen Produkt innerhalb der Claude-Plattform abzubilden. Gleichzeitig soll sich die Zusammenarbeit zwischen Designern und Entwicklern vereinfachen, da sich fertige Entwürfe direkt an Claude Code übergeben lassen, ohne dass sie erneut aufgebaut werden müssen.

Limits gemeinsam nutzen

Darüber hinaus hat Anthropic den Editor überarbeitet. Elemente lassen sich nun direkt auf der Arbeitsfläche verschieben, skalieren und ausrichten. Gleichzeitig teilen sich Claude Design, Chat, Cowork und Claude Code künftig gemeinsame Nutzungslimits, wodurch Anwender insgesamt mehr Spielraum erhalten sollen.

Mit den neu eingeführten Funktionen will das Unternehmen die gemeinsame Nutzung von Design-Software vereinfachen und eine direkte Synchronisierung zwischen Claude Design und Claude Code ermöglichen. Dafür erweitert Anthropic seine KI-gestützte Design-Plattform insbesondere um Funktionen, die sich an Teams und Unternehmen richten.

Neue Vorgaben für Corporate Identity

Neu ist unter anderem eine Administratorrolle, über die sich das Design-System zentral verwalten lässt. Dabei entstehen gewissermaßen Markenbaukästen, die mit Farben, Komponenten und weiteren Gestaltungselementen ausgestattet werden können. Bei neuen Projekten überprüft Claude automatisch, ob die generierten Inhalte den vorgegebenen Richtlinien entsprechen. Als Grundlage können dabei GitHub-Repositories, Design-Dateien oder hochgeladene Inhalte dienen. Auf diese Weise sollen KI-generierte Benutzeroberflächen und Marketingmaterialien konsistent mit bestehenden Corporate-Design-Vorgaben bleiben.

Weitere unterstützte Plattformen

Ausgebaut wurde außerdem die Unterstützung für Drittanbieter. Claude Design arbeitet künftig mit einer Vielzahl externer Plattformen zusammen, darunter Adobe, Canva, Gamma, Lovable, Miro, Replit, Vercel und Wix. Dadurch sollen sich Entwürfe einfacher in bestehende Arbeitsabläufe integrieren lassen. Umgekehrt können Projekte nun auch als PDF oder PowerPoint-Datei exportiert werden.

Microsoft baut die Offline-Funktionen des neuen Outlook für Windows 11 weiter aus, kämpft jedoch weiterhin mit den Folgen des Web-basierten Ansatzes. Die jüngste Version ermöglicht nun erstmals das Anhängen von Dateien ohne Internetverbindung, bleibt in vielen Bereichen aber weiterhin hinter dem klassischen Outlook zurück.

Outlook erhält endlich grundlegende Funktion

Nachdem Microsoft die Funktion bereits seit Oktober vergangenen Jahres getestet hatte, unterstützt das neue Outlook nun auch Dateianhänge im Offline-Betrieb. Bereits im vergangenen Jahr hatte der Konzern die Nutzung von E-Mails und Kalenderfunktionen ohne aktive Internetverbindung ermöglicht. Nutzer können nun Nachrichten samt Anhang offline erstellen, die automatisch versendet werden, sobald wieder eine Verbindung besteht. Voraussetzung ist, dass die Option unter „Einstellungen → Allgemein → Offline → Dateianhänge einschließen“ aktiviert wurde.

Zwar erweitert Microsoft den Funktionsumfang des E-Mail-Clients damit kontinuierlich, die Verarbeitung von Dateianhängen ohne Internetverbindung darf jedoch durchaus als Standardfunktion gelten, die bereits zum Start hätte vorhanden sein müssen. Das klassische Outlook beherrscht diese Funktion bereits seit Jahren.

Weitere Verbesserungen in der Pipeline

Darüber hinaus arbeitet Microsoft an einer Erweiterung der Offline-Synchronisation. Bislang können maximal 180 Tage an E-Mails lokal gespeichert werden, künftig sollen ein oder sogar zwei Jahre unterstützt werden. Die entsprechende Einstellung findet sich im Offline-Bereich unter „Days of email to save“. Zudem testen die Entwickler einen gemeinsamen Posteingang für mehrere Konten sowie Funktionen zum Zusammenführen von E-Mail-Konversationen.

Web-Ansatz soll Grund für viele Probleme sein

Viele der bestehenden Probleme lassen sich auf den webbasierten Aufbau des neuen Outlook zurückführen. Anders als klassische Desktop-Anwendungen läuft das Programm als WebView2-Anwendung in einem Container. Dieser Ansatz bringt zwar auch Vorteile mit sich, da unter anderem dieselben Technologien wie im Edge-Browser genutzt werden, darunter Service Worker und WebGPU. Der erweiterte Funktionsumfang geht jedoch häufig zulasten der Leistung.

So berichtete Windows Latest vor wenigen Tagen, dass das neue Outlook für zahlreiche Aktionen deutlich mehr Zeit benötige als die klassische Variante. Teilweise sollen Aufrufe bis zu 10 Sekunden länger dauern.

Auch die neue Offline-Funktion soll unter den Nachteilen des Web-Ansatzes leiden. So benötigt das Speichern von Dateianhängen offenbar deutlich mehr Speicherplatz als beim klassischen Outlook, zudem erfolgt die lokale Ablage über Browser-Daten und Datenbanken im User Data Folder.

Immer noch geringe Nutzung

Trotz der kontinuierlichen Weiterentwicklung hat das neue Outlook weiterhin mit einer geringen Akzeptanz zu kämpfen. Viele Nutzer setzen nach wie vor auf die klassische Variante, die schneller startet und bis heute einen größeren Funktionsumfang bietet.

Nach Ansicht von Kritikern verdeutlicht die langsame Einführung grundlegender Funktionen wie Offline-Anhängen die Grenzen des Web-App-Konzepts. Gerade im Unternehmensumfeld sollen die Nachteile gegenüber klassischen Desktop-Anwendungen besonders deutlich zutage treten.