Hinter der plötzlichen weltweiten Sperre von Anthropics neuem KI-Modell Fable steckt offenbar ein anderer großer Tech-Player: Amazons CEO Andrew Jassy soll unter anderem US-Finanzminister Scott Bessent von einem mutmaßlichen Jailbreak berichtet haben, die US-Regierung verhängte daraufhin eine Exportdirektive, die Anthropic wiederum zu der Sperre des KI-Modells zwang.

Mehrere Medien berichten übereinstimmend über den Fall. Demnach ließ Andrew Jassy seine Cybersicherheits-Abteilung zunächst das neue KI-Modell auf mögliche Jailbreaks testen – Tricks, mit denen man ein KI-Modell dazu bringt, Prompts zu bearbeiten, die es aus Sicherheitsgründen sonst verweigern würde. Die Experten sollen dann einen Bericht vorgelegt haben, demzufolge das KI-Modell funktionierende Exploits von Sicherheitslücken vier gängiger Programme lieferte. Jassy berichtete demnach auch US-Regierungsangehörigen davon. Ein Amazon-Sprecher bestätigte dem Wall Street Journal, dass die US-Regierung in Technologiefragen häufig den Rat von Amazon als führendes Tech-Unternehmen suche, wollte sich zu konkreten Einzelfällen aber nicht äußern.

Sacks: US-Regierung handelte „widerwillig“

Als Reaktion auf den Bericht setzte die US-Regierung Anthropic ein Ultimatum: Innerhalb von 24 Stunden müssten die Jailbreak-Probleme behoben werden – oder stattdessen der Zugang zu Fable für Nicht-Amerikaner gesperrt. David Sacks, selbst Tech-Investor und Co-Vorsitzender des Beraterstabs des US-Präsidenten für Wissenschaft und Technologie, berichtete auf X, wie das genau abgelaufen sein soll. Demnach soll Anthropic-CEO Dario Amodei sich geweigert haben, die von Amazon ausgemachten Sicherheitslücken zu schließen. Bereits zuvor hatte Anthropic in einer Stellungnahme bestritten, dass es sich um einen vollwertigen Jailbreak handele, die ausgeführten Aufgaben sind demnach auch problemlos mit OpenAIs Konkurrenz-Modell ChatGPT 5.5 machbar. „Nur widerwillig“ habe die US-Regierung wegen Amodeis Weigerung das strenge Verbot auf den Weg gebracht, lautet Sacks Darstellung. Die Hoffnung sei immer noch, dass Anthropic die vorgeworfenen Probleme behebt und das Modell wieder normal genutzt werden kann. Derweil kann Anthropic den Auflagen nur nachkommen, indem das Unternehmen sein neues KI-Modell weltweit sperrt.

Der Ansatz der US-Regierung, ein einzelnes KI-Modell wegen eines mutmaßlichen Jailbreaks zu sperren ist etwas widersinnig – nach dieser Logik ließe sich jedes KI-Modell sperren, denn jedes lässt sich theoretisch jailbreaken. Besonders bei Fable ist, dass es sich um eine Variante von Anthropics KI-Modell Mythos handelt. Um dieses hatte Anthropic selbst viel Getöse veranstaltet, weil es in kürzester Zeit vorher unbekannte Sicherheitslücken in nahezu jeder Software finden und auch gleich den nötigen Code zur Ausnutzung mitliefern soll. Anthropic hielt es deswegen für zu gefährlich für eine allgemeine Veröffentlichung. Damit lieferte Anthropic auch die Vorlage für das jetzige Vorgehen der US-Regierung, welches auch als Seitenhieb in einem längeren Streit zwischen ihr und Anthropic verstanden werden kann. Die US-Regierung darf Anthropics KI nicht für autonome Waffensysteme nutzen, was dem Unternehmen in der Vergangenheit Sanktionen bescherte. Das jetzige Fable-Zugangsverbot für nicht-amerikanische Staatsangehörige trifft auch viele ausländische Anthropic-Beschäftigte. Sie dürfen aktuell nicht an dem Modell arbeiten.

Sacks streitet in seinem X-Post ab, dass die jetzige Entwicklung mit dem Streit zusammenhänge. Die US-Regierung schätze Anthropics technische Fähigkeiten sehr, „der Ball liegt nun bei Anthropic“. Diesen Ball – um im sprachlichen Bild zu bleiben – spielte die US-Regierung Anthropic auch im Februar zu, als das Unternehmen den Einsatz seiner Technologie für autonome Waffensysteme verweigerte und als Lieferkettenrisiko und Gefahr für die nationale Sicherheit eingestuft wurde. Anthropic wehrt sich dagegen vor Gericht. Ob das auch in diesem Fall passieren wird und ob die US-Regierung nun konsequenterweise jailbreakbare Modelle anderer KI-Hersteller ins Visier nimmt, bleibt abzuwarten. Das letztere sei aber unwahrscheinlich, will das News-Portal „The Information“ aus Regierungskreisen erfahren haben.

(nen)

Die Bürger Europas lieben Onlineshopping und Paketlieferdienste. Für fast 560 Milliarden Euro wurden 2025 Waren aus China in die EU eingeführt. Einen erheblichen Teil davon importierten nicht Großhändler, sondern Verbraucher. 5,8 Milliarden Warensendungen, also Kleinstpakete, kamen allein 2025 aus China über die EU-Außengrenze – mehr als zehn Sendungen pro EU-Bürger. 2024 waren es noch 4,6 Milliarden Kleinsendungen. Der Hauptgrund: die Preise – und eine aggressive Werbestrategie.

Auf Marktplätzen wie Temu, Shein, AliExpress, JD.com, Joybuy & Co. bieten chinesische Händler unzählige Waren feil, oft zu extrem günstigen Preisen. Wer hier etwas bestellt, bekommt das Paket direkt vom jeweiligen Verkäufer geliefert – ohne Umweg über Groß- oder Zwischenhändler wie Amazon. Laut Zoll kamen in der Vergangenheit 90 Prozent aller solcher Direktsendungen aus der Volksrepublik. Lag der angegebene Warenwert unter 150 Euro, konnten diese bislang zollfrei in die EU importiert werden.

Doch damit ist jetzt Schluss: Auf solche geringwertigen Sendungen erhebt die europäische Union ab Juli einen pauschalen Mindestzoll von drei Euro. Aber nicht pro Paket, sondern nach einem komplizierteren System. Wir erklären, wie teuer Einzel- und Sammelbestellungen werden können und was Verbraucher und Staaten davon haben.

Das war die Leseprobe unseres heise-Plus-Artikels „Mindestzoll für China-Importe: Was Verbraucher jetzt wissen müssen“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

„Die genannten Texte wurden mit Unterstützung von KI erarbeitet.“ Mit diesem Satz hat ein Sprecher des Digitalministeriums der Wochenzeitschrift „Die Zeit“ bestätigt, dass Karsten Wildberger einige seiner öffentlichen Äußerungen von Künstlicher Intelligenz erstellen ließ. Betroffen sind unter anderem um Gastbeiträge für renommierte Medien wie das Handelsblatt, auch mindestens eine von Wildbergers Reden im Bundestag soll maßgeblich mit KI verfasst worden sein.

Wie die Zeit berichtet, hat das Blatt eine Vielzahl von Wildbergers Äußerungen mit der Analysesoftware „Pangram“ untersucht. Dieses Tool, das seinerseits auf KI basiert, gilt als derzeit bestes Werkzeug, um mit KI erstellte Texte zu erkennen. Vermeintliche Wildberger-Texte, die Pangram als KI-generiert bezeichnete, hat die Zeit von Menschen überprüfen lassen.

Typische Stilmittel-Inflation durch KI

Besonders auffällig waren zwei Gastbeiträge, den einen hat das Handelsblatt veröffentlicht, den anderen die Frankfurter Allgemeine Sonntagszeitung. Darin fanden sich nicht nur schön klingende, aber eher inhaltsleere Floskeln, wie auch Stilmittel, die KI-Generatoren häufig im Übermaß verwenden. Dazu gehören Gedankenstriche und Dreiklänge, Beispiel aus dem Handelsblatt: „einen Server, eine Datenbank oder eine KI-Anwendung“. Auch Verneinungen als Stilmittel fanden sich häufig.

Auch 30 Reden, die Wildberger gehalten hat, untersuchte die Zeit. Nur eine, die der Minister in den USA hielt, scheint komplett aus der KI zu stammen, bei sieben Ansprachen wirkte ein Chatbot mit. Vier davon gab Wildberger im Bundestag zum Besten – eine ausgerechnet zur Bedeutung von KI im März dieses Jahres. Wie das Ministerium auf Anfrage der Zeit sagte, würden alle Texte, die unter Wildbergers Namen erscheinen, auch von Menschen geprüft.

Texte von geringer Qualität

Dass Minister ihre Reden nicht immer selbst verfassen, ist ein übliches Vorgehen. Der Job des „Redenschreibers“ ist im politischen Geschäft durchaus renommiert, und oft ein Sprungbrett für eine weitere Karriere. Dass ein Digitalminister auch moderne Tools benutzt, ist ebenso wenig überraschend. Auffällig ist an den aktuellen Vorgängen jedoch, dass die Texte – insbesondere die beiden Gastbeiträge – mit vielen Floskeln, schiefen Sprachbildern und ermüdendem Gebrauch von anderen Stilmitteln nur eine geringe Qualität aufweisen.

Offenbar ist das sowohl im Ministerium, als auch in den Redaktionen nicht aufgefallen. Dabei hat etwa die Frankfurter Allgemeine interne Regeln, welche rein KI-generierte Texte verbieten. Diese hat das Blatt erst in dieser Woche auszugsweise veröffentlicht, und zwar in einem Beitrag, der die Löschung eines Gastbeitrags des thüringischen Ministerpräsidenten Mario Voigt behandelt. Auch er hatte sich den Text von KI schreiben lassen. Der fragliche Beitrag von Karsten Wildberger ist zum Zeitpunkt dieser Meldung am Sonntagmittag noch bei der Frankfurter Allgemeinen online.

(nie)