Unautorisierter Zugriff: Discord-Gruppe verschaffte sich Zugang zu Claude Mythos

Eine Gruppe unautorisierter Nutzer hatte Zugang zu Anthropics Spitzenmodell Claude Mythos, berichtet Bloomberg. Vor allem für Anthropic ist der Vorfall heikel. Weil das Modell zu leistungsfähig sei beim Entdecken und Ausnutzen von Sicherheitslücken, wollte man es eigentlich nicht für die Allgemeinheit freigeben.

Verantwortlich für den Zugriff war dem Bloomberg-Bericht zufolge unter anderem eine Person, die bei einem Dienstleister von Anthropic tätig war. Er war in einem privaten Discord-Kanal aktiv, in dem sich Nutzer organisieren, die sich Zugang zu bis dato nicht veröffentlichten Modellen verschaffen wollen.

Laut einer Person, die mit den Vorgängen vertraut ist, wertete die Gruppe Informationen aus, die im Rahmen des Mecor-Datenlecks durchgesickert sind. Bei Anthropic konnte man so etwa erfahren, wie Modelle im Ökosystem abgelegt werden. Durch Erraten war es dann möglich, den Online-Standort von Claude Mythos Preview zu identifizieren. Nutzen ließ sich das Modell dann mit den Zugangsdaten, die die Person durch die Tätigkeit bei dem Anthropic-Dienstleister hatte.

Angreifer hatten scheinbar keine böswilligen Absichten

Mitglieder der Gruppe erklärten laut dem Bloomberg-Bericht, mit dem Zugang keinen Schaden anrichten zu wollen. Man habe vor allem spielerisches Interesse gehabt und das Modell etwa getestet, indem man simple Webseiten gebaut hat. Für die IT-Sicherheit relevante Abfragen wurden nicht gestartet, allein schon um von Anthropic nicht entdeckt zu werden.

Anthropic selbst erklärt in einer Stellungnahme, dass man den Bericht untersucht. Derzeit gebe es aber keine Hinweise, dass der Zugang zu Claude Mythos über diese Gruppe hinaus stattfand und weitere Systeme von Anthropic betroffen sind.

Die Gruppe selbst erklärte, noch Zugang zu weiteren Modellen zu haben, die Anthropic bislang nicht veröffentlicht hat.

Durch Mecor-Datenleck können noch weitere Sicherheitsvorfälle drohen

Entscheidend für den Zugang durch die Discord-Gruppe war also das Datenleck bei dem KI-Dienstleister Mercor. Das Unternehmen erstellt Trainingsdaten, die die Top-KI-Firmen wie OpenAI, Anthropic und Meta nutzen.

Zu dem Sicherheitsvorfall kam es laut einem Bericht von Wired, indem Angreifer die API des KI-Tools LiteLLM kompromittiert haben. LiteLLM standardisiert im Prinzip den Zugang zu mehr als 100 Modellen von diversen Anbietern. Man kann diese damit also ansprechen, ohne den Code umbauen zu müssen. Weil neben Mercor noch weitere LiteLLM-Firmen betroffen sind, könnte dieses Sicherheitsleck noch größere Kreise ziehen.

Zu den Daten, die die Angreifer bei Mercor erbeutet haben, zählen laut Wired eine über 200 GB Datenbank, fast 1 TB Quellcode sowie 3 TB an Videos und anderen Informationen.

Zweiter Sicherheitsvorfall bei Anthropic in kurzer Zeit

Es ist der zweite Sicherheitsvorfall bei Anthropic in kurzer Zeit. Ende März kam es direkt bei Anthropic zu einem Datenleck, durch das der Quellcode des KI-Agenten Claude Code publik wurde. Nun also der unautorisierte Zugriff auf die Preview-Version von Claude Mythos.

Brisant ist das für Anthropic, weil eigentlich nur eine ausgewählte Gruppe an Organisationen auf das Modell zugreifen soll. Zu den Partnern zählen Betreiber von IT-Infrastruktur wie Amazon, Google und Microsoft, hinzu kommen noch Open-Source-Anbieter wie die Linux Foundation. Diesen sollen frühzeitig die Gelegenheit haben, ihre Systeme abzusichern, bis Modelle wie Claude Mythos publik werden. Interessant ist aber: Die in den USA für IT-Sicherheit zuständige Cybersecurity and Infrastructure Security Agency (CISA) hat bislang noch keinen Zugang zum Modell.

Erst am Dienstag meldete die Mozilla Foundation, dass es möglich war, mit Claude Mythos 271 Schwachstellen im Firefox-Browser zu beheben. Die Entwickler bei Mozilla erklärten aber auch, dass Anthropics Modell keine Wunderdinge leistet. Wie viel Hype und Marketing hinter Anthropics Entscheidung stecken, das Modell zurückzuhalten, ist ohnehin strittig.

Eine ausführliche Bewertung von Claude Mythos erscheint auf ComputerBase am Samstag. IT-Sicherheitsexperten Manuel „HonkHase“ Atug erklärt in einem Interview, welche Auswirkungen die modernen KI-Modelle auf die IT-Sicherheitslandschaft haben.