Claude Mythos: Kommt jetzt das KI-Modell, das uns Angst macht?

Das Modell Claude Mythos ist bei Anthropic bislang als Preview für erste Testpartner:innen verfügbar. Unter den ersten 50 davon waren auch Google, Microsoft und andere große Namen. Inzwischen hat Anthropic das sogenannte Project Glasswing für 150 zusätzliche Organisationen in 15 Ländern erweitert. Dabei wird das neue KI-Modell in einer kontrollierten Umgebung und mit Einfluss von Sicherheitsunternehmen, der US-Regierung und Open Source Software Maintainern getestet. Die Testorganisationen entstammen verschiedenen Branchen. Doch alle haben laut Anthropic gemein, dass ein Angriff auf die Cybersicherheit Auswirkungen auf über 100 Millionen Menschen und die Sicherheit im Land sowie weltweit haben könnte. Denn im Rahmen von Project Glasswing sollen insbesondere Sicherheitslücken mit dem Modell identifiziert und für eine Optimierung der Cybersicherheit in den Fokus gerückt werden. Laut Anthropic wurden schon im ersten Test über 10.000 kritische Sicherheitslücken gefunden.

Die Angst, die Claude Mythos auslöst

Was wie Vorteil für große Organisationen und Unternehmen klingt, wird zu einem massiven Problem für die digitale Wirtschaft. Wenn Claude Mythos besser denn je Cybersicherheitslücken erkennen kann, ist ein Missbrauch des Modells – oder der Einsatz ähnlich intelligenter Modelle zu arglistigen Zwecken – extrem beunruhigend. Insbesondere der Finanzsektor fürchtet bereits Angriffe, weil Claude Mythos nicht nur lange unentdeckte Lücken im System finden, sondern potentiell auch Angriffsszenarien schreiben kann. Angela Göpfert aus der ARD-Finanzredaktion schreibt für die Tagesschau, dass Angreifer:innen in einem solchen Worst-Case-Szenario Finanzströme in Milliardenhöhe manipulieren könnten, was das Vertrauen in die Finanzsysteme zum Einbruch bringen könnte.

Finanzunternehmen und -behörden müssen sich auf KI-Entwicklungen einstellen, aber noch hat die EU-Behörde für Cybersicherheit (ENISA) keinen Zugriff auf Mythos, wenngleich es Verhandlungen gibt. Nicht nur die Finanzbranche wäre indes bedroht, wenn hochintelligente KI-Modelle für Angriffszwecke eingesetzt werden. Auch aufgrund der großen Gefahren und Bedenken in verschiedenen Branchen wollte Anthropic das Modell zunächst nicht für die Öffentlichkeit bereitstellen und schrieb:

Project Glasswing and the capabilities of Claude Mythos Preview have sparked broad conversations—both within the software industry and with governments—about how AI is changing cybersecurity. These conversations have informed how we’ve expanded the program. They’ve also shaped our thinking about the very purpose of Project Glasswing.

Aber es gibt ein Problem. Selbst wenn Anthropic das Modell Claude Mythos zurückhält, muss sich die Digitalwelt auf intelligente Modelle und etwaige Angriffe einstellen. Anthropic geht davon aus, dass es in den nächsten sechs bis zwölf Monaten mehrere Modelle mit der Intelligenz von Mythos geben wird. Und die Unternehmen dahinter könnten sie mit weniger Sicherheitsregeln veröffentlichen als bei Anthropic für Claude Mythos geplant.

[…] In that world, cyberattacks could occur much more often, and in much more unpredictable forms. It’s imperative that cyberdefenders adapt to maintain pace.

Darum möchte das KI-Unternehmen Mythos eben doch schon bald für die Öffentlichkeit bereitstellen. Immerhin kann es dank der Intelligenz auch dabei helfen, Patches für Sicherheitslücken zu erstellen. Allerdings soll der Release nur mit erhöhten Sicherheitsvorkehrungen einhergehen. In diesem Kontext möchte Anthropic zudem das Cyber Verification Program erweitern und mehr Organisationen sicheren Zugang zu KI-Systemen gewähren. Und das jüngst gelaunchte Betaprogramm Claude Security soll bei der Absicherung von Codebases helfen, während einige Sicherheits-Tools aus dem Project Glasswing für mehr Organisationen bereitgestellt werden.

Warnung vor zu schneller KI-Entwicklung: Anthropic plädiert für KI-Bremse, hat aber ein Problem

Dass viele Unternehmen, Organisationen und vor allem Menschen zusehends Angst vor der rasanten KI-Entwicklung haben, liegt an vielen Auswirkungen des AI Booms: Angst vor Arbeitslosigkeit, Verlust von Publishing-Geschäftsmodellen, Furcht vor Cyberangriffen und dergleichen mehr. Anthropic selbst befeuerte die kritische Betrachtung der KI-Entwicklung zuletzt nicht nur, weil Mitgründer Christopher Olah den Papst Leo XIV. in seiner KI-Kritik unterstützte. Das Unternehmen selbst warnte in einem umfassenden Beitrag vor den Negativeffekten der KI-Entwicklung in rasantem Tempo. Dabei könnten KI-Systeme zum Beispiel zukünftig autonom ihre eigenen Nachfolgemodelle kreieren. Zwar sei man noch nicht an diesem Punkt des sogenannten  Recursive Self Improvements. Doch es könne dazu kommen. Immerhin entwickelt sich allein Claude als KI-Modell extrem schnell weiter:

Claude-written code was somewhat worse than human-written code at Anthropic in late 2025, is roughly at parity today, and we expect it to be strictly better within the year,

schreibt das Team im Beitrag. Um die Gefahrenpotentiale von KI-Modellen und -Systemen besser analysieren und eindämmen zu können, würde Anthropic gerne eine Verlangsamung der Entwicklung fördern. Das Unternehmen selbst könnte diese ohne Weiteres umsetzen, aber das hätte nur den Effekt, dass die Konkurrenz davonzieht. Denn wenn es keine einheitliche, global durch rechtliche Rahmenbedingungen geschaffene KI-Bremse gibt, sorgt das nur für ein Ungleichgewicht unter den wettstreitenden Playern – darunter OpenAI, Google, Meta und Co. Anthropic erklärt:

If it were possible to effectively slow the development of this technology to give ourselves more time to deal with its immense implications, we think that would likely be a good thing. But if a slowdown simply lets the least cautious actors catch up technologically, it could leave everyone less safe. Without a global coordination mechanism, companies and governments will have to make difficult decisions about safety while under competitive and geopolitical pressures.

Solange es keine globale Regulierung der KI gibt, bleibt die Idee von der KI-Bremse wohl nur ein Gedankenspiel. Es wirkt derzeit kaum wahrscheinlich, dass im Milliardenmarkt der KI-Unternehmen eine Entwicklungsregulierung eingeführt wird, die die Profite bedrohen könnte – trotz aller Bedenken, Risiken und realen Gefahren. Anthropics Hinweise auf die Notwendigkeit hin zur Vorsicht könnten letztlich Teil der Image-Arbeit sein. Das Unternehmen gibt sich gerade im Wettbewerb mit OpenAI nach außen oft als der verantwortungsbewusste Player. Das kann kurz vor dem Börsengang ein Faktor sein. Auch OpenAI hat direkt nach Anthropics Ankündigung zum IPO Unterlagen bei der US-Börsenaufsicht eingereicht.

Anthropics Mega-IPO:

Dieser Börsengang könnte Tech-Geschichte schreiben

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.