Anthropics KI-Modell Mythos: Zugriff soll deutlich ausgeweitet werden

Anthropic will den Zugriff auf sein leistungsstärkstes KI-Modell Mythos deutlich ausweiten und Organisationen in mehr als 15 Staaten damit nach Sicherheitslücken in systemrelevanter Software suchen lassen. Das hat das KI-Unternehmen jetzt mitgeteilt, ohne das aber aufzuschlüsseln. Die Financial Times berichtet unter Berufung auf eine eingeweihte Person, dass auch Einrichtungen in Deutschland und der Schweiz, sowie anderen europäischen Staaten, in Indien, Japan und Südkorea einen Zugriff erhalten sollen. Namentlich nennt die Zeitung Samsung, SK Hynix, das Finanzkommunikationsnetzwerk Swift und die Militärallianz NATO. Insgesamt soll das Anfang April ins Leben gerufene Projekt auf 150 neue Organisationen ausgeweitet werden.

Nur sicherheitsrelevante Organisationen mit Zugriff

Anthropic hat Mythos Anfang April vorgestellt und erklärt, dass das Modell so gefährlich sei, dass es nur Firmen zur Verfügung gestellt wird, die an IT-Sicherheit arbeiten. Das KI-Modell habe seitdem über 10.000 hochriskante Zero-Day-Lücken identifiziert, darunter auch welche in allen großen Betriebssystemen und jedem Internetbrowser. Gleichzeitig sei die KI-Technik deutlich häufiger in der Lage, einen funktionierenden Exploit für solche Lücken zu entwickeln, teilweise würden dafür sogar mehrere in Verbindung miteinander ausgenutzt. Im Rahmen von „Project Glasswing“ soll die Branche daran arbeiten, damit gefundene Lücken abzudichten. Damit soll die Branche bereit sein, wenn andere KI-Modelle zur Verfügung stehen, mit denen Kriminelle aufholen können.

Laut Anthropic haben alle Organisationen, die bereits Zugriff auf Mythos haben und solche, die ihn jetzt erhalten, eins gemeinsam: „Ein erfolgreicher Angriff auf ihre Codebasis könnte katastrophal sein.“ Das KI-Unternehmen erklärt, dass eine „große Attacke“ auf jede einzelne davon jeweils mehr als 100 Millionen Menschen betreffen würde, mit schwerwiegenden Folgen für die globale und nationale Sicherheit. Während bestimmte Industrien bislang nicht so gut repräsentiert gewesen seien, habe man das jetzt primär für die Energie- und Wasserversorgung, die Gesundheitsbranche, Kommunikation und Hardwareherstellung geändert. Gleichzeitig arbeite man mit Hochdruck daran, Fähigkeiten wie jene von Mythos sicher der Öffentlichkeit zur Verfügung stellen zu können.

Über die Bedeutung von Mythos und ähnlichen KI-Modellen sowie das Vorgehen von Anthropic wird seit Wochen diskutiert. Dabei gehen die Meinungen darüber auseinander, ob es sich nun um clevere PR vor dem geplanten Börsengang handelt oder tatsächlich die beste Methode zur Vorbereitung auf eine Security-Katastrophe. Bei Mozilla etwa hat man zuletzt deutlich mehr Lücken in Firefox gefunden und den Browser damit absichern können. Im Download-Tool curl wurde dagegen nur eine Lücke entdeckt. Gleichzeitig klagen Verantwortliche für Softwareprojekte seit Monaten über die stark gewachsene Arbeitslast durch KI-unterstützte Fehlersuche, bei der es viel zu wenig Hilfe gebe.

(mho)