Malware: KI erzeugt kaum aufhaltbaren Wurm

IT-Forscher untersuchen, ob künstliche Intelligenz eine Bedrohung darstellt. Dabei haben sie eine neue Bedrohungsart entwickelt: Ein KI-Wurm, der maßgeschneiderte Angriffe auf jedes Ziel startet, dem er begegnet.

Ein IT-Forscherteam hauptsächlich aus Wissenschaftlern der Universität Toronto, des Vector Institute, der Universität Cambridge und ServiceNow Research hat einen Pre-Print seiner Forschungsarbeit „KI-Agenten ermöglichen adaptive Computer-Würmer“ (AI Agents Enable Adaptive Computer Worms) auf arxiv.org veröffentlicht. Demnach haben sie einen kaum aufzuhaltenden Wurm entwickelt, der sich von Gerät zu Gerät bewegt und dabei angepasste Exploits für Schwachstellen für die jeweiligen Ziele entwickelt und sich dadurch weiter fortpflanzt.

Computer-Würmer sind bekannt und gefürchtet, verbreiten sie sich meist ohne weitere Nutzerinteraktion rasant in Netzwerken, können diese lahmlegen oder weitere Malware verteilen. Bisher benutzen bekannte Würmer wie WannaCry gezielt einzelne Sicherheitslücken in den anvisierten Geräten aus. Durch das Anwenden bereitstehender Patches lassen sich die Lücken schließen und die weitere Verbreitung dieser Würmer aufhalten. Anders sieht das nun mit dem autonom agierenden KI-Wurm aus.

Wurm schneidert passgenaue Exploits mit LLMs

Der Wurm der IT-Forscher nutzt infizierte Rechner, um offene große Sprachmodelle (LLMs) auszuführen. Damit hält er seine Entscheidungsfähigkeit aufrecht und vergrößert seine Reichweite für weitere Angriffe, erklären die Wissenschaftler. Sie haben ihn in einem isolierten Netzwerk aus Linux-, Windows- und IoT-Geräten ausgesetzt und er verbreitete sich darin, indem er gängige, in der Praxis auftretende Schwachstellen in Unternehmensnetzwerken ausnutzte. Da die LLMs auf den gekaperten Rechnern laufen, haben die Angreifer zudem keine Kosten für Rechenleistung – anders als die „Verteidigerseite“, die solche Angriffe etwa mittels KI abzuwehren versucht.

Auch die zunehmend eingesetzten zentralen Sicherheitschecks und etwa Ratenbegrenzungen in den kommerziellen KI-Angeboten umgehen die IT-Forscher mit diesem Ansatz geschickt. Selbsterhaltende, KI-gestützte Cyberbedrohungen sind damit nicht mehr länger reine Theorie, ergänzen die IT-Forscher.

Testläufe im isolierten Netzwerk

Konkret haben sie ihren Wurm in einem isolierten Netzwerk mit 33 Geräten ausgesetzt. Die reichten von Linux-Servern über Windows-Umgebungen hin zu Internet-of-Things-Geräten (IoT). Hier haben die IT-Forscher jedoch bekannte Schwachstellen offen gelassen, die in freier Wildbahn auch auftreten. In mehreren Testläufen, die jeweils über sieben Tage liefen, hat der KI-Wurm jeweils rund ein Drittel der Schwachstellen korrekt erkannt und insgesamt auf einem Viertel der Maschinen missbraucht, um die eigenen Rechte auszuweiten. Zudem breitete er sich auf rund 20 Prozent der Geräte aus und erreichte sieben Generationen der Selbstfortpflanzung. Um das Zahlenwirrwarr aufzudröseln, fassen die Wissenschaftler zusammen: Der Proof-of-Concept-Wurm habe knapp 75 Prozent des Netzwerks erfolgreich attackiert und sich auf knapp zwei Drittel des Netzes repliziert.

Erstaunlich zudem, dass etwa drei der Schwachstellen im Jahr 2026 bekannt geworden sind, was jenseits des Trainings-Cutoffs der LLMs liegt. Die haben also aus veröffentlichten Informationen selbsttätig funktionierende Exploits entwickelt. Sie sind also nicht abhängig von bekannten PoC-Exploits.

Die Wissenschaftler warnen: „Wir müssen uns auf autonome generative Gegner einstellen: Malware-Systeme, die sich ohne menschliches Zutun verbreiten und nicht durch festgelegten Exploit-Code definiert sind, sondern durch die Fähigkeit, Ziele zu analysieren, sich an Beobachtungen anzupassen und Angriffslogik in Echtzeit zu entwickeln.“

(dmk)