c’t-Podcast: „KI kann allein keine Cyberangriffe entwickeln“

Es klang fast nach einer neuen Eskalationsstufe im Cyberwar, was Google kürzlich verkündete: Man habe den ersten Beweis erbracht, dass Angreifer KI erfolgreich zur Entwicklung einer Zero-Day-Schwachstelle eingesetzt hätten, so eine Pressemitteilung des Konzerns. „Aber es ist nicht so wie behauptet“, sagt Haya Schulmann, Professorin für Informatik an der Goethe-Uni Frankfurt und Mitglied im Direktorium des Nationalen Forschungszentrums für Angewandte Cybersicherheit Athene. Sie hat das zugehörige Forschungspaper genau gelesen und kommt im c’t-Podcast They Talk Tech mit Svea Eckert und Eva Wolfangel zu einem anderen Schluss: Laut dem Paper selbst habe die KI die Zero-Day-Schwachstelle nicht entdeckt, sie sei lediglich als Unterstützung eingesetzt worden. Ein entscheidender Unterschied.

Der Fall ist eines von vielen Beispielen, das zeigt, wie der Hype um künstliche Intelligenz die Realität verzerrt und wie Hersteller wie Anthropic oder in diesem Fall Google diesen ausnutzen, um für die eigenen Produkte oder die eigene Arbeit zu werben.

Was das Paper von Google hingegen zeige, erklärt Schulmann, sei seit Anfang 2024 bekannt: Staatliche Akteure und Cyberkriminelle nutzen KI-Werkzeuge, um schneller zu werden. Interessant sei allerdings, wie Google in diesem Fall zu seiner Erkenntnis gelangt ist: Nämlich unter anderem, indem die Firma auswertete, was Nutzerinnen und Nutzer mit dem Chatbot Gemini machen. „Das heißt, die KI-Anbieter können genau verfolgen, was ihre Kunden tun“, sagt Schulmann. Das habe in Zeiten einer angespannten Atmosphäre zwischen USA und Europa eine eigene strategische Dimension – ein Aspekt, den die alarmistischen Berichte konsequent ausblenden.

Das eigentliche Problem aber liege tiefer, betont Schulmann. Zero Days, also bislang unbekannte Sicherheitslücken, für die es noch keinen Patch gibt, stehen im Zentrum der öffentlichen Debatte, insbesondere seit Anthropic verkündet hat, sein Modell Mythos nicht zu veröffentlichen, weil es zu gefährlich sei. Angeblich, weil Mythos unbekannte Sicherheitslücken besonders gut finde.

Aber es gehöre mehr dazu, eine Schwachstelle auszunutzen, sagt Schulmann: Schließlich muss dafür erstmal Schadcode geschrieben werden. Und gerade KI-generierter Code enthält Fehler und funktioniert nicht zuverlässig. „Außerdem fällt er auf, er verrät die Angreifer.“ Wer unentdeckt bleiben will, greife lieber auf bekannte, bereits gepatchte Schwachstellen zurück – weil dafür fertige Werkzeuge existieren und die Angriffe erprobt sind. Denn: Selbst wenn es Patches gibt, heißt das noch lange nicht, dass die Systeme auch auf dem aktuellen Stand sind. Eine noch unveröffentlichte Studie des Athene-Zentrums mache das Ausmaß sichtbar: In 16 deutschen Bundesministerien fanden die Forscherinnen und Forscher kritische Schwachstellen, die teilweise über zehn Jahre alt sind. „Gleichzeitig wächst die Zahl veralteter End-of-Life-Systeme mit jeder neuen Digitalisierungsschicht, die darübergebaut wird.“

Dazu kommt, dass Angreifer weit weniger von KI profitieren als behauptet. „LLMs produzieren geschwätzigen, fehlerbeladenen Code“: Ein Problem, das Verteidiger und Angreifer gleichermaßen trifft. Im Google-Paper selbst finden sich Hinweise darauf: Der entdeckte Code enthielt halluzinierte Werte und war so lehrbuchartig dokumentiert, dass er die Angreifer verriet. „Die gleichen Probleme, die wir haben, haben natürlich die Angreifer auch“, sagt Schulmann. „Der Holy Grail – ein KI-System, das völlig autonom Angriffe entwickelt und auf jedes beliebige Ziel loslässt – ist noch sehr weit weg.“

Was Schulmann jedoch grundsätzlich beunruhigt, ist die Art, wie diese Debatte politisch geführt wird. Alarmistische Papiere erzeugten Panik und verdeckten gleichzeitig reale strukturelle Probleme: veraltete IT, mangelnde Professionalisierung, fehlende eigene KI-Infrastruktur in Europa. „Wir müssen aufpassen, dass die deutsche Politik nicht die Werbeargumente eines Herstellers übernimmt“, sagt sie. Wenn Politikerinnen und Politiker Pressemitteilungen von Tech-Konzernen als Faktenlage behandelten, führe das zu falschen Prioritäten. Was stattdessen gebraucht werde, sei eine langfristige Strategie: für digitale Souveränität, für eine europäische KI-Infrastruktur, die es mit US-Modellen aufnehmen kann, und für das Schließen der Lücken, die längst bekannt sind.

„They Talk Tech“ erscheint jeden Mittwoch überall, wo es Podcasts gibt. Svea Eckert und Eva Wolfangel diskutieren ein Tech-Thema oder treffen inspirierende Frauen aus und rund um die Tech-Welt.

(mond)