Mythos findet nur eine Sicherheitslücke in curl

Anthropics KI-Modell Claude Mythos Preview gilt als zu gefährlich für die Öffentlichkeit, zumindest nennt das Unternehmen diese Begründung, warum es nur eingeschränkten Zugang zu dieser ausgefeilten KI-Schwachstellensuche gibt. Ausgewählte Nutzer und Projekte durften Mythos testen – so auch Daniel Stenberg, Maintainer des Download-Tools curl. Mythos wurde genau einmal fündig.

Der Testlauf überrascht, denn der curl-Maintainer schimpfte Anfang des Jahres noch über „Scheiß-Berichte“ in Form von KI-Bug-Reports und hatte vor einem Jahr schon mal „die Nase voll“ davon. Zwischenzeitlich stellte er das Bug-Bounty-Programm auf HackerOne sogar ein, um schließlich doch wieder dorthin zurückzukehren, da die Bug-Verwaltung damit besser funktioniert als etwa mit GitHub.

Im Rahmen des Projekts Glasswing sollte Stenberg Zugang erhalten. Nach Schluckauf bei der Einrichtung hat eine Drittperson den Test anhand der curl-Quellen übernommen, schreibt Stenberg in seinem Blog.

curl: Gut abgehangener Code

Stenberg weist darauf hin, dass sie natürlich curl bereits mit mehreren unterschiedlichen und fähigen KI-Tools untersucht haben – als Zugabe zu „normalen“ statischen Code-Analysetools, dem Setzen von sehr wählerischen Compiler-Optionen oder dem Einsatz von Fuzzing über Jahre hinweg. Mit diesen Tools seien in den vergangenen acht bis zehn Monaten rund 200 bis 300 Bugs entdeckt und zugehörige Bugfixes in curl gemergt worden. Ein Haufen dieser Meldungen seien bestätigte Schwachstellen und haben CVE-Einträge erhalten.

Die Entwickler setzen auch Tools wie GitHubs Copilot und Augment Code zum Prüfen von Pull-Requests ein. Deren Anmerkungen und Befunde helfen, den Code zu verbessern und keine Fehler zu mergen. Das passiert zwar trotzdem noch, aber die Review-Bots würden regelmäßig Probleme beleuchten, die die Programmierer dann beheben. Der Punkt von Stenberg ist hierbei, dass die KI-Reviews als Zusatz zu menschlichen Prüfungen genutzt werden; sie helfen lediglich und ersetzen die Menschen nicht. Inzwischen sehe er auch ein hohes Aufkommen an qualitativ hochwertigen Sicherheitsberichten das Projekt fluten, IT-Sicherheitsforscher setzten KI nun umfassend und effektiv ein.

Der Scan mit Mythos hat im Bericht fünf Befunde ausgespuckt, führt Stenberg weiter aus. Sie hätten mit mehr gerechnet. Er und sein Sicherheitsteam haben dann in den berichteten Problemen für einige Stunden herumgestochert und sind bei einer bestätigten Lücke angekommen. Von den anderen vier waren drei falsch-positive Meldungen – die waren in der API-Dokumentation bereits erklärt – und bei der vierten kamen die Programmierer zu dem Schluss, dass es sich lediglich um einen Bug handele.

Genüsslich setzt Stenberg fort, dass die übrig gebliebene Sicherheitslücke einen CVE-Eintrag erhalten wird, mit dem Schweregrad „niedrig“. Sie wird in curl 8.21.0 Ende Juni geschlossen. Interessierte finden in Stenbergs Blog-Eintrag noch weitergehende Einordnungen und Details sowie weitere Informationen aus dem Mythos-Bericht. Am Ende bleibt Stenberg weiter versöhnlich. Die KI sei inzwischen deutlich besser geworden und tatsächlich ein hilfreiches Werkzeug.

(dmk)