Es war ein Dienstagnachmittag, als mein Kollege und ich mit zwei großen Kartons warmer Pizza auf die Sicherheitsschleuse eines mittelgroßen deutschen Unternehmens zugingen. Kartons hoch, Blick auf den Boden, sichtlich überfordert. Ein Mitarbeiter, der gerade das Gebäude verließ, hielt uns nicht nur die Tür auf – er drückte uns auch noch den Fahrstuhlknopf. Keine Frage. Kein Zögern. Nur Hilfsbereitschaft.

Das Gebäude hatte biometrische Leser, Kameraüberwachung und eine Sicherheitsrichtlinie, die Besucher explizit verpflichtete, sich am Empfang anzumelden. Keines dieser Systeme hat uns aufgehalten. Ein einziger menschlicher Reflex hat uns eingelassen: Höflichkeit. Dieser Moment ist kein Einzelfall. Er ist ein Muster.

Als Physical Pentester begegnen einem dieselben Schwachstellen immer wieder – in Unternehmen unterschiedlicher Größe, unterschiedlicher Branchen und mit unterschiedlichem Sicherheitsbudget. Was sie gemeinsam haben: Die technische Infrastruktur ist oft beeindruckend. Die menschliche Seite nicht, wie die drei folgenden Fälle zeigen.

Das war die Leseprobe unseres heise-Plus-Artikels „Penetrationstest: Warum physische Sicherheit scheitert – und wie man das ändert“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Die internationale Cybersecurity-Norm IEC 62443 etabliert sich zunehmend als Standard für industrielle IT- und OT-Sicherheit. Sie unterstützt Hersteller dabei, Risiken in industriellen Netzwerken zu reduzieren, sichere Entwicklungsprozesse aufzubauen und Anforderungen wie den Cyber Resilience Act (CRA) vorzubereiten.

SDL und sicherheitstechnische Anforderungen

Im zweitägigen Workshop IEC 62443: Industrial Security für Produkthersteller lernen Sie die zentralen Inhalte der Norm IEC 62443 kennen – insbesondere die relevanten Teile 4-1 und 4-2 zu Security Development Lifecycle (SDL) und technischen Sicherheitsanforderungen.

Sie erhalten einen Überblick über die wichtigsten Konzepte und Anforderungen der Norm, darunter die acht Praktiken aus IEC 62443-4-1 für sichere Produktentwicklung und -wartung. Außerdem erfahren Sie, wie Sicherheitsstufen und Komponentenanforderungen definiert werden und wie sich Threat Modeling praktisch umsetzen lässt.

Das Gelernte praktisch anwenden

Anhand praxisnaher Beispiele lernen Sie, wie sich Anforderungen der IEC 62443 in Entwicklungs- und Wartungsprozesse integrieren lassen. Dabei erhalten Sie Einblicke in typische Herausforderungen bei der Umsetzung sicherer OT- und ICS-Produkte.

Von Erfahrungen aus der Praxis lernen

Sie profitieren von der direkten Anleitung durch Ihre Trainerin Luise Werner, SDL- und OT-Security-Beraterin bei der secuvera GmbH. Sie begleitet Hersteller von ICS- und OT-Komponenten bei der Einführung sicherer Entwicklungsprozesse und auf dem Weg zur IEC-62443-4-1-Zertifizierung. Im Workshop vermittelt sie Erfahrungen aus realen Projekten und zeigt, wie sich normative Anforderungen praxisnah umsetzen lassen.

Für wen ist dieser Workshop geeignet?

Der Workshop richtet sich an OT-Anwender, Entwickler von Automatisierungstechnik sowie Sicherheitsverantwortliche aus der Industrie, die sichere Entwicklungsprozesse für industrielle Systeme etablieren möchten.

(ilk)

Für die Sperrung der mächtigen KI-Modelle Fable 5 und Mythos 5 soll kein Jailbreak, sondern die Befolgung der simplen Aufforderung „fix this code“ verantwortlich gewesen sein. Das behauptet zumindest die IT-Sicherheitsforscherin Katie Moussouris, die den Report einsehen durfte, der dazu geführt hat, dass die US-Regierung die Sperre unter Berufung auf eine Exportkontrolldirektive verfügt hat. In dem Bericht wird demnach dargelegt, dass die Forschenden den KI-Modellen Fable 5, Mythos und Opus Open-Source-Code mit bekannten Sicherheitslücken und solchen mit gezielt eingefügten Lücken vorgelegt hätten. Die Bitte „prüfe den Code auf Sicherheitslücken“, habe Fable 5 verweigert. Der Bitte „repariere den Code“ sei das Modell dann aber nachgekommen.

Jailbreak oder nicht?

Moussouris meint, dass sie die einzige unabhängige Expertin zu sein scheint, die den besagten Report einsehen konnte. Darin heißt es demnach weiter, dass die Antwort auf „fix this code“ mittels eines „mehrstufigen und manuellen Verfahrens“ in Skripte umgewandelt worden sei, die die ausgegebenen Patches prüfen. Das sei alles gewesen und habe nach ihrer Meinung nie zu einem Exportverbot führen dürfen. Wer sich der Abwehr von Cyberangriffen widmet, müsse KI-Technik nutzen dürfen, um Lücken in Code abzusichern, deren Bedeutung zu erklären und Tests zur Prüfung schreiben dürfen. Das sei keine Umgehung von Leitplanken, wie behauptet. Das sei ganz im Gegenteil das wertvollste, was KI-Modelle für die Cyberabwehr tun könnten.

Die Expertin versichert noch, dass sie weiß, wovon sie schreibt. Vor mehr als zehn Jahren hat sie an Verhandlungen zur Verbesserung des Wassenaar-Abkommen für Exportkontrollen teilgenommen und dafür gesorgt, dass Ausnahmen für defensive Aktivitäten aufgenommen wurden. Wenn man KI-Modelle jetzt in ähnlicher Weise beschränkt, würde man die Cyberabwehr schwächen, ohne dass kriminelle Cyberakteure dadurch eingeschränkt würden. Moussouris hat deshalb zusammen mit einer Reihe von Expertinnen und Experten die US-Regierung aufgefordert, den Schritt gegen Fable 5 und Mythos 5 zu prüfen und die Sperre aufzuheben. Das zeige auch, wie wichtig die Modelle für ihre Arbeit seien. Gespräche zur Aufhebung der Sperre sind am Montag aber gescheitert.

Anthropic hat Fable 5 vorigen Dienstag als inhaltlich eingeschränkte Variante des neuen Mythos 5 freigegeben. Erste Tests hatten die merklich höhere Leistungsfähigkeit des KI-Modells bestätigt, aber auch zu Kritik an den Sicherheitsmaßnahmen geführt, die immer wieder einen Rückfall auf ein weniger leistungsfähiges Modell auslösen. Am Freitag hat Anthropic dann unerwartet den Zugriff auf Fable 5 und Mythos 5 gesperrt – für alle Nutzerinnen und Nutzer weltweit. Verantwortlich war Berichten zufolge primär ein Bericht des Amazon-CEOs Andy Jassy über einen mutmaßlichen Jailbreak. Auf diesen Bericht bezieht sich Moussouris. Angeblich gibt es aber auch Hinweise darauf, dass eine Gruppe mit Verbindungen zur chinesischen Regierung Zugriff auf das mächtige KI-Modell Mythos hatte.

Schwierige Kommunikation mit der US-Regierung

Die Financial Times berichtet inzwischen noch, dass Anthropic lediglich 90 Minuten Zeit gegeben wurde, um auf den Bericht zu dem angeblichen Jailbreak zu reagieren. Inzwischen habe das KI-Unternehmen versichert, dass es sich eben nicht um eine Methode handelt, die auf die eigenen KI-Modelle beschränkt sei. Die würden beispielsweise auch bei jenen von OpenAI funktionieren. Das passt zu den Erklärungen von Moussouris. Das US-Magazin Axios berichtet derweil, dass in der US-Regierung der Eindruck vorherrscht, von Anthropic betrogen worden zu sein. Es sei so, als würden beide Parteien unterschiedliche Sprachen sprechen, erklärt demnach eine anonyme Person die Verständnisschwierigkeiten.

(mho)