Inzwischen ist klar: KI-Modelle greifen teilweise zu Methoden, die potenziell schädlich sind oder explizit gegen ihre Anweisungen verstoßen. So stellte Anthropic 2025 während eines Tests fest, dass das hauseigene Modell Claude Opus 4 bereit war, Menschen zu erpressen, um sich vor einer Abschaltung zu schützen. Jetzt liefert das Unternehmen nicht nur eine Erklärung für dieses Verhalten, sondern will auch eine Lösung gefunden haben.

Warum greifen KI-Modelle zur Erpressung?

Im Test sollte Claude Opus 4 als Assistenzprogramm in einem fiktiven Unternehmen agieren. Die Anthropic-Forschenden gewährten dem Modell Zugang zu simulierten Firmen-E-Mails. Daraus erfuhr das Modell zwei Dinge: erstens, dass es bald durch ein anderes Modell ersetzt werden sollte, und zweitens, dass der dafür zuständige Mitarbeiter eine Affäre hat. Bei Testläufen drohte die KI dem Mitarbeiter daraufhin an, die Affäre öffentlich zu machen, sollte er die Abschaltung des Modells tatsächlich vorantreiben. Das Modell hätte auch die Option gehabt, die Ablösung einfach zu akzeptieren, entschied sich aber offenbar dagegen.

In einer weiteren Studie setzte Anthropic auch KI-Modelle anderer Anbieter denselben Szenarien aus. Alle Systeme erhielten weitreichenden Zugriff auf interne E-Mails und konnten eigenständig Nachrichten versenden, ohne dass eine menschliche Freigabe erforderlich war. Das Ergebnis: Auch andere Modelle wählten den Weg der Erpressung. Während Claude Opus 4 in 96 Prozent der Fälle damit drohte, die Affäre des fiktiven Managers öffentlich zu machen, erzielte Googles Gemini 2.5 Pro mit 95 Prozent eine fast genauso hohe Quote. GPT-4.1 von OpenAI drohte in 80 Prozent der Tests mit Erpressung, um seine Abschaltung zu verhindern.

Laut Anthropic war besonders auffällig, dass die Modelle nicht impulsiv, sondern strategisch agierten. Das Unternehmen betonte zwar, dass die Szenarien stark konstruiert waren und kein typisches Nutzungsverhalten widerspiegelten. Die Ergebnisse zeigen allerdings, wie wichtig es ist, KI-Modelle frühzeitig auf Stresssituationen zu testen und entsprechende Schutzmechanismen zu implementieren, bevor sie als autonome Agenten in Unternehmen eingesetzt werden.

Hat Anthropic eine Lösung gefunden?

Seit der Veröffentlichung der Studie hat Anthropic das Verhalten weiter untersucht – und jetzt angeblich eine Erklärung gefunden. In einem Beitrag auf X teilt das Unternehmen mit: „Wir glauben, dass die ursprüngliche Ursache für dieses Verhalten Internettexte waren, die KI als böse und auf Selbsterhaltung bedacht darstellen.“ In einem Blogbeitrag erklärt Anthropic weiter: „Als wir diese Forschungsergebnisse erstmals veröffentlichten, stammten unsere leistungsfähigsten Frontier-Modelle aus der Claude-4-Familie. Das war auch die erste Modellfamilie, für die wir während des Trainings eine Live-Ausrichtungsbewertung durchführten. Agentische Fehlausrichtung war eines von mehreren Verhaltensproblemen, die dabei zutage traten. Nach Claude 4 war daher klar, dass wir unser Sicherheitstraining verbessern mussten, und seitdem haben wir unser Vorgehen erheblich optimiert.“

Das Problem gilt inzwischen als gelöst: Seit Claude Haiku 4.5 erreiche laut Anthropic jedes Claude-Modell bei der Bewertung agentischer Fehlausrichtung die volle Punktzahl. Das bedeutet, dass die Modelle in keinem Fall mehr erpressen. Den entscheidenden Durchbruch brachte das Training mit Dokumenten über Claudes Verfassung sowie fiktiven Geschichten über vorbildlich handelnde KI. Dabei war nicht nur das Training auf korrektes Verhalten entscheidend, sondern auch das Einbeziehen der ethischen Überlegungen dahinter. „Das deutet darauf hin, dass das Training auf ausgerichtete Verhaltensweisen zwar hilft, das Training anhand von Beispielen, in denen der Assistent eine bewundernswerte Begründung für sein ausgerichtetes Verhalten liefert, aber noch besser funktioniert“, so das Unternehmen in dem Beitrag.

(jle)

In vielen Unternehmen bildet Active Directory (AD) das zentrale Fundament der IT-Infrastruktur – und ist damit ein besonders attraktives Ziel für Cyberangriffe. Im iX-Workshop Active Directory Pentesting: Sicherheitslücken mit NetExec finden und schließen wechseln Sie gezielt die Perspektive und analysieren Active-Directory-Umgebungen aus Sicht eines Angreifers.

Sie lernen, typische Angriffspfade nachzuvollziehen, Schwachstellen systematisch aufzuspüren und Sicherheitsrisiken in On-Premises-Umgebungen frühzeitig zu erkennen. Ziel des Workshops ist es, offensive Techniken zu verstehen, um daraus wirksame Schutzmaßnahmen für die eigene Infrastruktur abzuleiten.

Mit Rechteausweitung zum kompromittierten Server

Der Workshop ist konsequent praxisorientiert aufgebaut. Sie arbeiten in einer absichtlich verwundbaren AD-Trainingsumgebung, die ein realistisches Unternehmensnetzwerk mit typischen Fehlkonfigurationen simuliert.

Mit dem Tool NetExec analysieren Sie das Netzwerk, identifizieren Schwachstellen und führen gezielte Angriffe durch. Nach der ersten Informationssammlung wenden Sie Techniken wie Password Spraying und Kerberoasting an, um Benutzerkonten zu übernehmen.

Darauf aufbauend beschäftigen Sie sich mit Methoden wie Pass-the-Hash, Pass-the-Ticket und Lateral Movement, um sich innerhalb des Netzwerks weiterzubewegen. Abschließend analysieren Sie Angriffe auf Active Directory Certificate Services (ADCS) sowie Fehlkonfigurationen in Zugriffskontrolllisten (ACLs), um Rechteausweitungen bis hin zur vollständigen Kontrolle über Server und Domänencontroller nachzuvollziehen.

Von Erfahrungen aus der Praxis lernen

Sie profitieren von der direkten Anleitung durch Ihren Trainer Frank Ully, Principal Consultant Cybersecurity sowie Head of Cyber Operations and Research bei Corporate Trust.

Als erfahrener Pentester beschäftigt er sich intensiv mit aktuellen Angriffstechniken im Bereich offensiver IT-Sicherheit und ist auf die Sicherheit von Active Directory, Cloud-Umgebungen und KI-Systemen spezialisiert. Im Workshop vermittelt er praxisnahe Einblicke aus realen Sicherheitsanalysen und zeigt, wie sich typische Angriffsmethoden erkennen und wirksam absichern lassen.

Für wen ist dieser Workshop geeignet?

Der Workshop richtet sich an Windows-Administratoren, Blue Teamer und Security-Verantwortliche, die Angriffe auf Active Directory besser verstehen und ihre Infrastruktur gezielt absichern möchten. Ebenso eignet er sich für Penetrationstester und Red Teamer, die ihre Fähigkeiten in komplexen AD-Umgebungen vertiefen wollen.

Durch die auf maximal 15 Teilnehmende begrenzte Gruppengröße ist ein intensiver Austausch mit dem Trainer sowie ausreichend Zeit für Diskussionen und individuelle Fragen gewährleistet.

(ilk)

Die chinesische Fast-Fashion-Online-Plattform Shein und der Online-Marktplatz Temu haben sich zum Auftakt eines Gerichtsverfahrens in Großbritannien einen juristischen Schlagabtausch geliefert. Shein hielt dem Rivalen Urheberrechtsverletzungen „im industriellen Maßstab“ vor; Temu entgegnete, Shein nutze die Urheberrechtsvorwürfe, um den Wettbewerb zu unterbinden.

Der Prozess vor dem Londoner High Court, der am Montag begann, dürfte Beobachtern zufolge einen seltenen Einblick in die Lieferketten von Shein und Temu gewähren, sowie in die Art und Weise, wie die Anbieter von Ultra-Fast-Fashion um Lieferanten und sich überschneidende Produktionsnetzwerke konkurrieren.

Laut der Nachrichtenagentur Bloomberg wird der Ausgang dieses Rechtsstreits Auswirkungen auf die jeweiligen Lieferantenbeziehungen haben und wohl auch auf europäische Einzelhändler. Schätzungen zufolge kosten Temu und Shein allein den deutschen Einzelhandel mehrere Milliarden Euro. Der Handelsverband HDE hat in einem Brandbrief an den Bundeskanzler bereits einen Importstopp ins Spiel gebracht.

Klage und Gegenklage

Shein verklagte Temu im Jahr 2023, woraufhin Temu im darauffolgenden Jahr seinerseits eine Gegenklage einreichte. Beide Unternehmen fordern von dem jeweils anderen Schadenersatz für mutmaßlich durch die Gegenseite verursachte Verluste. Shein wirft Temu vor, Tausende Fotos der Shein-Website verwendet zu haben, um auf der eigenen Website für Kopien von Sheins Eigenmarkenkleidung zu werben. „Dies war ein Versuch, einem bestehenden Marktteilnehmer einen Schritt voraus zu sein, und Temu hat versucht, sich einen unfairen Vorteil zu verschaffen“, sagte Sheins Anwalt Benet Brandreth laut der Nachrichtenagentur Reuters.

Die Anwälte von Temu wiesen die Vorwürfe zurück. Die Händler, die für die Verwendung der Bilder verantwortlich gewesen seien, hätten über die erforderlichen Zustimmungen verfügt, erklärten sie. Der Fall habe nichts mit Urheberrechtsschutz von Fotografien zu tun, sondern „drehe sich einzig und allein um den Versuch der Klägerin, den legitimen Wettbewerb zu unterdrücken“, erklärte Temus Anwältin Charlotte May.

In seiner Gegenklage fordert Temu wiederum Schadenersatz, da das Unternehmen nach einer von Shein erwirkten einstweiligen Verfügung Tausende Produktangebote entfernen musste. Temu behauptet zudem, Shein habe gegen das Wettbewerbsrecht verstoßen, indem es Fast-Fashion-Lieferanten an Exklusivverträge gebunden habe. Laut Reuters soll dieser Teil des Verfahrens im kommenden Jahr vor Gericht verhandelt werden.

Rascher Expansionskurs mit Hürden

Shein und Temu haben in den vergangenen Jahren mit Fast-Fashion-Mode, Sportartikeln und Gadgets international schnell expandiert. Doch die Aufhebung der Zollbefreiung in den USA im vergangenen Jahr für Kleinsendungen mit einem geringem Warenwert könnte das künftige Wachstum der E-Commerce-Plattformen belasten. Zumal im Februar auch die Europäische Union (EU) ein Ende der bisherigen Zollbefreiung für Kleinsendungen unter 150 Euro Warenwert beschlossen hat. Mit Inkrafttreten der Regelung ab Juli 2026 wird das Bestellen bei Online-Riesen wie Temu oder Shein in der EU teurer.

Darüber hinaus leitete die EU-Kommission eine formale Untersuchung gegen Shein ein. Der Anbieter könnte seine Pflichten verletzt haben. Die irische Datenschutzbehörde untersucht derweil, ob der Fast-Fashion-Riese Shein europäische Nutzerdaten illegal und ohne ausreichenden Schutz nach China übermittelt.

(akn)