Datenschutz & Sicherheit
Black Hat USA: Konferenz thematisiert KI-Herausforderungen und Schwachstellen
Anfang August 2025 wurde das Mandala Bay Hotel in Las Vegas zum Treffpunkt der internationalen Security-Community. Im Rahmen der alljährlich stattfindenden Black-Hat-Konferenz kamen rund 20.000 Teilnehmer zusammen, um aktuelle Schwachstellen, spannende Security-Innovationen und künftige Cyberbedrohungen zu diskutieren. Unser Artikel stellt einige der diesjährigen Highlights vor und unternimmt zusätzlich einen Abstecher zu den auf der DEF CON verliehenen Pwnie Awards.
Lukrative Ransomware-Pakete
Malware und die Motivation ihrer Programmierer haben sich sehr gewandelt. Seien in den Anfängen vor allem Teenager am Werk gewesen, die einfach Spaß haben wollten, rückten ab etwa 2003 finanzielle Absichten in den Fokus, schilderte der finnische Computersicherheitsexperte Mikko Hypponen zum Auftakt der 28. Black Hat USA. Heute werde die Schadcode-Landschaft von Kriminellen dominiert, die ihre lukrativen Geschäfte immer rücksichtsloser abwickelten und sich laufend weiter professionalisierten.
Um das zu unterstreichen, zeigte Hypponen in seiner Keynote eine Art Werbespot der Ransomware-as-a-Service-Gang Global – mit durchdachtem Corporate Design und Einblicken in das schicke Nutzerinterface des Erpresserwerkzeugs. Ein spezielles Feature des Rundum-Sorglos-Erpresserpakets: ein KI-Assistent, der die Lösegeldverhandlungen übernimmt, damit Angreifer sich besser auf neue Opfer konzentrieren können.
Rückblick auf eine Welt überschaubarer Bedrohungen: Rund 150 Computerviren – einen Virus pro Diskette – sammelte und analysierte der IT-Security-Experte Mikko Hypponen zu Beginn seiner Karriere.
(Bild: Screenshot/blackhat.com)
Künstliche Intelligenz findet Schwachstellen
Hypponen sieht künstliche Intelligenz als Herausforderung und Chance zugleich – sowohl für Angreifer als auch für IT-Verteidiger. Während erstere jedoch (wenigstens im Schadcode-Bereich) gerade erst mit der Nutzung begönnen, seien KI-gestützte Sicherheitskonzepte bereits fester Bestandteil des Repertoires letzterer.
Wie man große KI-Sprachmodelle (Large Language Models, LLM) effizient zur Schwachstellensuche einsetzen kann, erläuterte Brendan Dolan-Gavitt, Sicherheitsforscher von XBOW. Um Fehlalarme zu vermeiden, etwa weil ein LLM eine nicht wirklich vorhandene Sicherheitslücke halluziniert hat, nutzt Dolan-Gavitts Team spezielle, nicht KI-basierte Validierungsmechanismen. Die bestehen aus eindeutigen UUID-Strings (Universally Unique Identifier), die die Forscher etwa in Programmcode oder auch in SQL-Tabellen von Datenbanken platzieren – in Bereichen, die für Angreifer unzugänglich sein sollten.
Mit der KI spielt XBOW dann eine Art Capture-the-Flag-Spiel: Ist sie in der Lage, den String einzusammeln, ist sie definitiv durch eine Sicherheitslücke geschlüpft. Auf Basis dieser Strategie will das Team beim Testen tausender Webanwendungen auf der Plattform Docker Hub insgesamt 174 echte Schwachstellen gefunden und gemeldet haben; 22 CVE-Nummern (Common Vulnerabilities and Exposures) wurden bereits zugewiesen. Überdies existiere noch ein Rückstau von rund 650 weiteren Lücken, deren Meldung oft an fehlenden Möglichkeiten zur Kontaktaufnahme scheiterte.
Datenschutz & Sicherheit
Unionsfraktion jetzt gegen Chatkontrolle, Innenministerium will sich nicht äußern
Die Unionsfraktion im Bundestag stellt sich gegen eine anlasslose Überwachung von Chats und damit gegen die Chatkontrolle, die am 14. Oktober im EU-Rat abgestimmt werden soll.
Bei einer Pressekonferenz am Dienstagnachmittag sagte der Fraktionsvorsitzende der Union, Jens Spahn: „Wir als CDU/CSU-Bundestagsfraktion sind gegen die anlasslose Kontrolle von Chats. Das wäre so, als würde man vorsorglich mal alle Briefe öffnen und schauen, ob da etwas Verbotenes drin ist. Das geht nicht, das wird es mit uns nicht geben.“
Gleichzeitig sei klar, dass Kindesmissbrauch bekämpft und geahndet können werden müsse. Deswegen sei es auch grundsätzlich gut, dass die Europäische Union sich dieses Themas annehme. „Am Ende muss gelingen, dass die Verordnung, die geplant ist auf europäischer Ebene, Kinder wirksam schützt, ohne dabei die Sicherheit und die Vertraulichkeit individueller Kommunikation zu gefährden“, so Spahn weiter.
„Abstimmung noch nicht abgeschlossen“
Was das für die bis morgen erwartete Einigung der Bundesregierung bedeutet, ist noch unklar. Ein Sprecher des Bundesinnenministeriums sagte gegenüber netzpolitik.org, die Abstimmung innerhalb der Bundesregierung über eine Positionierung zum aktuellen Verordnungsentwurf sei noch nicht abgeschlossen. Zu laufenden Abstimmungen äußere sich das Ministerium grundsätzlich nicht. Das Bundesjustizministerium antwortete nicht auf eine Presseanfrage von netzpolitik.org zum Thema.
Elina Eickstädt, Sprecherin des CCC und Teil des Bündnisses „Chatkontrolle stoppen“ warnt allerdings: „Auch wenn Jens Spahn sich gegen die Chatkontrolle ausspricht, entscheiden letztendlich BMI und BMJ über die Positionierung der Bundesregierung.“ Entscheidend sei nicht nur das der dänische Vorschlag am 14. Oktober abgelehnt werde, sondern auch, dass sich die Bundesregierung generell gegen Client-Side-Scanning positioniere.
Wir sind ein spendenfinanziertes Medium
Unterstütze auch Du unsere Arbeit mit einer Spende.
Union bekommt viele Zuschriften zur Chatkontrolle
Das Thema Chatkontrolle hat in den letzten Tagen hohe Wellen geschlagen und ist seit letzter Woche ein politischer Dauerbrenner in sozialen Medien, der viele Menschen mobilisiert hat. Jens Spahn bestätigte in der Pressekonferenz auch, dass die Unionsfraktion viele Zuschriften zum Thema erreichen würden. Auch der bayerische Digitalminister Fabian Mehring (Freie Wähler) sowie der CSU-Europaageordnete Christian Doleschal sprachen sich nun gegen die Chatkontrolle aus.
Zahlreiche zivilgesellschaftliche Organisationen haben sich in den letzten Tagen mit Nachdruck gegen die Chatkontrolle positioniert, darunter Amnesty International, Reporter ohne Grenzen, der Deutsche Kinderschutzbund, aber auch Wirtschaftsverbände wie eco und Bitkom sowie europäische Digital-Unternehmen. Auch Messenger wie Signal, Threema und WhatsApp sind gegen die Chatkontrolle.
Seit Jahren reden sich Hunderte von IT-Expertinnen und Sicherheitsforschern, Juristinnen, Datenschützern, Digitalorganisationen, Tech-Unternehmen, Messengern, UN-Vertretern, Kinderschützern, Wächterinnen der Internetstandards und Wissenschaftlerinnen weltweit den Mund gegen die Chatkontrolle fusselig. Eine unglaubliche Breite der Zivilgesellschaft lehnt die Chatkontrolle ab, weil sie die größte und gefährlichste Überwachungsmaschine Europas werden würde.
Zivilgesellschaft mobilisiert gegen Chatkontrolle
Das Bündnis „Chatkontrolle stoppen“ ruft derzeit dazu auf, für die Abstimmung relevante Personen und Organisationen zu kontaktieren. Das sind vor allem die an der deutschen Positionsfindung beteiligten Bundesministerien sowie die Fraktionen und Abgeordneten der Regierungsparteien im Bundestag. Am besten wirken direkte E-Mails und Telefonanrufe oder auch rechtzeitig ankommende Briefe. Auf der Website des Bündnisses gibt es Tipps und Adressen, um selbst aktiv zu werden.
Gleichzeitig hat das Bündnis eine Last-Minute-Petition gestartet, in der es die Bundesregierung auffordert, sich im EU-Rat gegen die Chatkontrolle zu stellen.
Datenschutz & Sicherheit
Spahn: „Anlasslose Chatkontrolle wird es mit uns nicht geben“
In die Debatte um die Chatkontrolle kommt kurz vor der entscheidenden EU-Ratssitzung Bewegung. Am Dienstagnachmittag erteilte Unionsfraktionschef Jens Spahn (CDU) der umstrittenen Maßnahme eine Absage. „Wir als CDU/CSU-Bundestagsfraktion sind gegen die anlasslose Kontrolle von Chats“, sagte Spahn am Nachmittag vor Journalisten in Berlin. Wie heise online aus Fraktionskreisen erfuhr, soll die Chatkontrolle vorerst nicht im Rat zur Abstimmung kommen.
„Das wäre so, als würde man vorsorglich mal alle Briefe öffnen und schauen, ob da etwas Verbotenes drin ist“, so Spahn. „Das geht nicht, das wird es mit uns nicht geben.“ Zugleich sei aber klar, dass Kindesmissbrauch bekämpft werden können müsse, betonte der Fraktionschef, und lobte die EU-Initiative. Eine Verordnung müsse Kinder wirksam schützen, „ohne dabei die Sicherheit und Vertraulichkeit individueller Kommunikation zu gefährden“.
Anlass oder nicht
Knackpunkt ist das Wort „anlasslos“. Die Union erteilt damit einer generellen Massenüberwachung eine Absage. Doch auch für eine anlassbezogene Überwachung von verschlüsselten Chats müsste die Technik massiv geschwächt werden, um Dritten Zugang zu den Inhalten zu ermöglichen. Damit wäre die Ende-zu-Ende-Verschlüsselung zwischen den Clients gebrochen.
Der erneute Vorstoß für eine Chatkontrolle wird von der dänischen Ratspräsidentschaft unter dem Banner der Bekämpfung des Kindesmissbrauchs geführt. Das EU-Parlament ist entschieden dagegen, das Grundrecht auf vor staatlichem Zugriff geschützte Kommunikation drastisch einzuschränken. Der EU-Rat der Mitgliedsstaaten sollte ursprünglich in der kommenden Woche darüber abstimmen.
Im Rat hatte bisher eine Minderheit mit Deutschland, Polen, Österreich und den Niederlanden eine Entscheidung verhindert. Sollte einer von den vier umfallen, wäre die Sperrminorität dahin.
In der Bundesregierung hat sich Innenminister Alexander Dobrindt (CSU) bisher offen für den Vorstoß der Dänen gezeigt. Die SPD lehnt die Chatkontrolle weiterhin und begrüßte die Äußerungen Spahns. Es sei gut, dass sich die Union den Bedenken anschließe, sagte SPD-Fraktionsvize Sonja Eichwede. „Der Schutz von Kindern ist zentral, aber verdachtslose Überwachung privater Kommunikation ist der falsche Weg.“
Fraktion hat Redebedarf
Bereits im Laufe des Tages hatte sich abgezeichnet, dass es offenbar noch Redebedarf gibt. Zwar hatten sich Dobrindts Innenministerium und das Justizministerium von Stefanie Hubig (SPD) im Grundsatz auf eine Abstimmungsposition verständigt. Doch dann musste die Bundesregierung feststellen, dass auch die sie tragenden Bundestagsfraktionen eigene Sichtweisen haben.
So kam scharfe Kritik daran auf, dass die neue Koalition die Fragen im Zusammenhang mit der geplanten Verordnung bislang nicht ausreichend diskutieren konnte. Nachdem die Verordnung nun bereits drei Jahre diskutiert werde, gebe es keinen Grund, nun binnen weniger Stunden eine deutsche Positionierung ohne gründliche Beteiligung mit den Abgeordneten im Bundestag durchzudrücken, heißt es aus Fraktionskreisen.
Gegen die EU-Pläne formiert sich breiter Widerstand. Die Betreiber des Messengers Signal haben angekündigt, ihren Dienst in der EU einzustellen, sollte die Politik die Verschlüsselung unterwandern. Auch andere Messengerdienste haben das Vorhaben kritisiert. Scharfe Kritik äußerten auch IT-Verbände, Bürgerrechtsorganisationen und Medienverbände.
(vbr)
Datenschutz & Sicherheit
Die Woche, in der wir alle etwas gegen die Chatkontrolle tun
Liebe Leser:innen,
in den nächsten Tagen wird die Bundesregierung vermutlich beschließen, was ihre Position zur gefährlichen EU-Chatkontrolle ist. Derzeit sieht es so aus, als würde sie sich entgegen aller Stimmen der Vernunft und gegen die Grundrechte für diese neue Form der Massenüberwachung entscheiden. Damit würde der Weg frei zu einer Einigung auf die Chatkontrolle in der Sitzung des EU-Rats am 14. Oktober.
Doch noch ist es nicht zu spät, denn die Verhandlungen laufen in den Ministerien noch. Das Bündnis „Chatkontrolle stoppen“ ruft deswegen zum Protest per Anruf, Mail und Brief auf – um an den entscheidenden Stellen vielleicht doch noch etwas zu bewegen. Hier findet ihr die Anleitung des Bündnisses. Macht mit! Schreibt freundlich und bestimmt, was ihr von dem größten Überwachungsprojekt in der Geschichte der EU haltet.
Auf netzpolitik.org begleiten wir das Thema jetzt noch engmaschiger als sonst – ihr findet hier alle wichtigen Infos, Details und Updates.
Und verdammt nochmal. Ich bin so richtig sauer darüber, dass diese Bundesregierung so beratungsresistent ist.
Wenn dir Amnesty International, der CCC, Reporter ohne Grenzen, Juristenverbände, Wissenschaftler:innen aus der ganzen Welt ebenso wie Kinderschutzorganisationen, Fußballfans und UN-Beauftragte unisono zurufen „Macht das nicht! Das zerstört die private Kommunikation, das schadet der Pressefreiheit, das ist gefährlich für die Demokratie – und macht zu allem Überfluss noch die IT unsicher“, dann muss man doch aufhorchen. Das sind relevante Teile einer aufmerksamen, demokratischen Zivilgesellschaft, die da laut und deutlich warnen. Und zwar seit Jahren.
Wenn du dann aber mit deinem Überwachungstunnelblick einfach wegschaust, weil ja Überwachung immer gegen alles hilft und die autoritäre Schiene gerade angesagt ist, dann ist das einfach nur unverantwortlich, töricht und gegen eherne Verfassungsgrundsätze und die Menschenrechte gerichtet. Wie kann man nur sehenden Auges so eine gefährliche und unnötige Überwachungsinfrastruktur aufbauen wollen? Es ist nicht zu fassen.
Deswegen: Lasst uns versuchen, dieses Ding zu stoppen.
Viel Spaß beim Anrufen, Mails- und Briefeschreiben wünscht euch
Markus Reuter
Wir sind ein spendenfinanziertes Medium
Unterstütze auch Du unsere Arbeit mit einer Spende.
-
UX/UI & Webdesignvor 2 Monaten
Der ultimative Guide für eine unvergessliche Customer Experience
-
UX/UI & Webdesignvor 1 Monat
Adobe Firefly Boards › PAGE online
-
Social Mediavor 2 Monaten
Relatable, relevant, viral? Wer heute auf Social Media zum Vorbild wird – und warum das für Marken (k)eine gute Nachricht ist
-
Entwicklung & Codevor 2 Monaten
Posit stellt Positron vor: Neue IDE für Data Science mit Python und R
-
Entwicklung & Codevor 1 Monat
EventSourcingDB 1.1 bietet flexiblere Konsistenzsteuerung und signierte Events
-
UX/UI & Webdesignvor 3 Wochen
Fake It Untlil You Make It? Trifft diese Kampagne den Nerv der Zeit? › PAGE online
-
Apps & Mobile Entwicklungvor 3 Monaten
Firefox-Update 141.0: KI-gestützte Tab‑Gruppen und Einheitenumrechner kommen
-
Online Marketing & SEOvor 2 Monaten
So baut Googles NotebookLM aus deinen Notizen KI‑Diashows