Connect with us

Datenschutz & Sicherheit

KI-Ära: Laut Verizon mehr Angriffe über Lücken als mit gestohlenen Zugangsdaten


Schon vor Anthropics angeblich besonders leistungsfähigem KI-Modell Claude Mythos Preview wurden für Cyberangriffe erstmals seit 19 Jahren häufiger Softwarelücken ausgenutzt als gestohlene Zugangsdaten. Das hat zumindest der US-Provider Verizon anhand von Daten aus dem Jahr 2025 für seinen jüngsten Data Breach Investigations Report (DBIR) ermittelt, der jetzt veröffentlicht wurde. Schon im Vorjahr habe bei fast einem Drittel aller Cyberangriffe eine Sicherheitslücke am Anfang gestanden, auch dank der Hilfe von KI-Technik. Hätten Softwarehersteller bislang oft Monate gehabt, um Lücken zu schließen und Angriffe zu verhindern, stünden dafür in der jetzigen KI-Welt nur noch Stunden zur Verfügung, heißt es dort weiter.

Weiterlesen nach der Anzeige

Insgesamt sieht man bei Verizons Sicherheitsteam einen fundamentalen Wandel in der Cybersecurity und das auch schon 2025, neuere Daten wurden für den Report noch gar nicht ausgewertet. Im Vorjahr habe KI-Technik vor allem dafür gesorgt, dass Kriminelle ihre erprobten Techniken automatisieren und skalieren konnten, fassen die Verantwortlichen zusammen. In der Verteidigung habe man da noch Schritt halten können, wenn man das genauso getan hätte: „Doch wer weiß? Angesichts der rasanten Entwicklung der KI-Fähigkeiten könnte diese Einschätzung bereits überholt sein, wenn dieser Bericht schließlich veröffentlicht wird“, heißt es da noch, sicher hauptsächlich mit Blick auf Anthropics neue Technik.

Anthropic hat Mythos Anfang April vorgestellt und dazu erklärt, dass das Modell so gefährlich sei, dass es nur Firmen zur Verfügung gestellt wird, die an IT-Sicherheit arbeiten. Das KI-Modell habe schon tausende hochriskante Zero-Day-Lücken identifiziert, hieß es damals. Gleichzeitig sei die KI-Technik deutlich häufiger in der Lage, einen funktionierenden Exploit für solche Lücken zu entwickeln, teilweise würden dafür sogar mehrere in Verbindung miteinander ausgenutzt. Deshalb hätten nur Firmen Zugriff darauf bekommen, die das Werkzeug nutzen können, um die IT-Sicherheit zu verbessern. Seitdem steigt die Zahl von identifizierten und geschlossenen Lücken beispielsweise in Browsern wie Firefox rapide an. Damit verbunden ist das Versprechen, dass sich alle Lücken so finden lassen. Allerdings gibt es auch Fälle, in denen die KI nicht so erfolgreich ist.

In Verizons Data Breach Investigations Report wird jetzt vor weiteren Entwicklungen gewarnt, die alle mehr oder weniger mit der raschen Weiterentwicklung der KI-Technik verbunden sind. So würden Kriminelle stärker auf Social Engineering über Mobilgeräte setzen, also versuchen, Menschen über Textnachrichten oder Anrufe Geld aus der Tasche zu ziehen. Die Erfolgsrate sei hier um 40 Prozent höher als bei traditionellem Phishing. Gewarnt wird zudem vor den Gefahren von Schatten-KI, also nicht von Arbeitgebern freigegebenen KI-Werkzeugen am Arbeitsplatz. Zudem hätten Angriffe auf Lieferketten massiv zugenommen. Der gesamte Bericht ist über 120 Seiten lang und kann online eingesehen werden.


(mho)



Source link

Datenschutz & Sicherheit

Discord: Ende-zu-Ende-Verschlüsselung als Standard, aber nur für Anrufe


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Discord aktiviert ab jetzt standardmäßig eine Ende-zu-Ende-Verschlüsselung (E2EE). Allerdings nur für normale Ton- sowie für Video-Anrufe. Textnachrichten bleiben weiterhin Klartext.

Weiterlesen nach der Anzeige

Das hat der Vizepräsident Core Technology von Discord Mark Smith jetzt in einem Blogbeitrag angekündigt. Erste Experimente hätten im August 2023 begonnen, sie mündeten in einem Protokoll für die E2EE von Ton- und Video-Anrufen namens „DAVE“. Es ist quelloffen. Im vergangenen Jahr haben die Entwickler DAVE für diverse Plattformen angepasst und ausgeweitet. Die Entwicklung haben sie im März dieses Jahres abgeschlossen.

Die Ende-zu-Ende-Verschlüsselung ist seitdem für Anrufe standardmäßig aktiv, Nutzerinnen und Nutzer müssen dafür nichts tun. Zuvor war zumindest eine manuelle Aktivierung möglich, auf Plattformen, die bereits unterstützt wurden. Die Discord-Entwickler weisen auf die Schwierigkeiten hin, die bei der Entwicklung zu berücksichtigen waren. Diverse Betriebssysteme und Architekturen müssen unterstützt werden: Smartphones, Spielekonsolen wie Playstation und Xbox, Webbrowser – alle können gleichzeitig in einem Call aktiv sein und müssen die Verschlüsselung anwenden können. Das ist nun gelungen, und das Design sowie die Implementierung von DAVE hat Discord zudem von externen Experten auditieren lassen.

Discord ist sich klar, dass nun die Frage nach E2EE für Textnachrichten aufkommt. Dafür gibt es keine Pläne, verkündet Mark Smith. Viele der Funktionen in Discord wurden unter der Annahme entwickelt, dass Text nicht Ende-zu-Ende-verschlüsselt ist. Diese neu mit Verschlüsselung zu entwickeln, wäre eine anspruchsvolle technische Herausforderung. Allerdings will Discord den Privatsphärenschutz für Nutzerinnen und Nutzer weiter stärken, das sei ein andauerndes und kein einmaliges Projekt.

Grundsätzlich ist aus Datenschutzperspektive die Einführung von E2EE immer zu begrüßen. Dass aber ausgerechnet Textnachrichten nicht endgeräteseitig ent- und verschlüsselt werden, ist mindestens enttäuschend. Klartext-Textnachrichten sind jedoch nicht nur bei Discord Normalität. Instagram hat Anfang des Monats den Privatsphärenschutz durch E2EE für Direktnachrichten abgeschaltet. Begründung: Da Nutzerinnen und Nutzer die Verschlüsselung manuell aktivieren mussten, wurde sie kaum genutzt.


(dmk)



Source link

Weiterlesen

Datenschutz & Sicherheit

Sieg für Transparenz: Auswärtiges Amt muss Baerbock-SMS herausgeben


Das Auswärtige Amt muss Kurznachrichten der früheren Bundesaußenministerin Annalena Baerbock offenlegen, mit denen die Grüne bei anderen Staaten um Zustimmung zu einer UN-Resolution warb. Das hat das Verwaltungsgericht Berlin nach einer Klage der Transparenzplattform „Frag den Staat“ entschieden (Az.: VG 2 K 3/24).

Weiterlesen nach der Anzeige

Das Gericht stellt in seiner Entscheidung klar, dass dienstliche SMS als amtliche Informationen einzustufen sind, wenn sie eine objektive Aktenrelevanz besitzen.

Das Urteil markiert einen Meilenstein für das Aktenzugangsrecht in Deutschland: Erstmals verpflichteten die Richter eine Bundesbehörde zur direkten Herausgabe von Smartphone-Nachrichten nach dem Informationsfreiheitsgesetz (IFG) des Bundes.

Das Auswärtige Amt hatte den Antrag von „Frag den Staat“ 2023 zunächst mit der Begründung abgelehnt, dass Mobilfunkdaten generell nicht „veraktungswürdig“ seien. Relevante Inhalte würden ohnehin in separaten Vermerken erfasst.

Die Berliner Richter widersprachen dem: Gerade dem genauen Wortlaut der Nachrichten komme im diplomatischen Kontext ein erheblicher Informationswert zu. Deshalb reiche eine Zusammenfassung in Nebenakten nicht aus.

Das Verwaltungsgericht gestand dem Außenministerium nur minimale redaktionelle Einschränkungen zu: Zum Schutz der internationalen Beziehungen dürfen die Namen der Adressaten aus Senegal, Äthiopien, Nigeria und Brasilien sowie die länderspezifisch angepassten Bezeichnungen für den russischen Angriffskrieg geschwärzt werden.

Weiterlesen nach der Anzeige

In der Verwaltungspraxis scheiterten Anträge auf Informationszugang bisher fast ausnahmslos daran, dass SMS gelöscht oder verschwiegen wurden, wie die Informationsfreiheitsbeauftragten von Bund und Ländern schon lange beklagen. Ministerien und Behörden zogen sich gern darauf zurück, dass Kurznachrichten für die Dienstkommunikation ohnehin untersagt sei. Daher dürften solche Daten gar nicht vorhanden sein.

Im aktuellen Fall war das Bestreiten der Existenz aber unmöglich, da Medien bereits über die konkreten Nachrichten berichtet hatten. Das Auswärtige Amt musste im Verfahren schließlich einräumen, dass der SMS-Versand hier nach einer internen Risikoabwägung offiziell genehmigt worden sei.

Die amtliche Kommunikation via Messenger stellt generell keine Ausnahme mehr im politischen Alltag dar. Gerade auf den Leitungsebenen von Ministerien sind direkte digitale Absprachen verbreitet, die am klassischen System der Aktenführung vorbeigehen.

Da es an verbindlichen rechtlichen Vorgaben zur systematischen Erfassung und Archivierung digitaler Verläufe fehlt, fordern Transparenzinitiativen seit Jahren eine Reform. Denn solange Kurznachrichten informell bleiben, ist ihre Existenz für Außenstehende kaum belegbar.

Vorherige Klagen von „Frag den Staat“ etwa wegen WhatsApp-Protokollen von Ex-Verkehrsminister Andreas Scheuer, SMS-Verläufen von Angela Merkel oder Nachrichten des einstigen Außenministers Heiko Maas zum Truppenabzug aus Afghanistan scheiterten regelmäßig daran, dass die Daten bereits gelöscht waren oder die Gerichte den behördlichen Verweisen auf restriktive interne Nutzungsverbote und einen inoffiziellen Kommunikationscharakter folgten.

Dass eine Trendwende einsetzt, zeigte sich kürzlich im Verfahren um das Bundesbildungsministerium unter Bettina Stark-Watzinger und den von ihr genutzten Dienst Wire. Hier konnten die Aktivisten einen vorläufigen Löschstopp im Eilverfahren erwirken.


(vbr)



Source link

Weiterlesen

Datenschutz & Sicherheit

„Wettlauf nach unten“: Karen Hao kritisiert europäischen KI-Kurs


Die Journalistin Karen Hao ist mit ihrem 2025 erschienenen Buch „Empire of AI“ zu einer der prominentesten Kritiker:innen großer Tech-Konzerne und ihrer KI-Imperien geworden. Bei ihrer Eröffnungsrede auf der re:publica in Berlin nahm Hao am Montag aber nicht nur Unternehmen wie OpenAI, Google oder Microsoft ins Visier, sondern wusch auch der europäischen Politik den Kopf.

Haos wichtigste Botschaft: Die EU müsse aufhören, in der KI-Politik den USA hinterherzulaufen. Dort hätten das Silicon Valley und das Weiße Haus das mächtigste Bündnis seit dem britischen Empire und der East India Company gebildet. Wenn Europa versuche, deren Modell zu kopieren und dafür mühsam errungene Standards wie den Datenschutz aufzuweichen, zementiere man nur die Macht der neuen Imperien.

Wachstum um jeden Preis

Die Probleme mit der Lieferkette von KI, die Hao pointiert vorträgt, sind zumindest für netzpolitik.org-Leser:innen nicht neu: Rechenzentren und hochleistungsfähige Computerchips lassen den Strom‑, Wasser- und Ressourcenverbrauch massiv ansteigen. Gefüttert werden die großen Modelle mit Petabytes an Daten, die ohne Einverständnis der Urheber:innen oder Betroffenen abgegriffen wurden. Gesäubert, sortiert und gelabelt wird der Input von ausgebeuteten Datenarbeiter:innen.

Hao hat all diese Probleme aus der Nähe untersucht. Sie hat mit Datenarbeiter:innen in Kenia und den USA gesprochen, Proteste gegen Rechenzentren in Chile und Spanien dokumentiert sowie einmalige Einblicke hinter die Kulissen von Open AI erhalten. Als Ursache hinter den Problemen macht sie einen Ansatz großer Tech-Konzerne aus, den sie „Scale At All Costs“ nennt, also: Wachstum um jeden Preis.

Statt Probleme zu lösen, würden KI-Konzerne nur ein Rezept kennen: mehr von allem. Mehr Daten. Mehr Rechenkapazität. Mehr Nutzer:innen. Dafür würden sie alles in Kauf nehmen. Die von Big Tech verursachten CO2-Emmissionen seien seit 2020 um 150 Prozent gestiegen – also seit dem Jahr, in dem sie sich vorgenommen hatten, ihre Emissionen bis 2030 auf Null zu bringen.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Fahrräder statt Raketen

Statt diesen Ansatz zu kopieren, wie es derzeit geschehe, müsse Europa sich von den KI-Imperien lösen, sie zerschlagen und Alternativen aufbauen. Als solche nennt Hao kleinere, auf die Lösung bestimmter Probleme spezialisierte KI-Modelle, die im Gegensatz zu den großen General-Purpose-Modellen der Tech-Konzerne deutlich weniger Rechenkapazität benötigten.

Letztere vergleicht Hao mit Raketen. Sie seien zwar für einige wenige Zwecke gut geeignet, jedoch vollkommen überdimensioniert, um beispielsweise Verkehrsprobleme moderner Gesellschaften zu lösen. „Wenn jeder mit der Rakete von München nach Berlin reisen will, haben wir ein Problem“, so Hao. So wie Raketen ungeeignet seien, Transportprobleme zu lösen, sei General Purpose AI nicht die Lösung für die meisten digitalen Probleme.

„Baut lieber Fahrräder als Raketen“, lautet Haos Empfehlung. Als Beispiele für kleinere KI-Anwendungen nennt die Autorin das ursprünglich von Deep Mind entwickelte KI-Modell AlphaFold zur Analyse von Proteinstrukturen in der Molekularforschung. Für solche Modelle brauche man keine Supercomputer und keine Datenarbeit.

Gleiches gelte für spezialisierte KI-Tools zur Bekämpfung der Klimakrise, etwa bei der Vorhersage von Extremwetter, zur Optimierung von Lieferketten oder zur Erhöhung der Energieeffizienz von Gebäuden. Auch Open-Source-Modelle und die Eurostack-Initiative könnten kurz- und mittelfristig helfen, aus der Abhängigkeit von Big Tech zu kommen.

Wir sind ein spendenfinanziertes Medium.

Unterstütze auch Du unsere Arbeit mit einer Spende.

„Stop Scaling!“

„Wir liegen im Wettrennen um KI so weit zurück“, diesen Satz höre sie häufig von Europäer:innen, so die Journalistin. Die Frage sei jedoch: Wie definiert man dieses Rennen, in dem Europa sich angeblich befindet? „Geht es darum, immer nur noch größere Raketen zu bauen? Dann ist das ein Wettlauf nach unten.“

Karen Haos klare Botschaft an Europa: „Stop Scaling!“ Die EU allerdings scheine dem US-Modell folgen zu wollen, so Hao. Wenn die EU etwa im Rahmen des digitalen Omnibus-Gesetzespakets die Datenschutzregeln zurückstutzen wolle, um die Nutzung personenbezogener Daten für KI zu erleichtern. Oder wenn sie einen massiven Ausbau der Rechenzentrumsinfrastruktur plane.

Dieser Weg werde nur zur Vertiefung der Abhängigkeiten von den USA führen. Ganz direkt, indem dafür große Mengen KI-Chips der Firma Nvidia angeschafft werden müssten. Aber auch indirekt, weil auch die Rechenzentrums-Infrastruktur nicht ohne Big Tech auskomme. Auch die Investments in eine europäische KI-Alternative wie Mistral hätten nicht zu mehr Unabhängigkeit geführt, schließlich sei das französische Unternehmen eine Partnerschaft mit Microsoft eingegangen.

Stattdessen müsse Europa das Wissensmonopol der KI-Imperien aufbrechen. Zum einen, indem es massiv in unabhängige KI-Forschung investiere. Zum anderen, indem es die Branche zu mehr Transparenz zwinge. Nur durch Regulierung könnten die US-Konzerne dazu gebracht werden, offenzulegen, wie viel Strom, Wasser und andere Ressourcen ihre KI-Modelle und Rechenzentren verbrauchen. Dass Microsoft und Lobby-Gruppen EU-Richtlinien beeinflusst hätten, die Transparenz in diesem Bereich verhindern, sei ein fatales Zeichen.

Dabei sei eine Abkehr Europas von den KI-Imperien auch geopolitisch geboten, schließlich hänge die US-Ökonomie und damit auch die Macht des US-Präsidenten vom Erfolg der Konzerne ab. Ein Großteil des Börsenwachstums der US-Wirtschaft gehe auf das Konto weniger KI-Unternehmen. Wenn man sie rausrechne, habe Europas Wirtschaft in den vergangenen Jahren an der Börse sogar besser performt.



Source link

Weiterlesen

Beliebt