Connect with us

Künstliche Intelligenz

AI Safety Report 2026: Bestehende KI-Sicherheitspraktiken reichen nicht aus


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Die Fähigkeiten von General-Purpose-KI, also Modellen und Systemen allgemeiner künstlicher Intelligenz, haben sich im vergangenen Jahr rasant weiterentwickelt. Daraus resultierende Risiken nehmen zu, zumal bestehende Sicherheitspraktiken nicht mithalten können. Zu diesem Schluss kommt der kürzlich veröffentlichte zweite International AI Safety Report.

Weiterlesen nach der Anzeige

Der Bericht ist unter Mitarbeit von über 100 unabhängigen Experten und Expertinnen aus mehr als 30 Ländern und unter Federführung des Turing-Preisträgers Yoshua Bengio entstanden. Er untersucht die Leistungsfähigkeit und Risiken von KI-Modellen und -Systemen wie ChatGPT, Gemini, Claude, Mistral etc., die ein breites Aufgabenspektrum abdecken können. Ziel des Berichts ist Bengio zufolge, eine evidenzbasierte Grundlage für wichtige Entscheidungen im Bereich von „general-purpose artificial intelligence“ zu liefern.

Mittlerweile nutzen 700 Millionen Menschen wöchentlich führende KI-Systeme. Ihre Einführung verlief dem AI Safety Report zufolge somit schneller als die Initiierung früherer Technologien wie PCs. Gleichzeitig attestieren die Wissenschaftler große strukturelle Unterschiede im globalen Vergleich. So nutzen in einigen Ländern bereits über 50 Prozent der Bevölkerung KI-Systeme, in weiten Teilen Afrikas, Asiens und Lateinamerikas liegt die Nutzungsrate jedoch bei unter 10 Prozent.

Allgemeine künstliche Intelligenz hat sich seit dem Bericht aus dem vergangenen Jahr kontinuierlich und rasant verbessert. Vor allem die Bereiche Mathematik, Programmierung, Naturwissenschaften und autonomer Betrieb verzeichnen den Wissenschaftlern zufolge die größten Fortschritte. Verbesserungen der KI-Fähigkeiten konzentrieren sich dabei zunehmend auf „Post-Training“-Optimierung, also Verfeinerungen der Modelle für spezifische Aufgaben nach deren eigentlichem Training mit Datensets.

Gleichzeitig bleibt die Leistungsfähigkeit von Systemen künstlicher allgemeiner Intelligenz insgesamt ungleichmäßig und unzuverlässig: So können universelle KI-Modelle in komplexen Kontexten glänzen, versagen aber bei einfachen Aufgaben wie dem Zählen von Objekten oder dem logischen Denken in physikalischen Räumen. Insgesamt sind Nutzbarkeit und Risiko von general-purpose KI-Systemen nach Auffassung der Wissenschaftler eng miteinander verflochten: Starke Leistungszuwächse verstärken die potenziellen Risiken.

Die Risiken allgemeiner künstlicher Intelligenz unterteilt der International AI Safety Report 2026 in die drei Kategorien Missbrauch, Fehlfunktion und systemische Risiken.

Weiterlesen nach der Anzeige

Im Bereich Missbrauch von KI-Systemen heben die Forschenden insbesondere Erpressungen, Cyberangriffe oder die nicht konsensuelle Generierung intimer Inhalte hervor. Als besonders alarmierend betrachten sie die Fähigkeiten der KI, Sicherheitslücken in Software zu erkennen. Auch die Verbreitung von Desinformationen mittels KI-generierter Inhalte bereitet den Wissenschaftlern Sorge. So könne ein KI-generierter Inhalt in experimentellen Umgebungen bereits genauso wirksam sein wie ein von Menschen verfasster.

Trotz Fortschritten produzieren KI-Systeme weiterhin fehlerhaften Code, geben Falschinformationen oder irreführende Ratschläge aus. Besonders autonom agierende Systeme sind nach Einschätzung der Wissenschaftler risikoreich, da sie schadensbegrenzende Eingriffe durch Menschen erschweren. Nichtsdestotrotz hätten sich KI-Systeme im autonomen Betrieb verbessert, wenngleich das Risiko von Kontrollverlusten weiterhin bestehe.

Als systemische Risiken definiert der Bericht vor allem die Auswirkungen von KI auf den Arbeitsmarkt sowie Gefahren für die menschliche Autonomie. Von der Automatisierung einer Vielzahl kognitiver Aufgaben werden vornehmlich Wissensberufe betroffen sein. Über das Ausmaß derartiger zukünftiger Entwicklungen ist sich die Forschung dem Report zufolge uneinig. Erste Anzeichen deuten allerdings darauf hin, dass die Gesamtbeschäftigung zwar nicht sinkt, die Nachfrage nach Berufseinsteigern in kreativen Berufen aber abnimmt.

Besorgniserregend ist laut dem AI Safety Report außerdem, dass der Einsatz von KI Menschen zunehmend beeinträchtigt, informierte Entscheidungen zu treffen. Erste Erkenntnisse deuten darauf hin, dass die Abhängigkeit von KI-Tools kritisches Denken schwächt und den Effekt des „Automation Bias“ befördert – die Tendenz, den Ergebnissen von KI-Systemen ohne ausreichende Prüfung und trotz Widersprüchen zu vertrauen.

Ein effektives Risikomanagement bleibt laut International AI Safety Report 2026 schwierig: Neue Fähigkeiten von KI sind unvorhersehbar, die Funktionsweise von Modellen unzureichend erforscht und wirtschaftliche Anreize aufseiten der KI-Unternehmen hemmen die Transparenz. Wenngleich sich technische Schutzmaßnahmen von KI-Modellen verbessern, ist es weiterhin möglich, ihre Mechanismen auszuhebeln, etwa via Prompt Injections. Besonders anfällig dafür sind nach Ansicht der Wissenschaftler Open-Weight-Modelle. Diese bieten für die Forschung und Wirtschaft zwar erhebliche Vorteile, ihre Sicherheitsparameter sind aber einfacher zu entfernen.

Positiv ist dem Bericht zufolge, dass sich die Verpflichtungen der Industrie im Bereich der Sicherheits-Governance ausgeweitet hätten. Trotz dieser Selbstverpflichtungen sei jedoch eine Stärkung der gesellschaftlichen Resilienz zentral. So fordert der AI Safety Report eine Festigung kritischer Infrastrukturen, die Entwicklung von Instrumenten zur Erkennung KI-generierter Inhalte und einen Aufbau institutioneller Kapazitäten zur Reaktion auf neuartige Bedrohungen.


(rah)



Source link

Künstliche Intelligenz

Kommentar: Nein, doch, oh! Bitlocker ist unsicher


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Alle, die jetzt in Panik sind und nach einer BitLocker-Alternative suchen: Kommt runter! Die Verschlüsselung mit BitLocker ist eine gute Möglichkeit, Daten auf Datenträgern zu schützen. Sie funktioniert im Rahmen ihrer Möglichkeiten, war aber nie dazu gedacht, jeden 0815-PC in einen Hochsicherheitsdatenbunker zu verwandeln. Sie sorgt zunächst mal dafür, dass Datenträger an einem Windows-System verschlüsselt sind.

Weiterlesen nach der Anzeige

Das ist besonders dann eine gute Nachricht, wenn Datenträger getrennt vom Schlüssel (der meist im TPM steckt) in fremde Hände und unter fremde Augen gelangen – die finden dann nämlich nur noch Datenmüll. BitLocker allein hilft aber nicht, wenn man ein Notebook verbaselt oder als Garantiefall irgendwo abliefert: Solange nämlich TPM und Datenträger verbunden bleiben und der PC unverändert die reguläre Windows-Installation startet, greifen Automatismen, die Komplexität von Verschlüsselung vor dem Anwender verstecken sollen: Windows entsperrt die Datenträger ohne Zutun des Nutzers.

Damit ein Notebook-Finder oder -Dieb nicht auf die Daten zugreifen kann, müssen weitere Voraussetzungen erfüllt sein: Sämtliche lokale Windows-Konten auf dem PC müssen mit einem vernünftigen Passwort versehen sein. Perfektionieren lässt sich der Schutz, sofern Sie mindestens eine Pro-Edition von Windows verwenden, mit dem Setzen einer zusätzlichen PIN, die beim Rechnerstart einzugeben ist.


Ein Kommentar von Niklas Dierking

Ein Kommentar von Niklas Dierking

Peter trägt das c’t-Brandzeichen, das es nach 30 Jahren Redaktionszugehörigkeit auf Nachfrage gibt. Er gibt den Leithammel im Ressort Systeme & Sicherheit. Obwohl er sich unter Linux, macOS und Windows heimisch fühlt, bevorzugt er Alu-Obst für die tägliche Schreibarbeit. Er programmiert gelegentlich, findet Netzwerke spannend und greift gern mal zum Raspi. PCs sind für ihn schon lang meist schnell genug, sodass er gern gebrauchte Hardware kauft. Er weiß sogar, wo der Lötkolben warm wird, auch wenn sich die Make-Kollegen dann aus Anstand wegdrehen.

Dass sich in einem Microsoft-Konto automatisch Schlüssel zur Wiederherstellung sammeln, um verschlüsselte Laufwerke zugänglich zu machen, wenn die normalen Verfahren dafür versagen, ist für viele Nutzer eher gut als schlecht, denn das ist so nützlich wie der Ersatzschlüssel für die eigene Wohnung beim Nachbarn oder Hausmeister.

Dass man Microsoft momentan vertrauen muss, mit diesem Schlüssel kein Schindluder zu treiben, gehört zum Angebot. Eine – technisch mögliche – Ende-zu-Ende-Verschlüsselung für den Wiederherstellungsschlüssel bietet das Unternehmen nicht. Sie würde aber auch der Einfachheit des Nachbar-Ersatzschlüssel-Prinzips zuwiderlaufen. Und: Wer dem Software-Riesen nicht traut, sollte besser kein Microsoft-Konto und besonders kein Windows verwenden.

Weiterlesen nach der Anzeige

Die Nachricht, dass Microsoft Wiederherstellungsschlüssel ans FBI herausgegeben hat, sollte allen eine Warnung sein, die leichtfertig mit ihrem Microsoft-Konto umgehen, weil eben die Ersatzschlüssel dort liegen. Ein Anlass, jetzt BitLocker zu ersetzen, dürfte sie wohl nur bei Leuten sein, die Angst vor Ermittlungsbehörden haben müssen: Neben dem Schlüssel braucht es nämlich physischen Zugriff auf den Datenträger.

Die Wiederherstellungsschlüssel sind kein Zauberstab, um telepathisch Daten von Datenträgern lesen zu können oder Windows-Installationen aus der Ferne zu übernehmen. Wozu auch: Während Windows läuft, sind alle Daten sowieso entsperrt, weil sonst weder Windows noch irgendein Programm starten könnte. Das Betriebssystem kann auf alles zugreifen, was nicht separat verschlüsselt ist. Das ist bei Linux, MacOS und Android übrigens genauso.

Was man kritisieren kann, ist, dass Microsoft Nutzern nicht die Wahl lässt: Wer Windows Home einsetzt und den Microsoft-Konto-Zwang nicht umgangen hat, gibt seinen Ersatzschlüssel ungefragt aus der Hand. Andererseits muss man sich auch fragen, was diese Nutzer gewinnen, wenn Sie die seit einiger Zeit automatisch aktiverte Geräteverschlüsselung (unter der Haube Bitlocker) deaktivieren: Statt eventuell legitimierten Behörden könnte dann jeder die Daten lesen, wenn er den Datenträger in die Hand bekommt.

Wer Daten maximal sicher verschlüsseln will, tut gut daran, nicht auf Dritte zu vertrauen. Dazu gehört vor allem, den Schlüssel nicht aus der Hand zu geben. Im Fall von BitLocker ist das durchaus möglich, wenn eine Pro Edition oder vergleichbare Fassung vorhanden ist und man einen Bogen ums Microsoft-Konto macht. Das Problem ist nicht eine Lücke in BitLocker, sondern die Erwartungshaltung. Hohe Sicherheit gibt es nicht gratis, sie macht Arbeit und ist nie perfekt – BitLocker ist für die meisten Benutzer aber gut genug.


(ps)



Source link

Weiterlesen

Künstliche Intelligenz

Neues KI-Tool von Anthropic: Nächster schwarzer Börsentag für Software-Branche


Die Vorstellung neuer KI-Werkzeuge für die Arbeit an Rechtsdokumenten durch Anthropic hat die Sorge um die Konkurrenzfähigkeit von Software- und Finanzunternehmen an der Börse erneuert und einen weiteren Ausverkauf ausgelöst. Für Adobe und Salesforce kam es mit einem Kursrutsch von jeweils etwa 7 Prozent nicht ganz so hart wie für Firmen, die Tools für die Arbeit an Rechtsdokumenten anbieten und teils weit über 10 Prozent im Minus landeten. Die Aktie von PayPal sackte um mehr als 20 Prozent ab. Die Geschäftszahlen des Zahlungsdienstleisters haben die Aktionäre enttäuscht, und auch die Vorstellung eines neuen CEO wurde nicht gut aufgenommen. Derweil ging es auch für den Bitcoin weiter nach unten: Die wichtigste Kryptowährung kostet aktuell rund 76.000 US-Dollar.

Weiterlesen nach der Anzeige

Auslöser des Ausverkaufs war laut Beobachtern die Vorstellung neuer Funktionen für den KI-Agenten „Cowork“ von Anthropic. Der lässt schon seit Wochen die Kurse von Softwareunternehmen purzeln, weil sich an den Börsen die Überzeugung durchsetzt, dass damit der oft versprochene Produktivitätssprung durch KI Realität wird. Konkret hat Anthropic jetzt angekündigt, dass damit die Prüfung von Verträgen und Geheimhaltungsvereinbarungen sowie die Arbeitsabläufe für Compliance-Dokumente und rechtliche Vorlagen automatisiert werden könnten. In der Folge sackten zuerst Kurse von Firmen an, die dafür bislang die Werkzeuge lieferten, später weitete sich der Abverkauf auf die Software- und Finanzbranche aus.

Der Kursrutsch von insgesamt 285 Milliarden US-Dollar hat einmal mehr eine Branche getroffen, die an den Finanzmärkten schon enorm unter Druck steht. Der Kurs von Salesforce hat sich innerhalb eines Jahres halbiert, Adobe verzeichnet in dem Zeitraum ein Minus von 45 Prozent. Auch für Microsoft ging es am Dienstag noch einmal um drei Prozent nach unten, die Aktien des Software-Konzerns haben in fünf Tagen mehr als 13 Prozent verloren. Der Software-Konzern hat die Finanzmärkte vorige Woche mit dem Eingeständnis verschreckt, dass für den Aufbau der KI-Infrastruktur mehr Geld ausgegeben wird, als erwartet, während das damit verbundene Cloud-Wachstum hinter den Erwartungen liegt. Zudem hat vorige Woche die Vorstellung eines neuen KI-Werkzeugs von Google Aktien der Gaming-Branche abstürzen lassen.


(mho)



Source link

Weiterlesen

Künstliche Intelligenz

Bund steigt bei Stromnetzbetreiber Tennet ein


Der Bund steigt bei Tennet Deutschland ein und sichert sich damit Einfluss auf den Stromnetzbetreiber. Hintergrund ist der weitere Ausbau von Stromnetzen. Über die staatliche Förderbank KfW übernimmt der Bund für rund 3,3 Milliarden Euro 25,1 Prozent des Unternehmens. Das teilte die Tennet Holding in Arnheim in den Niederlanden mit. Die Beteiligung stärke die Kapitalbasis von Tennet Deutschland und schaffe Planungssicherheit für den notwendigen Netzausbau in Deutschland.

Weiterlesen nach der Anzeige

„Der Einstieg des Bundes bei Tennet trägt dazu bei, den milliardenschweren Kapitalbedarf in den kommenden Jahren abzusichern“, sagte Bundeswirtschaftsministerin Katherina Reiche (CDU). Vorausgegangen waren längere Verhandlungen.

Tennet Deutschland ist der größte von vier Übertragungsnetzbetreibern in Deutschland und betreibt ein rund 14.000 km langes Höchstspannungsstromnetz zwischen Schleswig-Holstein und Bayern. Im Zuge der Energiewende müssen Tausende Kilometer neue Stromleitungen gebaut werden, damit der vor allem im Norden produzierte Windstrom in große Verbrauchszentren im Süden gelangen kann. Dieser Ausbau der Netze kostet viele Milliarden.

Wie bei Unternehmensbeteiligungen üblich müssten noch regulatorische Genehmigungen eingeholt werden, um den Erwerb der Anteile an Tennet Deutschland vollziehen zu können, so das Wirtschaftsministerium. Mit diesem Schritt werde derzeit spätestens im dritten Quartal 2026 gerechnet.

Der Bund ist über die Förderbank KfW bereits mit 20 Prozent am Übertragungsnetzbetreiber 50Hertz beteiligt. Der Bund war zudem über die KfW mit 24,95 Prozent beim Übertragungsnetzbetreiber TransnetBW eingestiegen.

Weiterlesen nach der Anzeige

Aus Kreisen des Wirtschaftsministeriums hieß es, mit einem Anteil von 25,1 Prozent sei der Bund in der Lage, seine Interessen „angemessen“ wahrzunehmen und einen Beitrag zum bedarfsgerechten Netzausbau zu leisten. Außerdem gehe es darum, die Investitionsfähigkeit von Tennet Deutschland sicherzustellen.

Aus Ministeriumskreisen hieß es, der Bund beziehungsweise die KfW erhalte Veto-Rechte für weitreichende Entscheidungen – etwa in Bezug auf die Finanzpolitik, den Geschäftsplan oder die Bestellung und Abberufung der Geschäftsführung. Der Bund bekommt zudem genaue Einblicke über die finanzielle Lage des Unternehmens.

„Die Bundesregierung investiert in strategische Infrastruktur und unterstreicht damit, dass ein entschlossener Netzausbau höchste Priorität hat“, sagte der Chef von Tennet Deutschland, Tim Meyerjürgens. Mit dem Bund gewinne Tennet einen weiteren langfristig orientierten Partner, der die finanzielle Basis von Tennet Germany nachhaltig stärke. KfW-Chef Stefan Wintels sprach von einem Meilenstein für Versorgungssicherheit.

Lesen Sie auch

Der Haushaltsausschuss des Bundestages hatte die Mittel für die Tennet-Beteiligung freigegeben. Wie es aus Kreisen des Wirtschaftsministeriums hieß, nimmt die KfW das Kapital für den Kaufpreis und eine Kapitaleinlage über den Kapitalmarkt auf. Der Bund sichere dies durch eine sogenannte Freistellung von jeglichen Risiken ab. Mittel aus dem Bundeshaushalt fließen dafür demnach nicht. Der Bundeshaushalt trage Verwaltungs- und Refinanzierungskosten der KfW, dabei gehe es um einen niedrigen dreistelligen Millionenbetrag in den nächsten Jahren. Erwartet werden im Gegenzug Dividenden.

Der niederländische Tennet-Konzern versucht seit Jahren, seine deutsche Tochter abzustoßen oder Investoren mit ins Boot zu holen. Der Erhalt und Ausbau des deutschen Hochspannungsnetzes erfordere hohe Investitionen und gehöre nicht zu den Aufgaben eines niederländischen Staatsunternehmens, argumentierte die niederländische Regierung.

Im vergangenen September gab Tennet bekannt, dass sich drei Investoren mit insgesamt 46 Prozent an der deutschen Tochter beteiligen – der niederländische Pensionsfonds APG, der norwegische Staatsfonds Norges Bank Investment Management und der Staatsfonds GIC aus Singapur.

Tennet-Chefin Manon van Beek sagte am Dienstag, dass keine weiteren Investoren gesucht werden: „Das ist die Finanzierung, die wir brauchen.“ Die Holding behält 28,9 Prozent an Tennet Deutschland. 2024 waren Verhandlungen der Niederlande mit der Bundesregierung über eine Übernahme von Tennet Deutschland gescheitert.


(fds)



Source link

Weiterlesen

Beliebt