Connect with us

Künstliche Intelligenz

AI Safety Report 2026: Bestehende KI-Sicherheitspraktiken reichen nicht aus


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Die Fähigkeiten von General-Purpose-KI, also Modellen und Systemen allgemeiner künstlicher Intelligenz, haben sich im vergangenen Jahr rasant weiterentwickelt. Daraus resultierende Risiken nehmen zu, zumal bestehende Sicherheitspraktiken nicht mithalten können. Zu diesem Schluss kommt der kürzlich veröffentlichte zweite International AI Safety Report.

Weiterlesen nach der Anzeige

Der Bericht ist unter Mitarbeit von über 100 unabhängigen Experten und Expertinnen aus mehr als 30 Ländern und unter Federführung des Turing-Preisträgers Yoshua Bengio entstanden. Er untersucht die Leistungsfähigkeit und Risiken von KI-Modellen und -Systemen wie ChatGPT, Gemini, Claude, Mistral etc., die ein breites Aufgabenspektrum abdecken können. Ziel des Berichts ist Bengio zufolge, eine evidenzbasierte Grundlage für wichtige Entscheidungen im Bereich von „general-purpose artificial intelligence“ zu liefern.

Mittlerweile nutzen 700 Millionen Menschen wöchentlich führende KI-Systeme. Ihre Einführung verlief dem AI Safety Report zufolge somit schneller als die Initiierung früherer Technologien wie PCs. Gleichzeitig attestieren die Wissenschaftler große strukturelle Unterschiede im globalen Vergleich. So nutzen in einigen Ländern bereits über 50 Prozent der Bevölkerung KI-Systeme, in weiten Teilen Afrikas, Asiens und Lateinamerikas liegt die Nutzungsrate jedoch bei unter 10 Prozent.

Allgemeine künstliche Intelligenz hat sich seit dem Bericht aus dem vergangenen Jahr kontinuierlich und rasant verbessert. Vor allem die Bereiche Mathematik, Programmierung, Naturwissenschaften und autonomer Betrieb verzeichnen den Wissenschaftlern zufolge die größten Fortschritte. Verbesserungen der KI-Fähigkeiten konzentrieren sich dabei zunehmend auf „Post-Training“-Optimierung, also Verfeinerungen der Modelle für spezifische Aufgaben nach deren eigentlichem Training mit Datensets.

Gleichzeitig bleibt die Leistungsfähigkeit von Systemen künstlicher allgemeiner Intelligenz insgesamt ungleichmäßig und unzuverlässig: So können universelle KI-Modelle in komplexen Kontexten glänzen, versagen aber bei einfachen Aufgaben wie dem Zählen von Objekten oder dem logischen Denken in physikalischen Räumen. Insgesamt sind Nutzbarkeit und Risiko von general-purpose KI-Systemen nach Auffassung der Wissenschaftler eng miteinander verflochten: Starke Leistungszuwächse verstärken die potenziellen Risiken.

Die Risiken allgemeiner künstlicher Intelligenz unterteilt der International AI Safety Report 2026 in die drei Kategorien Missbrauch, Fehlfunktion und systemische Risiken.

Weiterlesen nach der Anzeige

Im Bereich Missbrauch von KI-Systemen heben die Forschenden insbesondere Erpressungen, Cyberangriffe oder die nicht konsensuelle Generierung intimer Inhalte hervor. Als besonders alarmierend betrachten sie die Fähigkeiten der KI, Sicherheitslücken in Software zu erkennen. Auch die Verbreitung von Desinformationen mittels KI-generierter Inhalte bereitet den Wissenschaftlern Sorge. So könne ein KI-generierter Inhalt in experimentellen Umgebungen bereits genauso wirksam sein wie ein von Menschen verfasster.

Trotz Fortschritten produzieren KI-Systeme weiterhin fehlerhaften Code, geben Falschinformationen oder irreführende Ratschläge aus. Besonders autonom agierende Systeme sind nach Einschätzung der Wissenschaftler risikoreich, da sie schadensbegrenzende Eingriffe durch Menschen erschweren. Nichtsdestotrotz hätten sich KI-Systeme im autonomen Betrieb verbessert, wenngleich das Risiko von Kontrollverlusten weiterhin bestehe.

Als systemische Risiken definiert der Bericht vor allem die Auswirkungen von KI auf den Arbeitsmarkt sowie Gefahren für die menschliche Autonomie. Von der Automatisierung einer Vielzahl kognitiver Aufgaben werden vornehmlich Wissensberufe betroffen sein. Über das Ausmaß derartiger zukünftiger Entwicklungen ist sich die Forschung dem Report zufolge uneinig. Erste Anzeichen deuten allerdings darauf hin, dass die Gesamtbeschäftigung zwar nicht sinkt, die Nachfrage nach Berufseinsteigern in kreativen Berufen aber abnimmt.

Besorgniserregend ist laut dem AI Safety Report außerdem, dass der Einsatz von KI Menschen zunehmend beeinträchtigt, informierte Entscheidungen zu treffen. Erste Erkenntnisse deuten darauf hin, dass die Abhängigkeit von KI-Tools kritisches Denken schwächt und den Effekt des „Automation Bias“ befördert – die Tendenz, den Ergebnissen von KI-Systemen ohne ausreichende Prüfung und trotz Widersprüchen zu vertrauen.

Ein effektives Risikomanagement bleibt laut International AI Safety Report 2026 schwierig: Neue Fähigkeiten von KI sind unvorhersehbar, die Funktionsweise von Modellen unzureichend erforscht und wirtschaftliche Anreize aufseiten der KI-Unternehmen hemmen die Transparenz. Wenngleich sich technische Schutzmaßnahmen von KI-Modellen verbessern, ist es weiterhin möglich, ihre Mechanismen auszuhebeln, etwa via Prompt Injections. Besonders anfällig dafür sind nach Ansicht der Wissenschaftler Open-Weight-Modelle. Diese bieten für die Forschung und Wirtschaft zwar erhebliche Vorteile, ihre Sicherheitsparameter sind aber einfacher zu entfernen.

Positiv ist dem Bericht zufolge, dass sich die Verpflichtungen der Industrie im Bereich der Sicherheits-Governance ausgeweitet hätten. Trotz dieser Selbstverpflichtungen sei jedoch eine Stärkung der gesellschaftlichen Resilienz zentral. So fordert der AI Safety Report eine Festigung kritischer Infrastrukturen, die Entwicklung von Instrumenten zur Erkennung KI-generierter Inhalte und einen Aufbau institutioneller Kapazitäten zur Reaktion auf neuartige Bedrohungen.


(rah)



Source link

Künstliche Intelligenz

Bund steigt bei Stromnetzbetreiber Tennet ein


Der Bund steigt bei Tennet Deutschland ein und sichert sich damit Einfluss auf den Stromnetzbetreiber. Hintergrund ist der weitere Ausbau von Stromnetzen. Über die staatliche Förderbank KfW übernimmt der Bund für rund 3,3 Milliarden Euro 25,1 Prozent des Unternehmens. Das teilte die Tennet Holding in Arnheim in den Niederlanden mit. Die Beteiligung stärke die Kapitalbasis von Tennet Deutschland und schaffe Planungssicherheit für den notwendigen Netzausbau in Deutschland.

Weiterlesen nach der Anzeige

„Der Einstieg des Bundes bei Tennet trägt dazu bei, den milliardenschweren Kapitalbedarf in den kommenden Jahren abzusichern“, sagte Bundeswirtschaftsministerin Katherina Reiche (CDU). Vorausgegangen waren längere Verhandlungen.

Tennet Deutschland ist der größte von vier Übertragungsnetzbetreibern in Deutschland und betreibt ein rund 14.000 km langes Höchstspannungsstromnetz zwischen Schleswig-Holstein und Bayern. Im Zuge der Energiewende müssen Tausende Kilometer neue Stromleitungen gebaut werden, damit der vor allem im Norden produzierte Windstrom in große Verbrauchszentren im Süden gelangen kann. Dieser Ausbau der Netze kostet viele Milliarden.

Wie bei Unternehmensbeteiligungen üblich müssten noch regulatorische Genehmigungen eingeholt werden, um den Erwerb der Anteile an Tennet Deutschland vollziehen zu können, so das Wirtschaftsministerium. Mit diesem Schritt werde derzeit spätestens im dritten Quartal 2026 gerechnet.

Der Bund ist über die Förderbank KfW bereits mit 20 Prozent am Übertragungsnetzbetreiber 50Hertz beteiligt. Der Bund war zudem über die KfW mit 24,95 Prozent beim Übertragungsnetzbetreiber TransnetBW eingestiegen.

Weiterlesen nach der Anzeige

Aus Kreisen des Wirtschaftsministeriums hieß es, mit einem Anteil von 25,1 Prozent sei der Bund in der Lage, seine Interessen „angemessen“ wahrzunehmen und einen Beitrag zum bedarfsgerechten Netzausbau zu leisten. Außerdem gehe es darum, die Investitionsfähigkeit von Tennet Deutschland sicherzustellen.

Aus Ministeriumskreisen hieß es, der Bund beziehungsweise die KfW erhalte Veto-Rechte für weitreichende Entscheidungen – etwa in Bezug auf die Finanzpolitik, den Geschäftsplan oder die Bestellung und Abberufung der Geschäftsführung. Der Bund bekommt zudem genaue Einblicke über die finanzielle Lage des Unternehmens.

„Die Bundesregierung investiert in strategische Infrastruktur und unterstreicht damit, dass ein entschlossener Netzausbau höchste Priorität hat“, sagte der Chef von Tennet Deutschland, Tim Meyerjürgens. Mit dem Bund gewinne Tennet einen weiteren langfristig orientierten Partner, der die finanzielle Basis von Tennet Germany nachhaltig stärke. KfW-Chef Stefan Wintels sprach von einem Meilenstein für Versorgungssicherheit.

Lesen Sie auch

Der Haushaltsausschuss des Bundestages hatte die Mittel für die Tennet-Beteiligung freigegeben. Wie es aus Kreisen des Wirtschaftsministeriums hieß, nimmt die KfW das Kapital für den Kaufpreis und eine Kapitaleinlage über den Kapitalmarkt auf. Der Bund sichere dies durch eine sogenannte Freistellung von jeglichen Risiken ab. Mittel aus dem Bundeshaushalt fließen dafür demnach nicht. Der Bundeshaushalt trage Verwaltungs- und Refinanzierungskosten der KfW, dabei gehe es um einen niedrigen dreistelligen Millionenbetrag in den nächsten Jahren. Erwartet werden im Gegenzug Dividenden.

Der niederländische Tennet-Konzern versucht seit Jahren, seine deutsche Tochter abzustoßen oder Investoren mit ins Boot zu holen. Der Erhalt und Ausbau des deutschen Hochspannungsnetzes erfordere hohe Investitionen und gehöre nicht zu den Aufgaben eines niederländischen Staatsunternehmens, argumentierte die niederländische Regierung.

Im vergangenen September gab Tennet bekannt, dass sich drei Investoren mit insgesamt 46 Prozent an der deutschen Tochter beteiligen – der niederländische Pensionsfonds APG, der norwegische Staatsfonds Norges Bank Investment Management und der Staatsfonds GIC aus Singapur.

Tennet-Chefin Manon van Beek sagte am Dienstag, dass keine weiteren Investoren gesucht werden: „Das ist die Finanzierung, die wir brauchen.“ Die Holding behält 28,9 Prozent an Tennet Deutschland. 2024 waren Verhandlungen der Niederlande mit der Bundesregierung über eine Übernahme von Tennet Deutschland gescheitert.


(fds)



Source link

Weiterlesen

Künstliche Intelligenz

OpenAI mag Nvidias Inferenz-Beschleuniger angeblich nicht


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Zwischen den zwei Partnern Nvidia und OpenAI scheint es aktuell nicht ganz rund zu laufen. Aktuelle Gerüchte brachten OpenAI-Chef Sam Altman dazu, eine Stellungnahme über X zu teilen: „Wir lieben die Zusammenarbeit mit Nvidia, sie machen die besten KI-Chips der Welt. Wir hoffen, noch lange Zeit ein gigantischer Kunde zu bleiben. Ich verstehe nicht, woher all dieser Wahnsinn kommt.“

Weiterlesen nach der Anzeige

Es gibt jedoch Hinweise, dass es im Hintergrund kriselt. Aus einem 100 Milliarden US-Dollar schweren Abkommen im September 2025 ist bis heute noch nichts geworden. Nvidia-Chef Jensen Huang sagte erst kürzlich, dass er zwar gerne viel Geld im Rahmen einer Investitionsrunde in OpenAI stecken will, aber „nichts dergleichen“ Richtung 100 Milliarden Dollar. Intern soll Huang das September-Abkommen als nicht bindend abgetan haben.

Kurz nach einem Bericht des Wall Street Journal über den pausierten Deal schrieb die Nachrichtenagentur Reuters, dass OpenAI mit Nvidias Inferenz-Beschleunigern unzufrieden sein soll. Solche führen fertig trainierte KI-Modelle aus, beantworten also etwa ChatGPT-Anfragen oder generieren Code für OpenAIs Codex-Agenten.

Inferenz-Beschleuniger brauchen weniger Rechenleistung als Chips fürs Training von KI-Modellen. Stattdessen profitieren sie noch stärker von eng angebundenem, schnellem Speicher. OpenAI soll sich daher nach Alternativen umsehen, die vor allem viel Speicher in Form von SRAM direkt in die Chips integrieren. So sinkt die Latenz verglichen mit Beschleunigern wie von Nvidia, die vor allem auf externe Speicherbausteine wie GDDR7 oder HBM setzen.

Nun ließen sich Berichte über einen Wechsel von Nvidia zu Konkurrenten wie eine Trotzreaktion bei OpenAI interpretieren, die ihre 100 Milliarden Dollar nicht bekommen. Allerdings hat OpenAI schon Anfang Oktober 2025 einen konkreten Deal mit AMD über Inferenz-Hardware abgeschlossen. Die Gespräche müssten parallel zu den Nvidia-Verhandlungen gelaufen sein.

Weiterlesen nach der Anzeige

Demnach kauft OpenAI über fünf Jahre hinweg AMD-Beschleuniger mit einer Gesamtkapazität von sechs Gigawatt, angefangen mit der Instinct-MI400-Serie dieses Jahr. Die Spezifikationen sind noch nicht ganz klar, allerdings integriert AMD schon heute größere Caches als Nvidia, was für die Inferenz nützlich ist.

Im Januar 2026 folgte eine Partnerschaft mit Cerebras. OpenAI kauft dessen sogenannte Wafer Scale Engines (WSE), riesige Chipkonstrukte mit massenhaft integriertem Speicher. Die aktuelle WSE 3 kommt mit 44 GByte SRAM. Das Abkommen erstreckt sich bis 2028 und umfasst eine Kapazität von 750 Megawatt.

OpenAI soll auch mit Groq über dessen auf Inferenz spezialisierten Beschleuniger verhandelt haben. Jedoch kam Nvidia OpenAI mit einem 20-Milliarden-Dollar-Deal zuvor: Nvidia lizenziert seit Dezember 2025 Groqs Technik und hat im Rahmen der Partnerschaft große Teile des Designteams übernommen. Nvidia könnte damit in den kommenden Jahren das eigene Inferenz-Angebot stärken. Für OpenAI ergibt ein Abkommen mit Groq so keinen Sinn mehr.

Besonders latenzarme Beschleuniger sollen künftig rund zehn Prozent von OpenAIs gesamter Inferenz-Flotte ausmachen, berichtet Reuters anhand eigener Quellen. Gedacht sind sie demnach für gut zahlende Kunden, die möglichst zügige Antworten bekommen sollen. Nvidia-Hardware könnte demnach weiter den Großteil von OpenAIs Hardware ausmachen.

Die Reibereien zeigen sich derweil an der Börse. Während die meisten Halbleiterfirmen diese Woche leicht bis deutlich im Plus sind, ist Nvidias Aktie mehrere Prozent im Minus. Seit Jahresbeginn herrscht Stagnation.


(mma)



Source link

Weiterlesen

Künstliche Intelligenz

Mit der Kamera hoch hinaus: Profikletterer Klaus Fengler im Gespräch




Source link

Weiterlesen

Beliebt