Künstliche Intelligenz
OpenAI: Prompt Injections für KI-Browser bleiben ein Problem
Prompt Injections werden laut OpenAI ein dauerhaftes Problem für KI-Browser und die darin enthaltenen Agenten sein. Aussichten auf echte Sicherheit gibt es offenbar nicht. Stattdessen vergleicht das Unternehmen den Angriff damit, dass auch Menschen auf Scam hereinfallen, und es bisher keine Möglichkeit gäbe, sie zu schützen.
Weiterlesen nach der Anzeige
Dennoch versichert OpenAI in einem Blogbeitrag, dass sie ihren KI-Browser Atlas erneut zumindest sicherer gegen Prompt Injections gemacht haben. Nur eben nicht vollständig sicher. Intern würden vom sogenannten Red-Teaming immer neue Angriffsmöglichkeiten entdeckt, gegen die der Browser – beziehungsweise das KI-Modell dahinter – abgesichert wird. Abgesichert heißt, dem Modell wird ein konkretes Beispiel mitgegeben und dazugehörige Handlungsweisen festgeschrieben. Dafür nutzt OpenAI unter anderem einen LLM-basierten Angreifer, der Agenten trainieren soll.
KI-Agenten: Vertrauen, aber keine Kontrolle
Das heißt auch, es handelt sich um eine Art Katz-und-Maus-Spiel, das Angreifer und KI-Unternehmen spielen. Jede Seite denkt sich kontinuierlich neue Angriffe aus. OpenAI schreibt, man gehe davon aus, dass Angriffe dadurch zumindest immer schwerer und teurer würden. „Letztendlich ist es unser Ziel, dass Sie einem ChatGPT-Agenten bei der Nutzung Ihres Browsers genauso vertrauen können wie einem hochkompetenten, sicherheitsbewussten Kollegen oder Freund.“
Wie weit solches Vertrauen reicht, ist wohl von Mensch zu Mensch unterschiedlich. Es zeigt aber auch, es gibt keine endgültige Sicherheit oder Kontrolle.
Bei Prompt Injections wird dem Agenten im Browser oder auch einem KI-Modell ganz grundsätzlich untergejubelt, das Modell solle sich in einer bestimmten Art verhalten oder im Falle eines Agenten auch umsetzen, also handeln. Ganz simpel kann es reichen, wenn auf einer Webseite Anweisungen wie ein Prompt für den Agenten untergebracht sind. Das geht beispielsweise mit weißer Schrift auf weißem Untergrund, sodass es für den Menschen nicht sichtbar ist, für den Agenten jedoch schon.
OpenAI nennt im Blogbeitrag das Beispiel, ein Angreifer könne eine bösartige E-Mail schreiben, die einen Agenten dazu verleitet, sensible Daten, etwa Steuerunterlagen, an eine vom Angreifer kontrollierte E-Mail-Adresse weiterzuleiten. Dabei ist es ein typisches Agenten-Szenario, dass ein solcher E-Mails automatisiert bearbeitet und zusammenfasst.
Weiterlesen nach der Anzeige
Auch Sam Altman hatte schon vor potenziellen Gefahren durch Prompt Injections für den KI-Browser Atlas und den ChatGPT Agenten gewarnt. Kurz darauf kam heraus, dass es bereits einen Angriff gegeben hatte. ChatGPT verriet dabei Angreifern persönliche Daten aus E-Mails.
(emw)
Künstliche Intelligenz
Irankrieg: Wie Chipindustrie und Digitalbranche betroffen sind
Eines hat die Industrie aus vergangenen Krisen gelernt: Sie hat Lagerbestände wichtiger Rohstoffe und Komponenten angelegt. „Aktuell sehen wir vor allem Störungen in denjenigen Lieferketten, die Öl- und Gasprodukte betreffen“, sagte Andreas Gontermann vom Zentralverband der deutschen Elektro- und Digitalindustrie (ZVEI) gegenüber c‘t. „Gleichwohl ist unsere Befürchtung groß, dass dieser Konflikt weitere Beeinträchtigungen nach sich ziehen wird und insbesondere auch die Halbleiterproduktion stark beeinträchtigen könnte.“
Die Gas- und die Ölförderung der Anrainerstaaten des Persischen Golfs sind vor allem für Asien unverzichtbar. Insbesondere Länder, die für die Halbleiterverfügbarkeit eine große Rolle spielen, sind von Energielieferungen aus der Golfregion abhängig: Öl aus dem Irak, den Vereinigten Arabischen Emiraten, Kuwait, Bahrain und Saudi-Arabien; LNG (englisch Liquid Natural Gas, deutsch Flüssigerdgas) aus Katar und dem Oman. Die Halbleiterindustrie benötigt große Mengen an Energie – eine zeitweise Verdoppelung der Ölpreise am Spotmarkt geht also nicht spurlos an der Branche vorbei. Auch der Gaspreis, der zwar nicht mehr so stark wie früher an den Ölpreis gekoppelt ist, aber immer noch mit diesem korreliert, steigt.
Ein Drittel des Gasbedarfs Taiwans, wo etwa der größte Auftragsfertiger der Welt, TSMC, seinen Sitz hat, kam bislang aus Katar. Das Emirat erzielt den Großteil seiner Staatseinnahmen durch die Ausbeutung des North Dome Field, des kapazitätsreichsten Gasfelds der Welt. Doch die Lieferungen fallen aus, seit der Iran die Straße von Hormus schloss und allen Schiffen mit Beschuss gedroht hat. Ein weiterer Grund für die Ausfälle: Der Iran hat die katarische Gasinfrastruktur angegriffen, weshalb Qatar Energy LNG beschloss, die weitere Förderung aus Sicherheitsgründen einzustellen.
Das war die Leseprobe unseres heise-Plus-Artikels „Irankrieg: Wie Chipindustrie und Digitalbranche betroffen sind“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
Künstliche Intelligenz
Nach dem Blackout in Spanien: Warum Solaranlagen künftig das Netz stützen müssen
Für Spanien und Portugal war es eine Katastrophe: Anscheinend völlig aus dem Nichts fiel am Mittag des 28. April 2025 der Strom auf der gesamten Iberischen Halbinsel und in einem Zipfel Frankreichs aus. Es dauerte für einige betroffene Regionen bis zu 16 Stunden, bis sie wieder Strom bekamen. Und diese Wiederherstellungszeit galt angesichts der Größe des Ausfalls als Meisterleistung. Jetzt hat der Verband Europäischer Übertragungsnetzbetreiber (ENTSO-E) seinen abschließenden Untersuchungsbericht vorgelegt. Der dreht sich vor allem um die Frage, was Netzbetreiber, Stromerzeuger und Behörden aus dem Vorfall lernen können.
Weiterlesen nach der Anzeige
Der Abschlussbericht bestätigt, was bereits der Zwischenbericht im Oktober 2025 feststellte: Es gab nicht eine einzelne Ursache, die diesen riesigen Ausfall auslöste. Zu den Empfehlungen zählt, dass Solaranlagen künftig bei der Spannungsregelung mithelfen sollen. Bislang stellen sie Blindleistung nach einem festen Faktor bereit.
Die Rolle der Erneuerbaren Energien
Erneuerbare Energien gerieten nach dem Ausfall schnell in Verdacht, den Ausfall begünstigt zu haben. Sie trugen laut Bericht bei – als einer von mehreren interagierenden Faktoren. Konventionelle Kraftwerke, die aufgrund fehlender Vorgaben zu wenig Blindleistung lieferten, kamen aber als erschwerender Faktor hinzu. Auch schalteten Schutzsysteme nach Ansicht des Expertengremiums zu früh ab und das spanische 400-kV-Netz mit einem breiteren Spannungsband operierte mit zu kleinen Sicherheitsmargen. Ein weiteres Problem: Shunt-Reaktoren, die als Kompensationsdrossel überschüssige Spannung im Netz abzubauen helfen, wurden manuell geschaltet – was angesichts der blitzschnellen Abfolge der Ereignisse viel zu spät war.
Die eigentliche Katastrophe, die um 12.32 Uhr begann, wurde durch einen Spannungsanstieg im Netz ausgelöst, durch den die Kraftwerke begannen, sich abzuschalten. Dem Ereignis waren Netzschwingungen vorausgegangen, die zuerst zwischen 12.03 und 12.08 Uhr durch eine fehlerhafte Wechselrichtersteuerung und zwischen 12.19 und 12.22 Uhr im europäischen Verbundnetz ausgelöst wurden. Die Netzbetreiber reagierten in den folgenden Minuten darauf, indem sie die Stromexporte nach Frankreich reduzierten und Stromleitungen im Süden Spaniens kuppelten. Dies führte zum Anstieg der Spannung im iberischen Stromsystem und binnen 90 Sekunden schaukelten sich die Probleme ab 12.32 Uhr durch fehlende Automatisierung und die genannten Defizite so hoch, dass der komplette Blackout folgte. In dem kurzen Zeitraum fielen rund 2,2 GW Erzeugungsleistung aus.
Trennung vom Verbundnetz funktionierte vorbildlich
Was gut funktionierte: Das europäische Verbundnetz wurde rechtzeitig und sicher automatisch abgetrennt, sodass nicht ganz Europa im Dunkeln saß. Auch die Wiederherstellung der Stromversorgung funktionierte, obwohl die Netzbetreiber mit allerlei Problemen zu kämpfen hatten: Schwarzstart-fähige Anlagen fuhren teilweise nicht an und es gab Probleme bei der Sprachkommunikation mehrerer Verteilnetzbetreiber und starker Netznutzer. Auch hieraus konnten einige Erkenntnisse für die Zukunft gewonnen werden.
Weiterlesen nach der Anzeige
Die Experten urteilen: Erneuerbare Energien lösten die Probleme nicht aus – trugen aber zu wenig dazu bei, sie zu beherrschen. Künftig sollen Solar- und Windanlagen aktiv zur Spannungsstabilisierung beitragen, statt mit starren Leistungsfaktor-Einstellungen zu operieren. Schutzeinstellungen müssen EU-weit vereinheitlicht und regelmäßig geprüft werden. Und manuelle Eingriffe ins Netz müssen durch Automatisierung ersetzt werden – denn wie der 28. April zeigte, entscheiden im Ernstfall Sekunden.
Lesen Sie auch
(mki)
Künstliche Intelligenz
Falsche CPUs: Chuwi ruft Notebooks zurück
Der chinesische Hersteller Chuwi reagiert mit einer eingeschränkten Rückrufaktion auf Berichte über falsch bestückte Notebooks. In einigen Exemplaren des CoreBook X und CoreBook Plus sitzt ein Ryzen 5 5500U, den der Hersteller als neueren und schnelleren Ryzen 5 7430U vermarktet.
Weiterlesen nach der Anzeige
In einer Stellungnahme nennt Chuwi einen „Produktionsfehler“ als Ursache: „Aufgrund eines Produktionsfehlers wurde eine begrenzte Anzahl von CoreBook X- und CoreBook Plus-Geräten mit falschen Prozessoren bestückt“, heißt es.
Betroffene können ihr Notebook für eine Rückerstattung des Kaufpreises zurückschicken. Die erste Anlaufstelle ist der Händler, bei dem das Gerät gekauft wurde. Alternativ will der Hersteller über die Mail-Adresse service@chuwi.com helfen.
Rückerstattung nur im Neuzustand
Chuwi nennt allerdings strenge Regeln für die Rückerstattung. Das Notebook muss sich im Originalzustand befinden und das komplette Zubehör muss mit zurück. Außerdem gilt die Rückrufaktion nur bis zum 31. Mai 2026. Wer nichts unmittelbar davon mitbekommt, schaut in die Röhre. Käufer werden nicht proaktiv angeschrieben.
Laut Notebookcheck sollen auch im Mini-PC Chuwi Ubox falsche Prozessoren zum Einsatz kommen. Zu diesem System macht die Firma keinerlei Angaben. Von der Aktion ist die Chuwi Ubox folglich ausgeschlossen.
Weitere Hintergründe nennt die Firma nicht. Da auch Geräte des Herstellers Ninkear betroffen sein sollen, liegt eine Ursache beim Zulieferer Emdoor Digital nahe. Betrug ist nicht auszuschließen, da der Prozessorname in Auslese-Tools verschleiert wird.
Weiterlesen nach der Anzeige
CPU-Z zeigt nach einem Update auf Version 2.19 jetzt den korrekten Namen an. Das funktioniert offenbar aber nicht immer. Nutzer sollten daher auf den angegebenen Codenamen achten: Lucienne steht für den Ryzen 5 5500U, Barcelo-R für einen echten Ryzen 5 7430U.
(mma)
-
Künstliche Intelligenzvor 3 MonatenSchnelles Boot statt Bus und Bahn: Was sich von London und New York lernen lässt
-
Social Mediavor 3 WochenCommunity Management und Zielgruppen-Analyse: Die besten Insights aus Blog und Podcast
-
Social Mediavor 1 MonatCommunity Management zwischen Reichweite und Verantwortung
-
Künstliche Intelligenzvor 1 Monat
Top 10: Die beste kabellose Überwachungskamera im Test – Akku, WLAN, LTE & Solar
-
UX/UI & Webdesignvor 2 MonatenEindrucksvolle neue Identity für White Ribbon › PAGE online
-
Künstliche Intelligenzvor 3 MonatenAumovio: neue Displaykonzepte und Zentralrechner mit NXP‑Prozessor
-
Künstliche Intelligenzvor 3 MonatenÜber 220 m³ Fläche: Neuer Satellit von AST SpaceMobile ist noch größer
-
Künstliche Intelligenzvor 2 MonateneHealth: iOS‑App zeigt Störungen in der Telematikinfrastruktur
