Künstliche Intelligenz
OpenAI: Prompt Injections für KI-Browser bleiben ein Problem
Prompt Injections werden laut OpenAI ein dauerhaftes Problem für KI-Browser und die darin enthaltenen Agenten sein. Aussichten auf echte Sicherheit gibt es offenbar nicht. Stattdessen vergleicht das Unternehmen den Angriff damit, dass auch Menschen auf Scam hereinfallen, und es bisher keine Möglichkeit gäbe, sie zu schützen.
Weiterlesen nach der Anzeige
Dennoch versichert OpenAI in einem Blogbeitrag, dass sie ihren KI-Browser Atlas erneut zumindest sicherer gegen Prompt Injections gemacht haben. Nur eben nicht vollständig sicher. Intern würden vom sogenannten Red-Teaming immer neue Angriffsmöglichkeiten entdeckt, gegen die der Browser – beziehungsweise das KI-Modell dahinter – abgesichert wird. Abgesichert heißt, dem Modell wird ein konkretes Beispiel mitgegeben und dazugehörige Handlungsweisen festgeschrieben. Dafür nutzt OpenAI unter anderem einen LLM-basierten Angreifer, der Agenten trainieren soll.
KI-Agenten: Vertrauen, aber keine Kontrolle
Das heißt auch, es handelt sich um eine Art Katz-und-Maus-Spiel, das Angreifer und KI-Unternehmen spielen. Jede Seite denkt sich kontinuierlich neue Angriffe aus. OpenAI schreibt, man gehe davon aus, dass Angriffe dadurch zumindest immer schwerer und teurer würden. „Letztendlich ist es unser Ziel, dass Sie einem ChatGPT-Agenten bei der Nutzung Ihres Browsers genauso vertrauen können wie einem hochkompetenten, sicherheitsbewussten Kollegen oder Freund.“
Wie weit solches Vertrauen reicht, ist wohl von Mensch zu Mensch unterschiedlich. Es zeigt aber auch, es gibt keine endgültige Sicherheit oder Kontrolle.
Bei Prompt Injections wird dem Agenten im Browser oder auch einem KI-Modell ganz grundsätzlich untergejubelt, das Modell solle sich in einer bestimmten Art verhalten oder im Falle eines Agenten auch umsetzen, also handeln. Ganz simpel kann es reichen, wenn auf einer Webseite Anweisungen wie ein Prompt für den Agenten untergebracht sind. Das geht beispielsweise mit weißer Schrift auf weißem Untergrund, sodass es für den Menschen nicht sichtbar ist, für den Agenten jedoch schon.
OpenAI nennt im Blogbeitrag das Beispiel, ein Angreifer könne eine bösartige E-Mail schreiben, die einen Agenten dazu verleitet, sensible Daten, etwa Steuerunterlagen, an eine vom Angreifer kontrollierte E-Mail-Adresse weiterzuleiten. Dabei ist es ein typisches Agenten-Szenario, dass ein solcher E-Mails automatisiert bearbeitet und zusammenfasst.
Weiterlesen nach der Anzeige
Auch Sam Altman hatte schon vor potenziellen Gefahren durch Prompt Injections für den KI-Browser Atlas und den ChatGPT Agenten gewarnt. Kurz darauf kam heraus, dass es bereits einen Angriff gegeben hatte. ChatGPT verriet dabei Angreifern persönliche Daten aus E-Mails.
(emw)
Künstliche Intelligenz
Nationale Sicherheit gefährdet: US-Regierung stoppt Offshore-Windprojekte
Die US-Regierung hat die Mietverträge und Bauarbeiten für fünf große Offshore-Windenergieprojekte an der Ostküste vorübergehend ausgesetzt. Grund seien nationale Sicherheitsbedenken, wie das US-Innenministerium mitteilte.
Weiterlesen nach der Anzeige
Demnach sollen die Lizenzen für die im Bau befindlichen Offshore-Windparks pausiert werden, um Zeit für eine Überprüfung möglicher Risiken zu gewinnen. Es gebe Regierungsberichte, wonach die Bewegung massiver Turbinenblätter und die stark reflektierenden Türme Radarstörungen verursachten. Das erschwere das Erkennen von feindlichen Bedrohungen.
Die Entscheidung betrifft Projekte vor Massachusetts, Connecticut, New York sowie der Küste Virginias, die bereits große Investitionen und Bauarbeiten vorzuweisen haben.
Opposition wirft Regierung politisch motiviertes Vorgehen vor
Kritik kam unter anderem von dem demokratischen Fraktionschef im US-Senat, Chuck Schumer. Er warf Präsident Donald Trump vor, mit einem „irrationalen und ungerechtfertigten“ Vorgehen gezielt Offshore-Windprojekte und damit die Windkraft zu blockieren. Die Entscheidung werde Energiepreise weiter in die Höhe treiben, Tausende gewerkschaftlich organisierte Arbeitsplätze gefährden und die Stabilität des Stromnetzes untergraben, erklärte Schumer.
Auch Umweltgruppen und weitere politische Vertreter sehen Medienberichten zufolge in dem Schritt eine politisch motivierte Belastung der Windenergiebranche, die zuvor umfangreiche Genehmigungs- und Sicherheitsprüfungen durchlaufen habe – teils auch unter früheren Regierungen. Branchenvertreter und Projektentwickler prüfen demnach die Auswirkungen der Maßnahme auf Arbeitsplätze und Investitionen und haben teilweise juristische Schritte angekündigt.
(olb)
Künstliche Intelligenz
Sonderheft c’t Ratgeber PC-Hardware jetzt erhältlich
Aktuelle Grafikkarten der Serien AMD Radeon RX 9000 und Nvidia GeForce RTX 5000 bieten mehr Power für KI, 3D-Spiele und Raytracing als zuvor. Doch welche davon ist der Richtige für meinen selbst zusammengestellten Rechner? Brauche ich eine SSD mit PCI Express 5.0? Wie viel Watt muss mein Netzteil liefern? Diese und weitere Fragen beantwortet das Sonderheft c’t Ratgeber PC-Hardware. Auf über 180 Seiten finden Sie Tests, Kaufberatungsartikel und Praxisanleitungen.
Weiterlesen nach der Anzeige
Kaufberatung für Prozessoren und Grafikkarten
Egal, ob Sie aufrüsten oder neu bauen, es ist nicht leicht, sich im Hardware-Dickicht zurechtzufinden. Das Sonderheft c’t Ratgeber PC-Hardware enthält unter anderem einen großen CPU-Wegweiser. Er klärt auf, welche Prozessoren von AMD, Apple, Intel und Qualcomm bei Effizienz, Performance und Preis/Leistung vorn liegen. Passend dazu haben wir schnelles RAM sowie Mainboards für Core Ultra 200S und Ryzen 9000 getestet. Zudem liefert das Sonderheft Tipps zur Auswahl günstiger Gaming-CPUs und zum Energiesparen.

Anhand der Grafikkarten-Kaufberatung und den Tests aktueller GeForce RTX 5000 und Radeon RX 9000 können Sie die richtige Karte für 3D-Spiele und KI-Anwendungen auswählen. Zudem hilft Ihnen der c’t Ratgeber PC-Hardware bei der Auswahl des passenden, hochauflösenden Monitors. Dazu haben wir Curved-Displays und 5K-Monitore getestet.
Tests von SSDs , Kühlern und Netzteilen
Schnelle SSDs lohnen nicht nur für neue Rechner, sondern können auch bestehende Desktop-PCs und Notebooks beschleunigen. Im Test treten 22 moderne M.2-SSDs mit PCI Express 4.0 und 5.0 gegeneinander an. Weiterhin stellt das Sonderheft 30-TByte-Festplatten vor. Im Ausblick auf die Festplattenzukunft erklären wir, wie diese großen Kapazitäten mit HAMR-Technik funktionieren.
Weiterlesen nach der Anzeige
Der CPU-Kühler entscheidet darüber, wie laut oder leise ein Rechner ist. Wir haben zahlreiche Tower-Modelle sowie flache Kühler für kompakte PC-Gehäuse ins c’t-Labor geholt. Im c’t Ratgeber PC-Hardware mussten sich außerdem günstige ATX-Netzteile beweisen, die genug Leistung für Gaming-PCs mitbringen. Eine FAQ beantwortet die wichtigsten Fragen, worauf es beim Netzteilkauf ankommt.
Jetzt bestellen
Den c’t Ratgeber PC-Hardware gibt es sowohl auf Papier als auch in digitaler Form. Wer die Print-Ausgabe für 14,90 € bis einschließlich 27.12.2025 im Heise Shop bestellt, zahlt keine Versandkosten. Hier erhalten Sie die digitale Ausgabe ab sofort für 12,99 € im heise Shop als PDF. Ebenfalls im heise Shop finden Sie das gedruckte Heft und die digitale Ausgabe als Bundle. Sie erhalten das Heft und PDF für 19,90 € statt 32,90 Euro.
(chh)
Künstliche Intelligenz
USA: FCC untersagt faktisch Import einiger neuer ausländischer Drohnen
Die US-Telekommunikationszulassungsbehörde Federal Communications Commission (FCC) hat verschiedene Flugdrohnen und Flugdrohnenteile ausländischer Drohnenhersteller wie etwa DJI und Autel auf die „Covered List“ gesetzt, eine Schwarze Liste mit Kommunikationsprodukten und -diensten, die ein inakzeptables Risiko für die Sicherheit der USA darstellen. Sie dürfen nicht mehr in den USA betrieben und deshalb nicht mehr eingeführt werden. Das teilte die FCC am Montag mit (PDF). Die Entscheidung basiert auf einer Einschätzung eines von der US-Regierung einberufenen interinstitutionellen Gremiums, das die Gefährdung der nationalen Sicherheit durch im Ausland produzierte Drohnen vorab geprüft und bewertet hatte.
Weiterlesen nach der Anzeige
Bedrohung der nationalen Sicherheit
Konkret fußt die Entscheidung der FCC auf der Feststellung, dass spezifische, im Ausland hergestellte Flugdrohnen und -komponenten „inakzeptable Risiken für die nationale Sicherheit der Vereinigen Staaten und die Sicherheit von US-Bürgern“ darstellen. Die FCC erklärt in der Mitteilung, dass feindliche ausländische Akteure und Terroristen die Fluggeräte dazu nutzen könnten, um „neue und ernsthafte Bedrohungen für unser Heimatland darzustellen“. Dabei geht es auch darum, dass im Ausland hergestellte Drohnen für „für Angriffe und Störungen, unbefugte Überwachung, die Exfiltration sensibler Daten und andere UAS-Bedrohungen (Unmanned Aircraft Systems – UAF) für das Heimatland verwendet werden könnten“. Die FCC nennt in diesem Zusammenhang verschiedene, in den USA anstehende Großveranstaltungen wie etwa die FIFA-Weltmeisterschaft 2026, die America250-Feierlichkeiten und die Olympischen Sommerspiele 2028 in Los Angeles.
Hinzu kommt die Befürchtung der US-Sicherheitsbehörden, dass Abhängigkeit von im Ausland hergestellten Drohnen die industrielle Basis der USA im Drohnenbereich schwächen könnte. Ausnahmen, welche Drohnen, Drohnenklassen oder Drohnenkomponenten doch erlaubt sind, können vom Departement of War oder dem Departement of Homeland Security der FCC übermittelt werden. Die FCC selbst kann die „Covered List“ nicht eigenständig aktualisieren, sondern ist an Entscheidungen von Expertengremien nationaler Sicherheitsbehörden gebunden.
Bestandsschutz
Die FCC betont, dass die jetzigen Bedingungen lediglich für neue Flugdrohnen und ihre Komponenten gelten. Bisher im Rahmen der FCC-Gerätezulassung genehmigte Drohnenprodukte seien nicht betroffen. Sie können weiterhin betrieben und von Händlern in die USA importiert, vermarktet und verkauft werden.
Die FCC ist eine Behörde, die für die Zulassung neuer Kommunikationsgeräte zuständig ist. Darunter fallen auch Geräte, die per Funk angesteuert werden wie etwa Drohnen. Geräte, die nicht von der FCC zugelassen sind, dürfen nicht in die USA importiert, dort nicht verkauft und verwendet werden.
Weiterlesen nach der Anzeige
(olb)
-
UX/UI & Webdesignvor 2 MonatenIllustrierte Reise nach New York City › PAGE online
-
Künstliche Intelligenzvor 2 MonatenAus Softwarefehlern lernen – Teil 3: Eine Marssonde gerät außer Kontrolle
-
Künstliche Intelligenzvor 2 Monaten
Top 10: Die beste kabellose Überwachungskamera im Test
-
UX/UI & Webdesignvor 2 MonatenSK Rapid Wien erneuert visuelle Identität
-
Künstliche Intelligenzvor 2 MonatenNeue PC-Spiele im November 2025: „Anno 117: Pax Romana“
-
Entwicklung & Codevor 1 MonatKommandozeile adé: Praktische, grafische Git-Verwaltung für den Mac
-
Künstliche Intelligenzvor 2 MonatenDonnerstag: Deutsches Flugtaxi-Start-up am Ende, KI-Rechenzentren mit ARM-Chips
-
UX/UI & Webdesignvor 2 MonatenArndt Benedikt rebranded GreatVita › PAGE online
