Connect with us

Künstliche Intelligenz

OpenAI: Prompt Injections für KI-Browser bleiben ein Problem


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Prompt Injections werden laut OpenAI ein dauerhaftes Problem für KI-Browser und die darin enthaltenen Agenten sein. Aussichten auf echte Sicherheit gibt es offenbar nicht. Stattdessen vergleicht das Unternehmen den Angriff damit, dass auch Menschen auf Scam hereinfallen, und es bisher keine Möglichkeit gäbe, sie zu schützen.

Weiterlesen nach der Anzeige

Dennoch versichert OpenAI in einem Blogbeitrag, dass sie ihren KI-Browser Atlas erneut zumindest sicherer gegen Prompt Injections gemacht haben. Nur eben nicht vollständig sicher. Intern würden vom sogenannten Red-Teaming immer neue Angriffsmöglichkeiten entdeckt, gegen die der Browser – beziehungsweise das KI-Modell dahinter – abgesichert wird. Abgesichert heißt, dem Modell wird ein konkretes Beispiel mitgegeben und dazugehörige Handlungsweisen festgeschrieben. Dafür nutzt OpenAI unter anderem einen LLM-basierten Angreifer, der Agenten trainieren soll.

Das heißt auch, es handelt sich um eine Art Katz-und-Maus-Spiel, das Angreifer und KI-Unternehmen spielen. Jede Seite denkt sich kontinuierlich neue Angriffe aus. OpenAI schreibt, man gehe davon aus, dass Angriffe dadurch zumindest immer schwerer und teurer würden. „Letztendlich ist es unser Ziel, dass Sie einem ChatGPT-Agenten bei der Nutzung Ihres Browsers genauso vertrauen können wie einem hochkompetenten, sicherheitsbewussten Kollegen oder Freund.“

Wie weit solches Vertrauen reicht, ist wohl von Mensch zu Mensch unterschiedlich. Es zeigt aber auch, es gibt keine endgültige Sicherheit oder Kontrolle.

Bei Prompt Injections wird dem Agenten im Browser oder auch einem KI-Modell ganz grundsätzlich untergejubelt, das Modell solle sich in einer bestimmten Art verhalten oder im Falle eines Agenten auch umsetzen, also handeln. Ganz simpel kann es reichen, wenn auf einer Webseite Anweisungen wie ein Prompt für den Agenten untergebracht sind. Das geht beispielsweise mit weißer Schrift auf weißem Untergrund, sodass es für den Menschen nicht sichtbar ist, für den Agenten jedoch schon.

OpenAI nennt im Blogbeitrag das Beispiel, ein Angreifer könne eine bösartige E-Mail schreiben, die einen Agenten dazu verleitet, sensible Daten, etwa Steuerunterlagen, an eine vom Angreifer kontrollierte E-Mail-Adresse weiterzuleiten. Dabei ist es ein typisches Agenten-Szenario, dass ein solcher E-Mails automatisiert bearbeitet und zusammenfasst.

Weiterlesen nach der Anzeige

Auch Sam Altman hatte schon vor potenziellen Gefahren durch Prompt Injections für den KI-Browser Atlas und den ChatGPT Agenten gewarnt. Kurz darauf kam heraus, dass es bereits einen Angriff gegeben hatte. ChatGPT verriet dabei Angreifern persönliche Daten aus E-Mails.


(emw)



Source link

Künstliche Intelligenz

enterJS Integrate AI: So bringt KI echten Mehrwert in Webanwendungen


Am 28. April 2026 laden die Veranstalter der Enterprise-JavaScript-Konferenz enterJS zum Online-Thementag: Die eintägige Veranstaltung enterJS Integrate AI zeigt, wie man KI sinnvoll in seine Webanwendungen integriert, sodass diese wirklich besser werden – statt komplizierter, unsicherer oder frustrierender.

Weiterlesen nach der Anzeige

Konzipiert von dpunkt.verlag und iX in Kooperation mit dem enterJS-Beirat Sebastian Springer, richtet sich die Online-Konferenz an Fullstack- und Frontend-Developer sowie technikaffine Produktverantwortliche. Zum Programmstart sind vergünstigte Frühbuchertickets verfügbar.

In sechs jeweils 45-minütigen Vorträgen am 28. April geben die Sprecherinnen und Sprecher Einblicke in ausgewählte Themengebiete rund um die KI-Integration im Web: Wann ist Voice AI in Webanwendungen sinnvoll – und wann nicht? Das klärt Marius Obert in seinem Vortrag, während Christian Liebel den Weg zu smarteren Webanwendungen mit WebNN API und Prompt API demonstriert. Vicky Pirker nimmt die Teilnehmenden mit auf eine Reise von „KI vs. Mensch“ zu „KI und Mensch“ und spickt ihren Vortrag mit Praxisbeispielen für einen geeigneten KI-Einsatz. Zum Abschluss reflektieren die Speaker die Vorträge des Tages in einer Diskussionsrunde.


enterJS Integrate AI: Das Konferenzprogramm

enterJS Integrate AI: Das Konferenzprogramm

(Bild: enterJS Integrate AI: Das Konferenzprogramm)


Sebastian Springer

Sebastian Springer

Sebastian Springer weckt als Dozent für JavaScript, Sprecher auf Konferenzen und Autor die Begeisterung für professionelle Entwicklung mit JavaScript.

Am 7. Mai haben Interessierte darüber hinaus die Gelegenheit, ihr Wissen in einem ganztägigen Online-Workshop zu vertiefen. Sie lernen von Sebastian Springer, wie sie KI-Workflows verstehen und souverän einsetzen können, und tauchen dazu tief in die Tools LangChain und LangGraph ein.

Die Teilnehmenden sollten solide JavaScript-Kenntnisse, Grundwissen in Node.js und erste Erfahrungen mit LLMs besitzen. Am Ende des Tages nehmen sie ein klares Architekturverständnis mit, das ihnen ermöglicht, eigene KI-Anwendungen souverän zu planen, umzusetzen und langfristig wartbar zu gestalten.

Weiterlesen nach der Anzeige

Mit Veröffentlichung des Programms stehen vergünstigte Frühbuchertickets zur Buchung bereit: Ein Ticket kostet 249 Euro (alle Preise zzgl. 19 % MwSt.). Wer mit seinen Kolleginnen und Kollegen teilnimmt, profitiert ab drei Personen von einem Gruppenrabatt. Der Ganztages-Workshop lässt sich für 549 Euro pro Person buchen.

Weitere Informationen rund um den enterJS-Thementag bietet die Website, auf der sich zudem ein Newsletter abonnieren lässt.


(mai)



Source link

Weiterlesen

Künstliche Intelligenz

Zyxel-Firewalls: Angreifer können System-Befehle ausführen


Nutzen Angreifer erfolgreich eine Sicherheitslücke in der ZLD-Firmware bestimmter Zyxel-Firewalls aus, können sie Befehle auf Systemebene ausführen und Geräte wahrscheinlich kompromittieren. Ein Sicherheitsupdate bannt die Gefahr.

Weiterlesen nach der Anzeige

Wie aus einer Warnmeldung hervorgeht, sind Firewalls der Serien ATP, USG FLEX und USG FLEX 50(W)/ USG20(W)-VPN mit den ZLD-Firmwares V5.35 bis einschließlich V5.41 verwundbar. Die Entwickler führen aus, die Firmware ab V5.42 abgesichert zu haben.

Die Schwachstelle findet sich in der Dynamic-DNS-Konfiguration (DDNS) im Kontext des Command Line Interfaces (CLI command). Damit Angreifer die Lücke über präparierte Befehle ausnutzen können, müssen sie bereits über Adminrechte verfügen. Trotz dieser vergleichsweise hohen Hürde ist die Lücke (CVE-2025-11730) mit dem Bedrohungsgrad „hoch“ eingestuft. Bislang gibt es seitens Zyxel keine Warnung zu laufenden Attacken. Admins sollten mit dem Patchen aber nicht zu lange zögern.


(des)



Source link

Weiterlesen

Künstliche Intelligenz

Tipps für den richtigen Drucker für Familie und Homeoffice


Manches vermeintliche Drucker-Schnäppchen entpuppt sich später als Geldgrab, wenn die mitgelieferten Tintenpatronen oder Tonerkartuschen leer sind. Der Ersatz dafür ist oft fast halb so teuer wie das ganze Gerät. Genau wie bei der Benzinkutsche nicht nur der Kaufpreis Kosten verursacht, sondern in hohem Maß auch der Kraftstoff, muss man beim Drucken je nach Bedarf erhebliche Zusatzkosten nach dem Kauf einplanen: Papier ist ebenso nötig wie Farbe, also Tinte oder Toner, mit der das Blatt beschichtet wird.

Geht es nicht gerade um hochwertiges Fotopapier, fällt Normalpapier mit dem Standardgewicht von 80 Gramm pro Quadratmeter preislich nicht so sehr ins Gewicht: Im Mittel kann man mit 0,6 Cent pro Blatt rechnen. Anders sieht es mit der Farbe aus. Wie teuer die Tinte oder der Toner pro Seite ist, hängt von Preis und Bauart des Druckers ab. Als Faustregel gilt: Je billiger der Drucker, desto teurer sind Tintenpatrone oder Tonerkartusche. Besonders bei Billigmodellen verdienen die Hersteller nicht am Drucker, sondern am Verbrauchsmaterial. Tinte für eine Normfarbseite mit etwa 20 Prozent Farbdeckung kostet dann oft 20 bis 30 Cent.

Da diese Strategie die Kundenzufriedenheit nicht verbessert, haben zumindest die Anbieter von Tintendruckern Alternativen entwickelt: Für Vieldrucker gibt es Modelle mit großen, eingebauten Tintentanks. Die sind zwar um ein Mehrfaches teurer als Drucker mit Wechselpatronen, dafür lassen sie sich sehr günstig mit Originaltinte aus der Flasche nachfüllen. Der hohe Kaufpreis der Tintentankdrucker relativiert sich außerdem, weil ihnen eine Tankfüllung für mindestens 6000 Seiten beiliegt. Die günstigen Patronendruckern beiliegenden „Starter“-Patronen halten in der Regel bloß 100 bis 200 Druckseiten.


Das war die Leseprobe unseres heise-Plus-Artikels „Tipps für den richtigen Drucker für Familie und Homeoffice“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Beliebt