Prompt Injections werden laut OpenAI ein dauerhaftes Problem für KI-Browser und die darin enthaltenen Agenten sein. Aussichten auf echte Sicherheit gibt es offenbar nicht. Stattdessen vergleicht das Unternehmen den Angriff damit, dass auch Menschen auf Scam hereinfallen, und es bisher keine Möglichkeit gäbe, sie zu schützen.

Dennoch versichert OpenAI in einem Blogbeitrag, dass sie ihren KI-Browser Atlas erneut zumindest sicherer gegen Prompt Injections gemacht haben. Nur eben nicht vollständig sicher. Intern würden vom sogenannten Red-Teaming immer neue Angriffsmöglichkeiten entdeckt, gegen die der Browser – beziehungsweise das KI-Modell dahinter – abgesichert wird. Abgesichert heißt, dem Modell wird ein konkretes Beispiel mitgegeben und dazugehörige Handlungsweisen festgeschrieben. Dafür nutzt OpenAI unter anderem einen LLM-basierten Angreifer, der Agenten trainieren soll.

KI-Agenten: Vertrauen, aber keine Kontrolle

Das heißt auch, es handelt sich um eine Art Katz-und-Maus-Spiel, das Angreifer und KI-Unternehmen spielen. Jede Seite denkt sich kontinuierlich neue Angriffe aus. OpenAI schreibt, man gehe davon aus, dass Angriffe dadurch zumindest immer schwerer und teurer würden. „Letztendlich ist es unser Ziel, dass Sie einem ChatGPT-Agenten bei der Nutzung Ihres Browsers genauso vertrauen können wie einem hochkompetenten, sicherheitsbewussten Kollegen oder Freund.“

Wie weit solches Vertrauen reicht, ist wohl von Mensch zu Mensch unterschiedlich. Es zeigt aber auch, es gibt keine endgültige Sicherheit oder Kontrolle.

Bei Prompt Injections wird dem Agenten im Browser oder auch einem KI-Modell ganz grundsätzlich untergejubelt, das Modell solle sich in einer bestimmten Art verhalten oder im Falle eines Agenten auch umsetzen, also handeln. Ganz simpel kann es reichen, wenn auf einer Webseite Anweisungen wie ein Prompt für den Agenten untergebracht sind. Das geht beispielsweise mit weißer Schrift auf weißem Untergrund, sodass es für den Menschen nicht sichtbar ist, für den Agenten jedoch schon.

OpenAI nennt im Blogbeitrag das Beispiel, ein Angreifer könne eine bösartige E-Mail schreiben, die einen Agenten dazu verleitet, sensible Daten, etwa Steuerunterlagen, an eine vom Angreifer kontrollierte E-Mail-Adresse weiterzuleiten. Dabei ist es ein typisches Agenten-Szenario, dass ein solcher E-Mails automatisiert bearbeitet und zusammenfasst.

Auch Sam Altman hatte schon vor potenziellen Gefahren durch Prompt Injections für den KI-Browser Atlas und den ChatGPT Agenten gewarnt. Kurz darauf kam heraus, dass es bereits einen Angriff gegeben hatte. ChatGPT verriet dabei Angreifern persönliche Daten aus E-Mails.

(emw)

Ehemals zufriedene VMware-Kunden müssen seit der Übernahme durch Broadcom auf eine andere Virtualisierungslösung umsteigen, weil sie die neuen Preise nicht mehr bezahlen können. Proxmox ist eine gut funktionierende und praxiserprobte Alternative. Wie der Umstieg von einer VMware-basierten Virtualisierungsinfrastruktur auf Proxmox VE mit geringem Aufwand gelingt, erfahren IT-Administratoren im Workshop Hands-on: Migration von VMware zu Proxmox.

Sie lernen die Architektur von Proxmox VE kennen und verstehen die Unterschiede zu VMware vSphere. Ein zentraler Punkt ist die Planung eines Migrationsprojekts, um den Übergang möglichst reibungslos zu gestalten. Dabei erhalten Sie wertvolle Ansatzpunkte und Strategien, um typische Fallstricke zu vermeiden. Sie erfahren auch, wie verschiedene Storage Backends wie ZFS, Ceph, iSCI oder NFS in Proxmox VE eingebunden werden.

Praxisorientiertes Lernen im Labor

In einer eingerichteten Laborumgebung führen Sie eine beispielhafte Migration durch. Dabei arbeiten Sie parallel zum Trainer und setzen folgende Schritte direkt um: Einrichten des Proxmox VE Hosts, Überprüfen von Quell- (VMware ESXi) und Zielsystem, Aufsetzen und Validieren einer Testmaschine, Anbinden der Systeme und das tatsächliche Durchführen der Migration.

Dieser Workshop richtet sich gezielt an erfahrene IT-Administratoren, deren aktuelle IT-Infrastruktur auf VMware-Virtualisierung basiert und die einen Umstieg auf Proxmox VE planen oder in Erwägung ziehen.

Ihr Trainer Frank Bartkewitz ist als zertifizierter Proxmox VE Trainer bei der croit GmbH tätig. Zu seinen Schwerpunkten zählen Systemadministration und Netzwerktechnik, insbesondere Virtualisierungslösungen wie Proxmox VE.

(ilk)

Der Roboterhersteller Kuka will auf betriebsbedingte Kündigungen am Stammsitz in Augsburg verzichten – dafür müssen Mitarbeiter Einschnitte hinnehmen. Darauf einigte sich das Unternehmen nach eigenen Angaben mit dem Betriebsrat.

„Einzelne tarifliche Gehaltserhöhungen sowie Sonderzahlungen“ sollen verschoben oder ausgesetzt werden, teilte Kuka mit. Dafür soll es bis Juli 2029 keine betriebsbedingten Kündigungen geben. So sollen dann auch nötige Investitionen möglich werden.

Einschnitte für die Beschäftigten

„Uns ist bewusst, dass die Einschnitte für die Beschäftigten durch die Verschiebung und den Wegfall tariflicher Leistungen spürbar sind“, sagte Carola Leitmeir, die die Verhandlungen für den KUKA Betriebsrat geleitet hat. „Dennoch ist diese Vereinbarung ein starkes Signal für die Zukunftsfähigkeit des Standorts Augsburg. Es ist uns damit gelungen, den Personalabbau zu begrenzen.“

Im November hatte das Unternehmen mitgeteilt, mehr Jobs abzubauen als geplant und insgesamt 560 statt 400 Vollzeitstellen streichen zu wollen.

Ein Unternehmenssprecher begründete den Schritt damals mit einer weiterhin verschärften Marktlage im Bereich der Industrieroboter. In diesem Jahr fehlten Kuka neue Aufträge im Wert von mehr als 100 Millionen Euro. Kuka ist zu einem großen Teil von Bestellungen aus der Automobilindustrie abhängig. Insgesamt hat Kuka etwa 3.000 Mitarbeiterinnen und Mitarbeiter in Augsburg.

(olb)