Je umfangreicher KI für dich arbeitet, desto größer werden auch die Risiken. Wer zum Beispiel regelmäßig mit ChatGPT und Codex von OpenAI arbeitet und dabei auf agentische Fähigkeiten setzt, muss damit rechnen, dass die Prozesse potentiell mehr Angriffsfläche für bösartige Interaktionen bieten. Wenn konversationelle KI-Systeme wie ChatGPT etwa im Web suchen und mehrere Touchpoints im Digitalraum passieren, können sie Opfer von sogenannten Prompt Injections werden. Dabei versuchen Dritte – oder deren KI-Agents – das KI-System zu täuschen und mit eigenen, bösartigen Anweisungen zu versorgen. Auf diese Weise sollen sensible Inhalte extrahiert werden, von User-Daten bis hin zu Geschäftsgeheimnissen.

Um dieser Gefahr zu begegnen, startet OpenAI eine Art Abschottungsmodus für ChatGPT. Dieser ist aber zunächst limitiert. Darüber hinaus werden Risikowarnungen für die eigenen Dienste eingeführt, die aufzeigen, welche Zugriffe oder Funktionen risikoreich sind.

ChatGPT erreicht 1 Milliarde App User schneller als TikTok und YouTube

Das ist ChatGPT Lockdown: Optional und für eine kleine Gruppe

„Für die meisten Nutzer:innen ist er nicht notwendig,“ erklärt OpenAI im eigenen Blog Post zum neuen Lockdown Mode für ChatGPT. Es handelt sich um eine optionale Sicherheitseinstellung, die User über die Einstellungen im Bereich der erweiterten Sicherheit bei Bedarf aktivieren können. Der Lockdown Mode ist für die Kontotypen ChatGPT Enterprise, ChatGPT Edu, ChatGPT für das Gesundheitswesen und ChatGPT für Lehrkräfte verfügbar, allerdings erscheint er nur bei einer kleinen Gruppe von Usern. Das sind besonders sicherheitsbewusste und sicherheitsbedürftige User, etwa „Führungskräfte oder Sicherheitsteams in renommierten Organisationen“. Wer genau Zugriff erhält, ist nach OpenAIs Kriterien nicht völlig klar. Im Hilfebereich heißt es zur neuen Lösung:

Lockdown Mode is rolling out to eligible personal accounts, including Free, Go, Plus, and Pro, and self-serve ChatGPT Business accounts. If you do not see Lockdown Mode in your settings, it may not be available for your account yet.

Der Lockdown Mode ist dafür da, die Interaktionen von ChatGPT mit externen Diensten zu beschränken. Auf diese Weise sollen Datenexfiltrationen durch Prompt Injection verhindert, zumindest aber verringert werden. Nicht alle Risiken können aber eliminiert werden. Verstecken sich bösartige Codes in hochgeladenen Elementen, kann es trotz des Modes zur Prompt Injection kommen. Verringert wird das Risiko aber, weil im Lockdown Mode kein Web Surfing möglich ist (abgesehen von zwischengespeicherten Inhalten), keine Bildbereitstellung aus dem Web – auch wenn weiterhin Bilder kreiert werden können –, kein Deep Research und Agent Mode, kein Datei-Download und kein Canvas Networking.

Lockdown Mode lässt Admins Spielraum

Im Lockdown Mode nutzt OpenAI die Konversationen weiterhin für das KI-Training, während grundlegende Funktionen in der Konversationen, aber auch bei Codex nicht eingeschränkt werden sollen. Der App-Zugriff ist bei persönlichen Accounts größtenteils gegeben, Erweiterungen wie Finances in ChatGPT sind nicht verfügbar. In verwalteten Workspaces geben die Einstellungen und Rollen die Zugriffe auf Apps, MCPS und Konnektoren vor, wobei Admins vorgeben können, welche kritischen Elemente auch im Lockdown Mode benötigt werden. Admins können zudem eine personalisierte Rolle für den Lockdown Mode erstellen und Mitglieder sowie Gruppen hinzufügen. Im Hilfebereich finden sie noch mehr Möglichkeiten zur Verwaltung der Lockdown-Option.

Dieser Schutzmechanismus soll in den nächsten Monaten umfassend bereitgestellt werden. Bis dahin können sich die User, gerade bei ChatGPT Business-Modellen, auf „Datensicherheit auf Unternehmensniveau“ von OpenAI berufen. Derweil erkennt das KI-Unternehmen in den Prompt Injections kein akutes Riesenproblem, sieht jedoch die Möglichkeit, dass sich die böswilligen Zugriffsversuche mit fortschreitender KI-Technik zu einem größeren Problem als bisher entwickeln könnten.

Fundierte Entscheidungen zu Risiken treffen: Warnungen zu erhöhten Risiken in OpenAIs Diensten

Wer im Agent Mode arbeitet oder beispielsweise den Netzwerkzugriff beim Coding Agent Codex aktiviert, sollte sich darüber im Klaren sein, dass diese Einstellung das Risiko in Bezug auf Prompt Injections und Co. erhöht. Damit User selbst entscheiden können, ob sie etwaige Risiken bei der Nutzung der OpenAI-Produkte eingehen möchten, vereinheitlicht das Unternehmen die Risikowarnungen. Künftig wird bei ChatGPT, Codex und im Atlas Browser das Label „Erhöhtes Risiko“ bei Funktionen integriert, die ein solches Risiko aufweisen. Neben dem Label erscheint eine kurze Übersicht über Risikofaktoren, Nutzungshinweise und weiterführende Informationen.

Diese Sicherheitswarnhinweise könnte OpenAI zukünftig aber auch wieder entfernen. Das soll der Fall sein, wenn die Sicherheitsfortschritte für die allgemeine Nutzung so groß sind, dass kaum noch ein Risiko besteht.

Allgemein gilt, unabhängig vom Unternehmen und Tool Stack, dass die User reflektiert und informiert an die Nutzung herangehen sollten, gerade wenn sie mit sensiblen Daten oder Geschäftsinterna arbeiten. Eine Risikoabwägung gehört im KI-Zeitalter ebenso zum Nutzungsalltag wie die Auswahl der jeweils passenden Tools und Funktionen.

ChatGPT und Codex im Fokus:

OpenAI steht wohl vor Super-App

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.