Lockdown-Mode für ChatGPT: Besserer Schutz vor manipu­lierter Abfrage von sensiblen Daten

OpenAI hat mit dem Rollout einer neuen Sicherheitsfunktion begonnen, die Nutzer besser vor den Folgen von Prompt-Injection-Angriffen und dem Abfluss sensibler Daten schützen soll. Dafür werden bestimmte ChatGPT-Funktionen eingeschränkt, um das Risiko zu verringern, dass manipulierte Inhalte Informationen auslesen können.

Verbesserter, aber kein genereller Schutz

Die neue Sicherheitsfunktion, die OpenAI als „Lockdown-Mode“ bezeichnet, stellt eine zusätzliche Schutzebene dar. Sie soll unter anderem vor Anweisungen schützen, die in manipulierten Websites oder anderen Inhalten versteckt sind und für Prompt-Injection-Angriffe genutzt werden. Solche Angriffe können KI-Systeme zu unerwünschten Aktionen bis hin zur Preisgabe sensibler persönlicher Informationen verleiten. Laut OpenAI kann die neue Funktion diese Anweisungen allerdings nicht verhindern, stattdessen konzentriert sie sich darauf, die letzte Phase eines Angriffs zu erschweren und mögliche Datenabflüsse zu unterbinden, indem Netzwerkzugriffe und andere potenziell ausnutzbare Funktionen eingeschränkt werden.

Zur besseren Einordnung unterscheidet OpenAI zwischen verschiedenen Risikostufen. Nicht vertrauenswürdige Apps sowie Schreibzugriffe auf Systeme mit breiter oder unklarer Sichtbarkeit gelten demnach als besonders kritisch. Synchronisierte Datenquellen und reine Lesezugriffe werden dagegen als risikoärmer eingestuft, dennoch können auch dort sensible Informationen enthalten sein, die zum Ziel eines Angriffs werden könnten.

Viele Funktionen nur noch eingeschränkt oder gar nicht verfügbar

Bei aktiviertem Modus werden zudem verschiedene Funktionen deutlich eingeschränkt oder vollständig deaktiviert, was zugleich die Nutzungsmöglichkeiten reduziert. ChatGPT kann dann nur noch auf zwischengespeicherte Inhalte zugreifen, wodurch Suchergebnisse eingeschränkt, veraltet oder teilweise gar nicht verfügbar sein können. Nutzer können zwar weiterhin Bilder hochladen und generieren lassen, der Chatbot kann jedoch unter Umständen nicht mehr auf Bilder aus dem Internet zugreifen und zeigt innerhalb von Antworten keine externen Bilder mehr an.

Eine weitere Einschränkung besteht darin, dass das KI-Modul keine Dateien mehr eigenständig herunterladen und analysieren kann, manuell lassen sich Dokumente hingegen weiterhin hochladen. Auch Funktionen wie Deep Research und Agent Mode stehen im Lockdown-Mode grundsätzlich nicht mehr zur Verfügung. Bei persönlichen Konten und selbst verwalteten Business-Konten bleiben Synchronisations-Connectoren grundsätzlich nutzbar, während Live-Zugriffe auf externe Dienste sowie Schreibaktionen blockiert werden. Gleiches gilt für Finanzdienste und Shopping-Agenten.

Fokus auf sensible Daten

Laut OpenAI richtet sich die neue Funktion allerdings weniger an die breite Nutzerschaft als an Personen und Organisationen, die mit besonders sensiblen Informationen arbeiten und daher strengere Sicherheitsvorkehrungen benötigen. Ein aktivierter Lockdown-Mode hat darüber hinaus keine Auswirkungen auf bestehende Einstellungen wie Memory-Funktionen, Datei-Uploads, das Teilen von Konversationen oder die Nutzung von Unterhaltungen zur Modellverbesserung. Viele dieser Bereiche können auch bei aktiviertem Schutz weiterhin unabhängig von Workspace-Administratoren verwaltet werden.

Auch neuer Sitzungsmanager teil des Updates

Mit dem nun gestarteten Rollout führt OpenAI zudem einen aktiven Sitzungsmanager ein. Dieser zeigt unter anderem an, über welche Geräte oder Browser auf ein Konto zugegriffen wurde. Als weitere Sicherheitsfunktion können Anwender zudem einzelne Sitzungen oder direkt alle aktiven Sitzungen gleichzeitig abmelden. Laut OpenAI kann dieser Vorgang allerdings bis zu 30 Minuten in Anspruch nehmen.

Ab sofort für alle

Der Lockdown-Mode wird ab sofort schrittweise für alle persönlichen ChatGPT-Konten einschließlich der kostenlosen Version bereitgestellt. Aktivieren lässt sich die Funktion über die erweiterten Sicherheitseinstellungen im Einstellungsmenü. Für einzelne Unterhaltungen kann der Modus bei Bedarf vorübergehend deaktiviert werden.