Je umfangreicher KI für dich arbeitet, desto größer werden auch die Risiken. Wer zum Beispiel regelmäßig mit ChatGPT und Codex von OpenAI arbeitet und dabei auf agentische Fähigkeiten setzt, muss damit rechnen, dass die Prozesse potentiell mehr Angriffsfläche für bösartige Interaktionen bieten. Wenn konversationelle KI-Systeme wie ChatGPT etwa im Web suchen und mehrere Touchpoints im Digitalraum passieren, können sie Opfer von sogenannten Prompt Injections werden. Dabei versuchen Dritte – oder deren KI-Agents – das KI-System zu täuschen und mit eigenen, bösartigen Anweisungen zu versorgen. Auf diese Weise sollen sensible Inhalte extrahiert werden, von User-Daten bis hin zu Geschäftsgeheimnissen.

Um dieser Gefahr zu begegnen, startet OpenAI eine Art Abschottungsmodus für ChatGPT. Dieser ist aber zunächst limitiert. Darüber hinaus werden Risikowarnungen für die eigenen Dienste eingeführt, die aufzeigen, welche Zugriffe oder Funktionen risikoreich sind.

ChatGPT erreicht 1 Milliarde App User schneller als TikTok und YouTube

Das ist ChatGPT Lockdown: Optional und für eine kleine Gruppe

„Für die meisten Nutzer:innen ist er nicht notwendig,“ erklärt OpenAI im eigenen Blog Post zum neuen Lockdown Mode für ChatGPT. Es handelt sich um eine optionale Sicherheitseinstellung, die User über die Einstellungen im Bereich der erweiterten Sicherheit bei Bedarf aktivieren können. Der Lockdown Mode ist für die Kontotypen ChatGPT Enterprise, ChatGPT Edu, ChatGPT für das Gesundheitswesen und ChatGPT für Lehrkräfte verfügbar, allerdings erscheint er nur bei einer kleinen Gruppe von Usern. Das sind besonders sicherheitsbewusste und sicherheitsbedürftige User, etwa „Führungskräfte oder Sicherheitsteams in renommierten Organisationen“. Wer genau Zugriff erhält, ist nach OpenAIs Kriterien nicht völlig klar. Im Hilfebereich heißt es zur neuen Lösung:

Lockdown Mode is rolling out to eligible personal accounts, including Free, Go, Plus, and Pro, and self-serve ChatGPT Business accounts. If you do not see Lockdown Mode in your settings, it may not be available for your account yet.

Der Lockdown Mode ist dafür da, die Interaktionen von ChatGPT mit externen Diensten zu beschränken. Auf diese Weise sollen Datenexfiltrationen durch Prompt Injection verhindert, zumindest aber verringert werden. Nicht alle Risiken können aber eliminiert werden. Verstecken sich bösartige Codes in hochgeladenen Elementen, kann es trotz des Modes zur Prompt Injection kommen. Verringert wird das Risiko aber, weil im Lockdown Mode kein Web Surfing möglich ist (abgesehen von zwischengespeicherten Inhalten), keine Bildbereitstellung aus dem Web – auch wenn weiterhin Bilder kreiert werden können –, kein Deep Research und Agent Mode, kein Datei-Download und kein Canvas Networking.

Lockdown Mode lässt Admins Spielraum

Im Lockdown Mode nutzt OpenAI die Konversationen weiterhin für das KI-Training, während grundlegende Funktionen in der Konversationen, aber auch bei Codex nicht eingeschränkt werden sollen. Der App-Zugriff ist bei persönlichen Accounts größtenteils gegeben, Erweiterungen wie Finances in ChatGPT sind nicht verfügbar. In verwalteten Workspaces geben die Einstellungen und Rollen die Zugriffe auf Apps, MCPS und Konnektoren vor, wobei Admins vorgeben können, welche kritischen Elemente auch im Lockdown Mode benötigt werden. Admins können zudem eine personalisierte Rolle für den Lockdown Mode erstellen und Mitglieder sowie Gruppen hinzufügen. Im Hilfebereich finden sie noch mehr Möglichkeiten zur Verwaltung der Lockdown-Option.

Dieser Schutzmechanismus soll in den nächsten Monaten umfassend bereitgestellt werden. Bis dahin können sich die User, gerade bei ChatGPT Business-Modellen, auf „Datensicherheit auf Unternehmensniveau“ von OpenAI berufen. Derweil erkennt das KI-Unternehmen in den Prompt Injections kein akutes Riesenproblem, sieht jedoch die Möglichkeit, dass sich die böswilligen Zugriffsversuche mit fortschreitender KI-Technik zu einem größeren Problem als bisher entwickeln könnten.

Fundierte Entscheidungen zu Risiken treffen: Warnungen zu erhöhten Risiken in OpenAIs Diensten

Wer im Agent Mode arbeitet oder beispielsweise den Netzwerkzugriff beim Coding Agent Codex aktiviert, sollte sich darüber im Klaren sein, dass diese Einstellung das Risiko in Bezug auf Prompt Injections und Co. erhöht. Damit User selbst entscheiden können, ob sie etwaige Risiken bei der Nutzung der OpenAI-Produkte eingehen möchten, vereinheitlicht das Unternehmen die Risikowarnungen. Künftig wird bei ChatGPT, Codex und im Atlas Browser das Label „Erhöhtes Risiko“ bei Funktionen integriert, die ein solches Risiko aufweisen. Neben dem Label erscheint eine kurze Übersicht über Risikofaktoren, Nutzungshinweise und weiterführende Informationen.

Diese Sicherheitswarnhinweise könnte OpenAI zukünftig aber auch wieder entfernen. Das soll der Fall sein, wenn die Sicherheitsfortschritte für die allgemeine Nutzung so groß sind, dass kaum noch ein Risiko besteht.

Allgemein gilt, unabhängig vom Unternehmen und Tool Stack, dass die User reflektiert und informiert an die Nutzung herangehen sollten, gerade wenn sie mit sensiblen Daten oder Geschäftsinterna arbeiten. Eine Risikoabwägung gehört im KI-Zeitalter ebenso zum Nutzungsalltag wie die Auswahl der jeweils passenden Tools und Funktionen.

ChatGPT und Codex im Fokus:

OpenAI steht wohl vor Super-App

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.

Giulia Gwinn wirbt für Netto

Conversational Commerce verändert die Art, wie Unternehmen online beraten, verkaufen und Kund:innen binden. Viele Unternehmen stehen jedoch vor einer Herausforderung und fragen sich: Wie lassen sich digitale Einkaufserlebnisse wirklich personalisieren, ohne die Prozesse unnötig komplex zu machen?

Das E-Book von Epoq zeigt dir, wie Conversational Commerce Kund:innen gezielt begleitet und gleichzeitig Conversion, Kund:innenzufriedenheit und Umsatz steigert. Lade es dir direkt kostenfrei herunter und erfülle die Erwartungen deiner Shop-Kund:innen an eine personalisierte Beratung.

Direkt zum kostenfreien Whitepaper

Warum dieses E-Book wichtig ist

Kund:innen erwarten heute digitale Erlebnisse, die individuell, relevant und intuitiv sind. Conversational Commerce ermöglicht genau das: personalisierte Beratung entlang der Customer Journey – digital, skalierbar und datenbasiert. Doch noch kämpfen viele Unternehmen mit Problemen beim Aufbau ihrer Conversational Commerce Experience. Zu den Problempunkten gehören:

• fehlende Personalisierung im Online Shop
• niedrige Conversion Rates
• unklare Customer Journeys
• zu komplexe digitale Einkaufserlebnisse
• mangelnde Relevanz bei Produktempfehlungen

Diesen Herausforderungen können Unternehmen mithilfe des neuen Epoq E-Books gezielt begegnen und ihre digitale Beratung im Online Shop aufs nächste Level heben.

Was dich im E-Book erwartet

Das E-Book von Epoq liefert einen umfangreichen Einblick in zeitgemäße Personalisierungs- und Empfehlungsstrategien im KI-Zeitalter. Freue dich auf:

• Grundlagen und Potenziale von Conversational Commerce
  Verstehe, wie moderne digitale Beratung Kund:innenerlebnisse verändert.
• Personalisierung entlang der Customer Journey
  Lerne, wie individuelle Produktempfehlungen Kaufentscheidungen unterstützen.
• Praxisnahe Strategien und Ansätze
  Erhalte konkrete Einblicke in erfolgreiche Conversational-Commerce-Konzepte wie den AI Shopping Assistant.
• Mehr Conversion und Kund:innenbindung
  Nutze digitale Beratung, um Relevanz und Umsatz nachhaltig zu steigern.
• Verbindung von Technologie und Nutzer:innenerlebnis
  So entstehen digitale Shopping-Erlebnisse, die wirklich funktionieren.

Das vorliegende E-Book der Personalisierungsexpert:innen von Epoq kannst du dir bei uns direkt herunterladen. Es ist besonders geeignet für Unternehmen, die digitale Beratung und Personalisierung gezielt einsetzen möchten., sowie Entscheider:innen und Abteilungsverantwortliche aus den folgenden Bereichen:

• E-Commerce
• Digital Sales
• Marketing
• Customer Experience
• Innovation und Digitalisierung
• IT und Produktmanagement

Sichere dir jetzt den kostenlosen Download!

---

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.