ChatGPT-Prompts tauchten offenbar in der Google Search Console auf

Technikanalysten haben Einträge in der Google Search Console einer Webseite entdeckt, die stark nach ChatGPT-Prompts aussehen. Offenbar leitet OpenAI diese ungeschützt an die Google-Suche weiter. Der KI-Hersteller bestätigte das Problem nicht direkt, erklärte aber, ein entsprechender „Fehler“ sei nun behoben.

Entdeckt wurde das Problem von den beiden Tech-Beratern Jason Packer und Slobodan Manić, vergangenen Monat informierte Packer in einem Blogpost darüber. Packer hatte über die Einträge in der Google Search Console (GSC) einer Webseite gestutzt. Hier werden den Seitenbetreibern Google-Suchanfragen angezeigt, bei denen die eigene Seite in den Ergebnissen auftauchte. In Packers Fall bestanden diese Einträge aber nicht wie üblich aus wenigen Worten, sondern waren kleine Texte. Und es waren solche, die sehr stark an LLM-Prompts erinnerten. Insgesamt 200 solcher Einträge zählte er, teils mit sehr persönlichem Inhalt. Auffällig dabei: Alle hatten am Anfang eine ChatGPT-URL.

OpenAI: „Temporärer Fehler“

Außerdem entdeckten sie nach genauerer Suche einen Bug in einem ChatGPT-Prompt-Eingabefeld, welcher offenbar dafür sorgte, dass das Modell zu jedem Prompt auch eine Websuche durchführte und dafür eine ChatGPT-URL am Anfang des Prompts hinzufügte. Hier griff ChatGPT dann wohl auch auf Google zurück, allerdings nicht über eine API oder eine private Verbindung – sonst würden die Prompts nicht in der GSC auftauchen, führt der Autor aus. Auftauchen können die Prompts in der GSC von jeder Webseite, welche Googles Suchalgorithmus als relevant für die ChatGPT-URL erachtet. Packer gibt in seinem Beitrag zu bedenken, dass so verarbeitete ChatGPT-Prompts definitiv nicht privat sind – sie würden sowohl bei Google, in den GSCs diverser Website-Betreiber und womöglich auch bei einer Stelle landen, welche die Google-Suchen für ChatGPT-Prompts übernimmt.

Gegenüber der Nachrichtenagentur Ars Technica wollte OpenAI das nicht bestätigen, gab aber an, sich dem Problem mit der GSC bewusst zu sein. Zudem sprach OpenAI davon, einen Fehler behoben zu haben, der „vorübergehend“ bestanden und „eine sehr kleine Zahl von Suchanfragen betroffen habe“ und sich auf die Weiterleitung von Suchanfragen ausgewirkt habe. Packer geht nach der OpenAI-Stellungnahme davon aus, dass der Fehler in der Schicht von ChatGPT bestanden hat, der für die Umwandlung von Prompts in Suchanfragen verantwortlich ist. Statt wie vorgesehen einen Prompt in wenige relevante Suchbegriffe herunterzubrechen, wurde einfach der gesamte Prompt für die Suchanfrage genutzt.

Packer: Starke Hinweise

Die These, dass es sich hier wirklich um ChatGPT-Prompts handelt, stützt Packer zum einen auf frühere Berichte, dass OpenAI Scraping bei der Google-Suche betreibt. Der Inhalt der GSC-Einträge an sich, und dass sich am Anfang stets eine ChatGPT-URL befindet, sieht er als weitere starke Hinweise. Von einer hundertprozentigen Sicherheit möchte er aber auch nicht sprechen.

Es ist nicht das erste Mal, dass privat geglaubte ChatGPT-Prompts öffentlich werden. Im Sommer machte eine falsch verstandene Funktion sehr private Chats öffentlich auffindbar – im Zweifel samt Namen.

(nen)