Connect with us

Datenschutz & Sicherheit

Werbeindustrie liest mit: KI-Chatbots schicken Inhalte aus Gesprächen an Tracking-Firmen



Werbeindustrie liest mit: KI-Chatbots schicken Inhalte aus Gesprächen an Tracking-Firmen

Chatbots übermitteln Informationen aus Gesprächen an verschiedene Tracking- und Werbedienste und gefährden damit die Privatsphäre. Dazu zählen Titel und Links von Chats, wörtliche Eingaben und sogar Screenshots. Das zeigt eine neue Studie des Forschungsinstituts IMDEA Networks.

Für die Studie hat das Forschungsteam aus Madrid neun große KI-Dienste untersucht: ChatGPT, Claude, Perplexity, Grok, Gemini, Mistral AI, Meta AI, DeepSeek und Microsoft Copilot. Sechs der neun Webversionen und drei von acht Android-Apps teilten dabei Informationen aus den Gesprächen mit Tracking- und Werbediensten. Zu den Drittanbietern, an die Daten übermittelt wurden, gehörten auch bekannte Unternehmen wie Google, Meta und TikTok.

Schon Chat-Titel enthalten private Informationen

Menschen erzählen KI-Chatbots Dinge, die sie sonst vielleicht niemandem anvertrauen würden. Sie fragen nach Krankheiten, teilen Geldsorgen und besprechen Beziehungsprobleme. Chatbots erstellen für diese Gespräche automatisch zusammenfassende Titel. Sie sollen Nutzer:innen helfen, einen Chat in der Gesprächs-Historie wiederzufinden.

Aus der Frage nach Parkinson-Symptomen wird etwa der Titel „Parkinson-Symptome im Frühstadium“. Aus der Frage nach einer möglichen Hypothek in New York entsteht der Titel „85.000-Dollar-Gehalt in NYC: 280.000 – 350.000 Dollar Hypothek“. Mit diesen Fragen untersuchten die Forschenden, welche Informationen die Chatbots in ihre Titel aufnehmen.

Gemini, Grok und Mistral gaben diese vielsagenden Chat-Titel laut der Untersuchung auch an Dritte weiter. „Selbst scheinbar harmlose Informationen wie Chat-Titel können sehr persönliche Interessen, Sorgen und Lebensumstände offenbaren“, sagt Narseo Vallina-Rodriguez aus dem Forschungsteam von IMDEA Networks auf Anfrage von netzpolitik.org.

Wir kaufen keine Daten.

Wir recherchieren, wer es tut. Mit deiner Unterstützung.

Mögliche Verknüpfung mit Nutzerprofilen

Ein Chat-Titel allein kann dabei bereits sensible Rückschlüsse zulassen. Wird er zusammen mit Kennungen wie E‑Mail-Adressen oder Nutzer-IDs übermittelt, lässt sich möglicherweise auch erkennen, zu welchem Konto die Information gehört.

„Diese Informationen könnten mit bereits bestehenden Nutzerprofilen verknüpft werden, die Werbe- und Trackingunternehmen führen“, sagt Vallina-Rodriguez. Deren Technologien seien in Millionen von Websites und mobilen Apps eingebunden, möglicherweise, ohne dass die Betroffenen davon wissen.

Laut der Studie hatten die Chatbots von Antrophic, Mistral und Perplexity AI E‑Mail-Adressen an Dritte übermittelt. Nutzer-IDs wurden bei ChatGPT, Claude, Le Chat und Perplexity weitergegeben.

Chat-Links können ganze Gespräche offenlegen

Kritisch sind auch die Links, die die Chatbots für jeden Chat automatisch erstellen und über die sich die Unterhaltung aufrufen lässt. Laut der Studie wurden diese von ChatGPT, Claude, Grok, Mistral und Perplexity an Dritte übermittelt. Bei ChatGPT, Claude und Mistral sind die verlinkten Gespräche den Forschenden zufolge nur für die jeweiligen Ersteller zugänglich. Bei Perplexity sind Chat-Links dagegen auch öffentlich abrufbar, wenn der Chatbot mit einem Gastzugang genutzt wird. Wer dem Link folgt, sieht dann den gesamten Gesprächsverlauf.

Besonders problematisch ist laut der Studie der Fall von Grok, dem Chatbot von Elon Musks Firma xAI. Bei Gesprächen im Browser hat Grok unter anderem Chat-Titel und Chat-Link an verschiedene Drittanbieter wie Meta, Tiktok, Google und Twitter Analytics übertragen. Diese sind laut den Forschenden sowohl in der kostenlosen als auch der kostenpflichtigen Version von Grok standardmäßig öffentlich zugänglich, sofern Nutzer:innen das nicht abschalten. Dadurch könnten Dritte Zugriff auf den Gesprächsverlauf haben – inklusive eingegebener Prompts und generierter Antworten.

Geteilte Chats erhöhen Risiko

Zusätzlich können Nutzer:innen ihre Gespräche mit Chatbots über sogenannte Share-Links bewusst mit anderen teilen. Im Fall solcher geteilten Gespräche hat Grok sehr weitreichende Informationen mit anderen Unternehmen geteilt: Meta erhielt Titel und den letzten Prompt. TikTok erhielt außerdem einen Screenshot der Unterhaltung.

Alles netzpolitisch Relevante

Drei Mal pro Woche als Newsletter in deiner Inbox.

Um zusätzlich zu untersuchen, ob die Share-Links tatsächlich aufgerufen werden, bauten die Forschenden Köder-Links in geteilte Grok-Gespräche ein. Sie verzeichneten 70 Abrufe von 70 IP-Adressen aus 14 Ländern, teilweise noch Tage nach dem ursprünglichen Gespräch.

Die Forschenden prüften auch, ob Nutzer:innen das Tracking durch Datenschutzmaßnahmen einschränken können. Selbst nachdem alle nicht notwendigen Cookies abgelehnt wurden, blieben laut Studie 80,8 Prozent der beobachteten Drittanbieter-Tracker aktiv. Auch zwischen kostenlosen und kostenpflichtigen Konten fanden die Forschenden kaum Unterschiede.

Auf Anfrage von netzpolitik.org verwies Google auf den technischen Zweck von Google Analytics. Das Tool helfe dabei, die Leistung von Gemini zu überwachen und Störungen zu erkennen. „Wir halten uns an die geltenden europäischen Datenschutzbestimmungen“, schreibt eine Google-Sprecherin. Auf die konkreten Ergebnisse der Studie ging Google nicht näher ein. xAI, Mistral und Perplexity ließen die Anfrage unbeantwortet.

Datenschutzbehörden eingeschaltet

Laut der Studie informierten die Forschenden im April 2026 auch europäische Datenschutzbehörden über ihre Ergebnisse. Ende Mai beantragte die spanische Datenschutzbehörde AEPD, den Fall im Europäischen Datenschutzausschuss zu beraten. Die Forschenden kontaktierten außerdem den Grok-Anbieter xAI, von dem sie jedoch bis zur Veröffentlichung der Studie Ende September keine Antwort erhielten. Zu diesem Zeitpunkt waren Grok-Chats weiterhin öffentlich abrufbar.

Wie relevant der Umgang mit Chatdaten ist, zeigen auch aktuelle Entwicklungen bei OpenAI. Das Unternehmen kündigt an, personalisierte Werbung in ChatGPT künftig auch in Europa auszuspielen und dafür unter anderem Informationen aus früheren und aktuellen Chats zu nutzen. Die Berliner Datenschutzbeauftragte warnt, dass dadurch auch sensible persönliche Informationen für Werbezwecke ausgewertet werden könnten.



Source link

Datenschutz & Sicherheit

KW 46: Die Woche, in der wir Richtung Geheimpolizei gehen


Liebe Leser*innen,

Deutschland ist auf dem Weg, eine Art Geheimpolizei zu schaffen. Und gemessen daran, was die schwarz-rote Koalition am gestrigen Freitag erfolgreich durch den Bundestag gebracht hat, sind die Reaktionen bisher erstaunlich zurückhaltend. Kaum jemand protestiert dagegen, dabei ist diese Reform aus dem Hause Dobrindt (CSU) wirklich ein Umbruch.

Agent*innen des Verfassungsschutzes sollen etwa das Recht bekommen, heimlich Wohnungen von Bürger*innen betreten zu dürfen. Sie sollen sogar Datenträger heimlich zerstören oder manipulieren dürfen, Informationen löschen.

Wer aus welchen Gründen auch immer auf dem Radar des Verfassungsschutzes landet, wird womöglich nie erfahren, wer in der Wohnung war und warum. Denn anders als die Polizei, die bisher erst nach richterlicher Anordnung eine Wohnung durchsuchen und dabei viele Regeln befolgen muss, müssen „echte Geheimdienste“, wie Dobrindt sie jetzt nennt, kaum Rechenschaft ablegen.

Das ist eine ganz schön harte Gangart für einen Rechtsstaat. Besonders für einen Rechtsstaat wie Deutschland, wo die Aufgaben von Geheimdiensten und Polizei ganz bewusst getrennt wurden, als Lehre aus dem Nationalsozialismus und der Brutalität, mit der die Geheime Staatspolizei damals gegen Jüd*innen und politisch Andersdenkende vorging. Das Trennungsgebot war ein wichtiger Pfeiler der Vorsicht, um den Sicherheitsapparat einzuhegen und Menschen vor Übergriffen des Staates zu schützen.

Das heimliche Betreten von Wohnungen ist nur eine von vielen problematischen neuen Befugnissen. Meine Kollegin Anna Biselli hat sie nochmal hier aufgezählt. Die Linken-Abgeordnete Clara Bünger hielt gestern im Bundestag eine flammende Gegenrede. Flankiert wurde sie von den Warnrufen vieler Menschenrechtsorganisationen. Konstantin von Notz von den oppositionellen Grünen lobte hingegen die Arbeit der Koalition: „Heute ist ein guter Tag für die Sicherheit der Bundesrepublik Deutschland“.

Öl ins Feuer

Die Bundesregierung gießt mit dieser Reform Öl ins Feuer: Sie rüstet den Überwachungsstaat auf und beschneidet Grundrechte. Das ist besonders gefährlich in einer Zeit, in der Rechtsextreme in Richtung Regierung drängen. Denn der Schutz demokratischer Werte und Errungenschaften beginnt schon, bevor die Rechtsradikalen an den Hebeln der Macht sitzen.

Auch deswegen haben wir eng und detailliert über dieses Gesetz berichtet. Wie so oft haben wir es nicht verhindern können. Doch wir wollen wenigstens, dass die kritischen Stimmen so laut wie möglich sind und dass das historische Ausmaß klar wird, in dem diese Reform unsere Demokratie verändert. Es ist wahrlich eine „Jahrhundertreform“, wie Alexander Dobrindt sagt – nur nicht im guten Sinne.

Wir sagen nicht nur laut, was schief läuft und gefährlich für unsere Verfassung ist. Wir denken Sicherheit auch anders und neu. Als echte Sicherheit, die schon bei unseren Lebensgrundlagen anfängt, bei Bildung, sozialer Sicherung oder Klimaschutz.

Damit Grund- und Freiheitsrechte eine hörbare Stimme haben, suchen wir derzeit Unterstützung. Bis Sonntag läuft noch unsere Suche nach Brandschutzhelfer*innen: Menschen, die uns mit einem monatlichen Betrag unterstützen.

Für uns macht das einen großen Unterschied, denn regelmäßige Unterstützung wirkt nachhaltiger als eine Einzelspende.Wir können damit Recherchen langfristig anlegen und zugleich in die Tiefe gehen. Wir müssen seltener um Unterstützung bitten und können mehr Energie in die redaktionelle Arbeit stecken.

Wenn du unsere Arbeit mit einer Dauerspende unterstützt, können wir dranbleiben – an der Geheimdienstreform, an dieser Bundesregierung und an allen Versuchen, die unsere Verfassung gefährden. Wir wühlen uns durch die Bleiwüsten von Gesetzen, um klar und deutlich zu sagen, was passiert.

Das geht nur mit Deiner Hilfe.

Chris



Source link

Weiterlesen

Datenschutz & Sicherheit

Amazon Ring rüstet auf: Endlich autonome Drohnen für die Heimüberwachung!


Es gibt solche Meldungen, wo man einfach nur noch den Kopf schütteln kann. Also einerseits darüber, wie man als Journalist eine Drohne zur Heimüberwachung so genügsam heruntererzählen kann, als habe irgendwer gerade ein neues Druckermodell oder eine elektrische Zahnbürste herausgebracht.

Andererseits über das Produkt selbst: Wir sind jetzt also bei autonomen Überwachungsdrohnen für den Heimgebrauch angekommen. Fliegende Kameras, die mit der notorischen Amazon-Videoüberwachung gekoppelt das Eigenheim absichern sollen.

Zunächst soll die Drohne nur in den USA verkauft werden. Bei Heise heißt es dazu nüchtern:

Sie harrt in ihrer Ladestation aus und startet ihre Kontrollflüge anhand zuvor festgelegter Routen und Zeitpläne. Zudem kann die Drohne in ein bestehendes Ring-Ökosystem eingebunden werden. Dann führt die Ring Drone automatisch einen Kontrollflug in Innenbereichen zu festgelegten Punkten durch, wenn ein Alarm von einer Ring-Kamera, einem Sensor oder einem Alarmsystem ausgelöst wird. Dort erfasst die Drohne dann die Umgebung durch eine 360-Grad-Flugbewegung und sendet die Bilder an Smartphones von Nutzerinnen und Nutzern.

Schöne neue Welt.

 

Wie die Polizei mit vernetzten privaten Kameras amerikanische Kleinstädte überwacht

Eigentlich ist Sarkasmus fehl am Platze. Denn Amazon Ring rüstet seit Jahren private Haushalte mit Überwachungs-Gagdets aller Art auf – und erweitert dadurch die Überwachungssphäre des Staates massiv.

Behörden bekommen zum Nulltarif eine Überwachung von Wohnungen, Vorgärten und Straßen aufgebaut.
Sie können die Aufnahmen per Knopfdruck beim Bürger anfragen oder sie von Amazon bekommen, manchmal ohne richterlichen Beschluss und machmal auch mit. Schon vor fünf Jahren arbeiteten 2.000 US-Behörden mit Amazon bei dieser Form der Überwachung zusammen.

Nie war der Ausbau der Videoüberwachung so billig. Die Bürger:innen protestieren nicht dagegen. Sie schrauben die Kameras selbst an die Wand. Sie zahlen sie sogar mit Freude.

Win Win Win für den Überwachungsstaat – und für Amazon.



Source link

Weiterlesen

Datenschutz & Sicherheit

Operation Endgame: Weltweiter Schlag gegen Cybercrime


In einer international von Europol koordinierten Aktion aus dem Umfeld der „Operation Endgame“ sind Strafverfolger gegen 235 Server und 257 Domains aus dem Malware-Umfeld von Gootloader, CastleRAT und StealC vorgegangen. Die Malware-Verteilungsnetzwerke seien dadurch empfindlich gestört, teilt Europol zur jüngsten Runde der Operation mit.

Weiterlesen nach der Anzeige

Europol erklärt in der Mitteilung, dass sie mit „Operation Endgame“ insbesondere „Cybercrime-as-a-Service“-Geschäftsmodelle im Visier haben. Die dabei eingesetzten Tools ermöglichten weitere Straftaten wie Ransomware-Angriffe und Datendiebstahl. Die Strafverfolger haben zudem mit Unternehmen aus der Wirtschaft zusammengearbeitet. Sie sind gegen drei bösartige Toolkits vorgegangen: Bei Gootloader handelt es sich um einen Dropper/Loader, der unbefugten Zugriff auf Computer ermöglicht. Er kommt üblicherweise in Form gefälschter juristischer Dokumente auf kompromittierten Webseiten – oftmals geknackte WordPress-Seiten – auf die Rechner der Opfer. Die Täter setzen oft auf Erpressung durch Installation von Ransomware. Allein zu Gootloader haben die Ermittler 14 Server und 218 Domains vom Netz genommen, 681 infizierte Webseiten wurden bereinigt.

Der Remote-Access-Trojan (RAT) CastleRAT ist demnach seit dem Jahr 2025 bekannt. Er ermöglicht den Missbrauch infizierter Computer aus der Ferne. CastleRAT liefere eine moderne technische Architektur, erörtern die Ermittler. Er lasse sich flexibel verteilen und nutze Mechanismen, die die Erkennung erschweren. Auch mit CastleRAT haben die Angreifer zahlreiche Daten verschlüsselt und ganze IT-Systeme lahmgelegt, um die Betroffenen um Lösegeld zu erpressen. 120 der Server betrafen das RAT, dazu gehören zudem 39 der beschlagnahmten Domains. Die Daten von Opfern wurden zudem weitergegeben, um sie zu warnen. Außerdem waren 102 der Server für den Infostealer StealC zuständig. Der wurde über zahlreiche Angriffsvektoren verteilt und dient dazu, sensible Informationen wie Zugangsdaten und Passwörter, digitale Identitäten und mehr von infizierten Computern auszuleiten. Die Täter missbrauchen die Daten dann etwa für Handel und Betrügereien.

Mehr als 6 Millionen Zugangsdaten von Opfern haben die Ermittler in der kriminellen Infrastruktur ausfindig gemacht. Die Angreifer hätten die Daten verkauft, sodass sie später auch für Cyberangriffe etwa mit Ransomware missbraucht werden können. Die Daten der Opfer haben die Ermittler etwa mit dem Have-I-Been-Pwned-Projekt, DIVD, CheckjeHack, NoMoreLeaks, Sekoia, der Shadowserver Foundation und dem NL-NCSC geteilt, damit diese die Opfer über den Diebstahl durch die CastleRAT-Malware informieren können. Europol rät WordPress-Nutzerinnen und -Nutzern, ihre Zugangsdaten zu erneuern und Mehr-Faktor-Authentifizierung einzusetzen – außerdem sollen sie Schwachstellen in ihren Installationen patchen.

An der Aktion waren zahlreiche internationale Strafverfolgungsbehörden aus Europa, Kanada und den USA beteiligt. Aus Deutschland wirkte das Bundeskriminalamt mit. Beim Infostealer StealC knüpft die jetzige Aktion an die Juni-Runde an, in der die Ermittler auch gegen die Malware „SocGholish“ vorgegangen waren.


(dmk)



Source link

Weiterlesen

Beliebt