Gespräche mit den gängigen Chatbots landen auf den Servern der Anbieter. Auch, wenn die Inhalte explizit nicht für das Training weiterer KI-Modelle genutzt werden, sind sie nicht Ende-zu-Ende-verschlüsselt. Das heißt, OpenAI, Anthropic, Google und Meta können im Zweifel mitlesen. Nun möchte der Gründer des Messengers Signal einen Chatbot anbieten, bei dem eben genau das nicht passiert. Confer soll Gespräche vor Einblicken anderer schützen. „Confer ist ein Dienst, mit dem du Ideen nachgehen kannst, ohne damit rechnen zu müssen, dass diese eines Tages gegen dich genutzt werden.“

Um den Chatbot nutzen zu können, muss man sich anmelden und einen Passkey erstellen. Der kann beispielsweise mittels Face ID, Fingerabdruck oder einer Geräte-PIN geschützt sein. Darüber werden weitere Schlüssel abgeleitet, die jedoch auf dem Gerät bleiben. Das heißt, auch Confer kann sie nicht einsehen oder nutzen. Chatanfragen werden also lokal verschlüsselt.

Ein KI-Modell muss allerdings auf einem Server samt GPUs laufen. Jemand muss den Server betreiben. Entsprechend hat diese Person oder Organisation Zugriff. Deshalb setzt Confer auf Confidential Computing und eine Trusted Execution Environment (TEE). In dieser hardwaregestützt isolierten Umgebung wird der Code ausgeführt. Der Quellcode ist auf Github verfügbar.

Fraglich ist, welches KI-Modell Confer nutzt. Darauf gibt es keine abschließende Antwort. Man kann nur vermuten, dass es eines der offenen Modelle ist. Diese gibt es beispielsweise mit Llama von Meta, Gemma von Google oder vom französischen Mistral.

KI-Anbieter werden die Daten zu Geld machen

In einem Blogbeitrag erklärt Marlinspike die Funktionsweise der Verschlüsselung. In einem weiteren Beitrag warnt er auch vor der Nutzung von KI-Chatbots beziehungsweise vor deren Anbietern. Man gebe seine Gedanken preis. Die Anbieter würden diese garantiert speichern, für KI-Trainings nutzen und vor allem ganz sicher monetarisieren. Es ist kein Geheimnis, dass etwa OpenAI damit liebäugelt, Werbung in ChatGPT zu bringen, um dadurch Geld zu verdienen. Google und Meta haben den Vorteil, Werbung in anderen Diensten anbieten zu können und dadurch ausreichend Einnahmen zu haben, um auch KI-Dienste zu entwickeln und anzubieten.

Aber auch sie, so befürchtet Marlinspike, werden die Informationen nutzen, die wir Chatbots geben, um darauf aufbauend personalisierte Werbung auszuspielen. Er geht so weit, zu sagen, die Anbieter würden uns schon davon überzeugen, dass wir bestimmte Dinge brauchen – sie könnten dafür das gesamte Kontextwissen über uns, Gedanken und Sorgen, nutzen. „Es wird vergleichbar damit sein, dass eine dritte Partei den Therapeuten dafür bezahlt, uns von etwas zu überzeugen.“

Zudem warnt er vor dem Mitlesen durch Behörden und Strafverfolger – neben den Anbietern. Marlinspike schreibt: „Du bekommst eine Antwort; Sie bekommen alles.“

(emw)

YouTube lockert seine Monetarisierungsrichtlinien zu Inhalten, die die Plattform als „kontrovers“ klassifiziert. YouTuber, die sich mit Themen wie Suizid, Essstörungen, häuslicher und sexueller Gewalt sowie Abtreibungen beschäftigen, können mit ihren Videos künftig in vollem Umfang Werbegeld einnehmen, wenn sie sich an einige Regeln halten.

Über die Änderungen an den „Richtlinien für werbefreundliche Inhalte“ informiert Google in einem YouTube-Video. Darin beschreibt YouTube-Monetarisierungs-Chef Conor Kavanagh auch die Beweggründe hinter der im Januar eingeführten Änderung: „Wir möchten sicherstellen, dass Creator, die sensible Geschichten erzählen oder dramatisierte Inhalte produzieren, die Möglichkeit haben, Werbeeinnahmen zu erzielen – und dabei gleichzeitig die Wahlfreiheit der Werbetreibenden respektieren. Wir haben bei genauerer Betrachtung festgestellt, dass unsere Richtlinien in diesem Bereich zu restriktiv waren.“

YouTube listet in den Richtlinien verschiedene Gruppen von Inhalten auf, die nicht oder nur eingeschränkt mit Werbeeinblendungen monetarisiert werden können. Neben den „Kontroversen Themen“ gibt es etwa auch bei hasserfüllten oder stark sexualisierten Inhalten solche Einschränkungen. Hier ändert YouTube nichts – die Lockerungen betreffen nur die Inhaltsgruppe der „Kontroversen Themen“.

Nachrichtenbeiträge und Warnungen

Ein Freifahrtschein ist die neue Youtube-Richtlinie nicht: Nach wie vor müssen sich YouTube-Nutzer verantwortungsvoll mit Themen beschäftigen, damit ihre Videos für volle Monetarisierung infrage kommen. Dazu zählt YouTube Videos, die versuchen, Ereignisse wie Suizid oder sexuelle Gewalt zu verhindern. Auch Videos, in denen „kontroverse Themen“ nur flüchtig erwähnt oder nicht drastisch dargestellt werden, sind laut den neuen Richtlinien für Werbung akzeptabel.

Damit will YouTube unter anderem dafür sorgen, dass journalistische Nachrichteninhalte oder Erfahrungsbeiträge monetarisiert werden dürfen. Auch mit dramatisierten Inhalten dürfen demnach Werbeeinahmen erzielt werden. YouTube nennt beispielhaft einen Film, in dem eine Person von einer Brücke springt.

Kindesmissbrauch bleibt tabu

Etwas vorsichtiger bleibt YouTube, wenn es um Kindesmissbrauch geht: Inhalte zu diesem Thema kommen weiterhin nur eingeschränkt oder gar nicht für Werbeeinnahmen in Frage. Werbung für oder Verherrlichung von Suizid oder Missbrauch sind für Werbung komplett tabu, genauso wie die „grausame Darstellung von selbstverletzendem Verhalten“ oder die „explizite Thematisierung von Essstörungen, die andere triggern oder zur Nachahmung verleiten kann.“

Mit seinen Richtlinienänderungen gibt YouTube seinen Kreativschaffenden etwas mehr Freiheit bei der Ausgestaltung ihrer Inhalte. Einige YouTuber haben es bislang aus Angst vor Demonetarisierung etwa vermieden, das Wort „Suizid“ überhaupt auszusprechen – das sollte fortan kein Problem mehr sein.

Google überarbeitet die Werberichtlinien für Inhalte auf YouTube sporadisch. Zuletzt waren die Richtlinien im Juli 2025 geändert worden, um Videos mit Profanität in den ersten sieben Sekunden nicht von Werbeeinnahmen auszuschließen.

In Deutschland finden Sie Hilfe und Unterstützung bei Problemen aller Art, auch bei Fragen zu Mobbing und Suiziden, bei telefonseelsorge.de und telefonisch unter 0800 1110111. Die Nummer gegen Kummer (Kinder- und Jugendtelefon) lautet 116 111. In Österreich gibt es ebenfalls kostenfreie Hilfsangebote, darunter speziell für Kinder der Kindernotruf unter 0800 567 567 sowie Rat auf Draht unter 147. Dieselbe Telefonnummer führt in der Schweiz zu Pro Juventute.

(dahe)

Die Rechnung vieler Chefs klingt einleuchtend: Die KI übernimmt Routineaufgaben, Mitarbeiter konzentrieren sich auf die komplexen Probleme. Doch die Realität sieht anders aus, wie eine neue Untersuchung des KI-Entwicklers Anthropic zeigt (PDF). In der Praxis werden an die Künstliche Intelligenz vor allem die anspruchsvollen Aufgaben delegiert – für die sie mit 66 Prozent eine deutlich niedrigere Erfolgsquote aufweist als bei einfachen Tätigkeiten. Die Folge: Viele Jobs werden „deskilled“, wie die Forscher es nennen. Die anspruchsvollen Teile verschwinden, die Routinearbeit bleibt.

Die Studie basiert auf zwei Millionen anonymisierten Nutzungsdaten aus November 2025, die per KI ausgewertet wurden. Anthropic hat dafür erstmals systematisch gemessen, nicht nur wofür Claude zum Einsatz kommt, sondern auch wie erfolgreich.

„Deskilling“ von Berufen

Als Beispiele für dieses „Deskilling“ nennt die Studie technische Redakteure und Reisebüroangestellte. Der technische Redakteur analysiert mithilfe der KI neue Entwicklungen, um den Bedarf für Überarbeitungen zu bestimmen, oder lässt bereits veröffentlichte Materialien überprüfen, um Revisionsbedarf festzustellen. Während er diese komplexen Aufgaben abgibt, kümmert er sich selbst weiterhin lieber um das Zeichnen von Skizzen oder die Produktion. Im Reisebüro verbleiben bevorzugt Aufgaben wie das Anfordern und Ausdrucken von Fahrkarten oder das Abwickeln von Zahlungen beim Menschen. Bei schwierigen Arbeiten wie das Planen von Reiserouten oder Kostenberechnungen wird hingegen die Hilfe der KI in Anspruch genommen.

Dies verblüfft auf den ersten Blick, weil Fehler in den Ergebnissen komplexer Aufgabenstellungen oft schwerer zu erkennen sind als bei einfachen Aufgaben. Und laut Anthropics Zahlen liegt die Erfolgsquote bei einfachen Aufgaben bei 70 Prozent, während sie bei komplexen Fällen auf 66 Prozent sinkt. Dass die Nutzer dies in Kauf nehmen, dürfte vor allem an der Zeitersparnis liegen. Aufgaben, die Menschen ohne KI etwa drei Stunden kosten würden, ließen sich mit KI in rund 15 Minuten erledigen, behauptet Anthropic.

KI vergrößert Spaltung zwischen Arm und Reich

Eine weitere Erkenntnis aus der Studie ist, dass KI die Ungleichheit zwischen reicheren und ärmeren Ländern und den jeweiligen Lebensverhältnissen weiter vergrößern könnte. In reichen Ländern mit höherem Pro-Kopf-Einkommen werde die KI vielseitig und auch für Privates eingesetzt, etwa in den USA, Japan und Südkorea. In ärmeren Ländern konzentriere sich die Nutzung auf Lernen und spezifische Arbeitsaufgaben.

So viel Nachdenklichkeit über Nebeneffekte der eigenen Produkte wirkt in der KI-Branche auf den ersten Blick ungewohnt. Doch Anthropic hat in der Vergangenheit bereits mehrfach Aufmerksamkeit damit erregt, dem euphorischen Grundton, der Big Tech sonst innewohnt, etwas Selbstreflexion entgegenzusetzen. Und oft auch mit dem Erfolg, dass der kleinere Mitbewerber von OpenAI (ChatGPT) und Google (Gemini) damit in die Schlagzeilen kam.

(mki)