Die Volksrepublik China nimmt große Sprachmodelle an die Kandare. Weil es schnell gehen soll, sind nun „vorläufige Maßnahmen“ zur öffentlichen Konsultation bis 25.1.2026 aufgelegt. Grundtenor ist, dass Künstliche Intelligenz sich als solche zu erkennen geben sowie auf Datenschutz, Wohlergehen der Nutzer und natürlich „sozialistische Kernwerte“ achten muss.

Ziel ist die Unterstützung „gesunder Entwicklung“ von KI-Diensten samt „Anwendungs-Ökosystem“, speziell zwecks Verbreitung chinesischer Kultur sowie Begleitung von Senioren. Letzteres soll offenbar Einsamkeit bekämpfen. Sozialistische Kernwerte sind stets einzuhalten, zudem sind „soziale Moral und Ethik“ zu beachten. Und Betrieb ist erst gestattet, wenn Sicherheit und Verlässlichkeit in vollem Umfang bewiesen sind.

Die neuen Maßnahmen sind nachrangig gegenüber etwaigen Gesetzen und Verordnungen und erfassen „anthropomorphe interaktive Dienste“. Das sind alle öffentlich angebotenen KI-Systeme, die in China mit Menschen durch Text, Bilder, Videos und/oder Ton kommunizieren und dabei menschliche Persönlichkeitsmuster, Denkmuster oder Kommunikationsstile simulieren. Die Volksrepublik wird solche Dienste heimlich überwachen, um „Missbrauch und Kontrollverlust“ hintanzuhalten. Zusätzlich soll sich die Branche selbst Regeln geben.

Unvernünftige Entscheidungen Verboten

Artikel 7 des konsultierten Entwurfs enthält eine lange Reihe an Verboten. Untersagt sind Generation, Verbreitung oder Bewerbung von Inhalten mit Bezug zu Glücksspiel, Obszönem, Gewalt, Beleidigung, Rufschädigung, Anstiftung zu Straftaten oder der Verletzung legitimer Rechte oder Interessen (!) Dritter. Gleichermaßen darf nichts generiert oder verbreitet werden, was nationale Interessen, die Nationale Ehre oder die Nationale Sicherheit gefährdet, die Einheit Chinas unterminiert, illegale Religionsausübung ist oder Gerüchte verbreitet, die die wirtschaftliche oder soziale Ordnung stören.

Die Systeme dürfen auch keine falschen Versprechen machen, die das Verhalten der Nutzer stark beeinflussen oder ihre sozialen Beziehungen schädigen. Verpönt sind darüber hinaus die Schädigung der physischen Gesundheit der Nutzer durch Implikation, Anstiftung zu oder Verherrlichung von Selbstschädigung oder Suizid. Parallel sollen geistige Gesundheit und persönliche Würde durch Untersagung emotionaler Manipulation und verbaler Gewalt geschützt werden. Dazu passt die Interdiktion, die digitalen Angeboten mit Zielen wie Abhängigkeit, soziale Isolation oder psychologische Kontrolle über die User zu gestalten.

Schließlich verbittet sich die Behörde auch die Sammlung vertraulicher Informationen sowie die Verleitung der Nutzer zu „unvernünftigen Entscheidungen“ durch Methoden wie algorithmische Manipulation, irreführende Information oder das Stellen emotionaler Fallen. Das Nachahmen von Familienmitgliedern ist ebenfalls tabu.

Vom Design über Training bis zur Abschaltung

Artikel 8, 9 und 21 folgende beinhalten umfangreiche Auflagen für Entwurf, Entwicklung, Betrieb und Abschaltung der KI-Dienste. Die Bandbreite reicht von Datenschutz über Betrugsbekämpfung bis zu Ethik und IT-Sicherheit. Einmal in Betrieb soll Leistung „kontinuierlich optimiert“ werden.

Vorgaben zu den für das KI-Training genutzten Daten stehen in Artikel 10 des Entwurfs: Sie müssen ebenfalls sozialistischen Werten entsprechen und die „exzellente traditionelle chinesische Kultur“ verkörpern. Gleichzeitig soll das Korpus divers sein und täglich überprüft werden. Nicht vergessen wird auf die Voraussetzung, dass die Trainingsdaten legal und nachverfolgbar zu sein haben.

Altersverifikation nur im Zweifelsfall

Die Anbieter sollen laut Artikeln 11 bis 13 ihre Nutzer dahingehend auswerten, ob sie Senioren oder minderjährig sind sowie ob sie von dem Dienst abhängig sind oder emotionale Schwierigkeiten haben. Daran müssen sich jeweils passende Maßnahmen anschließen. Minderjährige dürfen nur einen Modus mit Einschränkungen, auch zeitlicher Natur, speziellem Datenschutz und Einblicknahme für bei der Registrierung anzugebende Erziehungsberechtigte sehen. Wer zu Unrecht als minderjährig eingestuft wird, erhält ein Einspruchsrecht.

Auch Senioren sind schon bei der Registrierung dazu anzuhalten, eine Kontaktperson für Notfälle zu benennen; außerdem müssen die Betreiber im Falle des Falles soziale und psychologische Hilfe leisten. Für alle User müssen Betreiber vorgefertigte Informationen vorbereiten, die bei Erkennung von Gefahr für Leben, Gesundheit oder Eigentum des Benutzers eingeblendet werden. Schlägt ein Anwender konkret Suizid, Selbstschädigung oder „andere extreme Taten“ vor, muss sofort ein Mensch die Kommunikation übernehmen und Notfallkontakte des Anwenders informieren.

Nutzungsdaten dürfen ohne Zustimmung des jeweiligen Nutzers weder weitergegeben noch für das Training von KI genutzt werden. Die Nutzer müssen ihre Nutzungsdaten zudem löschen können.

Ich bin’s, die KI

Die Betreiber müssen deutlich machen, dass die Nutzer es mit einer KI zu haben und nicht mit einem echten Menschen. Wer als „überaus abhängig“ erkannt wird, muss daran erinnert werden. Nach zwei Stunden ununterbrochener Sitzung sind Anwender zu einer Pause zu ermuntern.

Besondere Mühe müssen sich Anbieter „emotionaler Begleiter“, also zum Beispiel von KI-Girlfriends geben. Sie müssen einfache Ausstiegsmöglichkeiten bieten und dürfen Nutzer nicht von einer Beendigung der Sitzung abzubringen suchen. Wird eine Teilfunktion entfernt, muss der Betreiber das im Voraus ankündigen. Auch bei Ausfällen ist öffentliche Information vorgeschrieben.

Nicht zuletzt muss es bei allen von der Regulierung erfassten Systemen bequeme Kanäle für die Einreichung von Hinweisen und Beschwerden geben, zu denen Bearbeitungsstatistiken zu veröffentlichen sind. Die Einreicher sind flott über das Resultat der Bearbeitung ihrer Eingabe zu verständigen.

(ds)

Das vermeintliche Aus vom Aus des Verbrennungsmotors ab 2035 stand wochenlang im Fokus der Öffentlichkeit. Was über die Debatte vergessen wurde: Der Entwurf der Europäischen Kommission vom 16. Dezember ist lediglich eine Diskussionsgrundlage. Das Gesetz zur Begrenzung der CO₂-Emissionen ist in Kraft, und es sieht schon bis 2030 eine Reduzierung um 55 Prozent gegenüber dem Basisjahr 2021 vor.

Dieser Ist-Zustand bedeutet nichts anderes als einen zwingenden Anstieg des Marktanteils von Elektroautos, der deutlich steiler sein wird als bisher: Etwa die Hälfte der neu zugelassenen Pkw müssten nach aktueller Gesetzeslage zum Anfang der nächsten Dekade elektrisch fahren. Das wäre im Vergleich zu heute mehr als eine Verdoppelung.

Die Ursache des Hochlaufs ist simpel: Elektroautos sind für die Hersteller die preisgünstigste Methode, um die CO₂-Vorgaben zu erfüllen. Unabhängig von gesetzlichen Grenzwerten wächst außerdem der internationale Konkurrenzdruck. Wer keine Elektroautos baut, wird zum Beispiel in China ohne Chance sein. Im größten Einzelmarkt sind 2025 rund 25 Millionen Pkw verkauft worden, was etwa 30 Prozent der Weltproduktion entspricht.

Das war die Leseprobe unseres heise-Plus-Artikels „CO2-Flottengrenzwert für Neuwagen: Warum das Jahr 2030 bedeutsam ist“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Erst ist der neue Cloud-Dienst kostenlos, dann folgt die Werbeeinblendung und zum Schluss bittet der Anbieter seine Nutzer gnadenlos zur Kasse. Gleichzeitig wird das Produkt immer schlechter – die „Enshittification“ hat eingesetzt.

Science-Fiction-Autor Cory Doctorow, langjähriger Aktivist bei der Electronic Frontier Foundation, hat den Begriff geprägt und uns auf dem Chaos Communication Congress (39C3) im Interview erläutert, was er damit meint. Doctorow sieht Staatengemeinschaften in der Pflicht, die Tech-Konzerne zu bremsen – mit dem Umstieg von einem sozialen Netzwerk zum nächsten sei es nicht getan. Das ganze Interview hier auf heise online, bei YouTube und auf Peertube.

Redaktion: Keywan Tonekaboni
Video: Özgür Uludaǧ, Anna Gundler

(ktn)