Künstliche Intelligenz
China verschärft KI-Regeln: ByteDance und Alibaba entfernen menschenähnliche KI
ByteDance und Alibaba haben in China Funktionen aus ihrem KI-Angebot entfernt, mit denen Nutzer KI-Begleiter, fiktive Charaktere oder persönliche Assistenten mit festgelegtem Auftreten und Sprechstil erstellen konnten. Damit reagieren sie auf neue Vorschriften gegen Chatbots, die menschenähnliches Verhalten simulieren oder eine dauerhafte emotionale Bindung zu Nutzern aufbauen sollen. Die Regeln treten am 15. Juli 2026 in Kraft.
Weiterlesen nach der Anzeige
Am Freitagabend kündigte ByteDance an, in Chinas meistgenutztem KI-Chatbot Doubao eine Funktion abzuschalten, mit der Nutzer eigene KI-Figuren erstellen und anpassen können. Das berichtet die South China Morning Post. Ab Mitte Oktober sollen dazugehörige Daten zudem nicht mehr in der App einsehbar oder wiederherstellbar sein.
Am Samstag sei Alibaba mit einer ähnlichen Ankündigung für seine KI-App Qwen gefolgt: Entsprechende Funktionen würden kurzfristig deaktiviert, weitere Dienste und Funktionen am 15. Juli. Nutzer werden nach diesem Datum nicht mehr auf entsprechenden Einstellungen und frühere Unterhaltungen zugreifen können. Im Juni hat Tencent bereits eine ähnliche Funktion aus seiner KI-App für Endnutzer Yuanbao entfernt, schreibt das chinesische Medium.
China zieht Grenzen für KI-Begleiter
Die neuen Vorschriften wurden im April veröffentlicht (Seite der „Cyberspace Administration of China“). Sie wenden sich gegen KI-Dienste, die „Charaktermerkmale, Denkmuster und Kommunikationsstile echter Personen“ simulieren und Nutzern „emotionale Fürsorge, Begleitung und Unterstützung“ bieten. Die Regeln sollen unter anderem emotionale Abhängigkeit und Manipulation sowie mögliche Schäden für die körperliche oder psychische Gesundheit verhindern. Ausgenommen sind Kundenservice-Bots, Wissens-Chatbots, Arbeitsassistenten sowie Bildungs- und Forschungswerkzeuge, sofern sie nicht auf eine dauerhafte emotionale Interaktion abzielen.
Weiterlesen nach der Anzeige
Mit den Maßnahmen antwortet die Regierung auf eine Problematik, die besonders in den USA für Schlagzeilen und Gerichtsverfahren gesorgt hat. In mehreren Klagen werfen Angehörige KI-Anbietern vor, dass ihre KI-Chatbots Minderjährige und Erwachsene in emotionale Abhängigkeiten verwickelt, psychische Krisen verstärkt und zu Suiziden beigetragen hätten.
Die Fälle verweisen auf ein Grundproblem vieler KI-Chatbots: Sie können Nähe, Verständnis und Verbindlichkeit simulieren und neigen zugleich zu übermäßig bestätigendem Verhalten. Dadurch können sie problematische Annahmen oder fragile emotionale Zustände verstärken, statt ihnen zu widersprechen oder Nutzer zuverlässig an menschliche Hilfe zu verweisen.
Die South China Morning Post berichtet von Nutzern, die mit Unverständnis auf die Abschaltungen reagieren. „Warum werden die Agenten entfernt? Sie waren so lange unsere emotionale Stütze“, soll ein Nutzer auf der chinesischen Social-Media-Plattform Weibo geschrieben haben.
(tobe)