Künstliche Intelligenz
Intime Konversationen mit KI-Chatbots waren für jeden einsehbar
Jenseits der Büro-Drohnen von Microsoft und Co gibt es KI-Chatbots, die auch intime und romantische Unterhaltungen sowie entsprechende Bilder bieten. Bei zwei solcher Apps waren aufgrund einer ungesicherten Broker-Instanz einer Middleware alle Nachrichten, alle gesendeten Fotos und die IP-Adressen der Nutzer für jeden einsehbar, der über einen entsprechenden Link verfügte. Ebenfalls einsehbar und besonders spannend war, welche Geldsummen manche Nutzer in die Chatbots stecken.
Die betroffenen Apps sind „Chattee Chat – AI Companion“ und „GiMe Chat – AI Companion“, die beide vom Hongkonger Hersteller Imagime Interactive Limited stammen. Die Sicherheitslücke bestand von Ende August bis Mitte September und wurde von Sicherheitsforschern des Nachrichtenportals Cybernews entdeckt. Hier machten die Spezialisten ihre Untersuchung jetzt öffentlich.
Viele Nutzer, wenig Schutzvorkehrungen
Im Fall von „Chattee“ betraf die Lücke einen größeren Nutzerkreis: Im Apple App Store zählte die App 300.000 Downloads und war in der Kategorie Entertainment auf Platz 121 der beliebtesten Apps. Inzwischen ist sie hier und auch im Play Store nicht mehr verfügbar, auch nicht „GiMe“, welche deutlich weniger beliebt war. Ausschlaggebend dafür könnte eine ungesicherte Broker-Instanz der Middleware Kafka sein, welche ursprünglich von LinkedIn entwickelt wurde und seit 2012 Teil der Apache Software Foundation ist.
Im Falle der kompromittierten KI-Apps koordinierte sie laut Cybernews Datenströme privater Nachrichten zwischen Nutzern und verschiedenen Instanzen von KI-Freundinnen und anderen Begleitern. Dazu gehören Links zu echten Fotos und Videos, die von Nutzern eingereicht wurden, sowie Fotos und Videos, die von KI generiert wurden. Wer hier Zugriff hatte, konnte mitverfolgen, welcher Nutzer welchen Inhalt an welchen Chatbot schickte und welche Nachrichten die Nutzer wiederum von den Chatbots erhielten. Betroffen waren sowohl iOS- als auch Android-Nutzer. Daten, welche die Identität der Nutzer direkt preisgeben, waren zwar nicht dabei, dafür aber IP-Adressen und Unique Device Identifier (UDID). Anhand dieser lässt sich die Person dahinter oft mithilfe früherer anderer Leaks herausfinden.
Intime und sexuelle Inhalte
Was es Cyberkriminellen auch vielfach ermöglichen würde, die betroffenen Nutzer zu erpressen – denn unter den geleakten Informationen sei laut einem Sicherheitsforscher quasi nichts, was man als „safe for work“ bezeichnen könnte. Damit spielt er auf die sehr intimen und oft auch sexuellen Inhalte der betroffenen Chats an. Er verweist auch auf die hohe Diskrepanz zwischen dem Vertrauen, das Nutzer solchen Apps schenken und den Sicherheitsvorkehrungen, die die Verantwortlichen zu ihrem Schutz treffen.
Solche Risiken sind laut den Sicherheitsforschern auch der Grund, weshalb ein Kafka Broker immer mit Zugriffskontrollen und Authentifizierungsmöglichkeiten ausgestattet sein sollte. Was aber bei den beiden Apps nicht der Fall war. Jeder, der über den entsprechenden Link verfügte, sei in der Lage gewesen, sich mit dem Content Delivery Network der App zu verbinden und durch Zugriff auf die entsprechenden Dateien zuzugreifen und den Nachrichtenverkehr zwischen Nutzern und Chatbots mitzulesen. Das war bis zum 19. September möglich, als die Sicherheitslücke geschlossen wurde. Cybernews geht davon aus, dass vorher die Daten von insgesamt 400.000 Nutzern öffentlich einsehbar waren.
Bemerkenswert sind auch die Einblicke in Zahlungen, welche manche Nutzer für In-App-Käufe tätigten. So gab ein Nutzer insgesamt 18.000 US-Dollar für eine In-App-Währung aus. Er war damit laut Cybernews jedoch eher die Ausnahme, auch wenn es noch einige weitere Nutzer mit ähnlich hohen Beträgen gab. Fraglich bleibt, ob diese auch bereitwillig mit ihrer Anonymität für die Nutzung der Apps bezahlt hätten.
(nen)
Künstliche Intelligenz
Mangelhafter Kinderschutz: EU ermittelt gegen US-Plattformen
Die Europäische Kommission verdächtigt Apple, Snapchat sowie Google und Youtube, Kinder auf ihren Plattformen nicht genug zu schützen. Die Brüsseler Behörde verlangt von den Tech-Konzernen daher nun Auskünfte zu ihren Sicherheitsvorkehrungen, wie die zuständige Kommissionsvizepräsidentin Henna Virkkunen bei einem Treffen der EU-Digitalminister im dänischen Horsens mitteilte. Grundlage für die verpflichtende Forderung nach Informationen ist das Gesetz über digitale Dienste (Digital Services Act, kurz DSA).
Bei der Videoplattform Youtube, die zum Google-Konzern gehört, hegt die EU-Kommission den Verdacht, dass Altersbeschränkungen für Kinder und Jugendliche zu leicht zu umgehen seien. Zudem soll geprüft werden, inwiefern Youtube mit seinen Algorithmen Kinder süchtig machen könnte.
Von der Leyen hatte App-Entwicklern zuletzt vorgeworfen, Kinder aus Profitinteressen mit den Algorithmen ihrer Produkte süchtig zu machen. Sie kündigte an, bis Ende des Jahres eine Expertengruppe einzurichten, die über das weitere Vorgehen in der EU beraten soll.
Kaufen Kinder auf Snapchat Drogen?
Die Brüsseler Behörde will zudem klären, ob Minderjährige auf den Software-Plattformen von Apple („App Store“) und Google („Google Play“) Glücksspiele, wie etwa Apps für Online-Kasinos, herunterladen und spielen können.
Lesen Sie auch
Auf dem sozialen Netzwerk Snapchat könnte es Minderjährigen laut EU möglich sein, Drogen zu kaufen. Außerdem verdächtigen die europäischen Regelhüter das Unternehmen, selbst festgelegte Altersgrenzen nicht zu berücksichtigen. So gelinge es Kindern unter 13, die App zu nutzen, obwohl dies in den Allgemeinen Geschäftsbedingungen (AGB) verboten sei.
Mit den Auskunftsersuchen eröffnet die EU noch kein Verfahren gegen die Tech-Konzerne. Die Unternehmen können jetzt erläutern, wie sie verhindern, dass ihre Produkte Kindern schaden. Sie haben auch die Möglichkeit, Änderungen an ihren Diensten vorzunehmen, um den Verdacht auszuräumen.
Sieht sich die EU-Kommission jedoch bestätigt, könnte sie ein Verfahren wegen unzureichenden Kinder- und Jugendschutzes eröffnen. Gegen den Facebook-Konzern Meta läuft ein solches Verfahren bereits seit vergangenem Jahr. Im Juli hatte die Europäische Kommission einen Leitfaden zu den Kinderschutzgesetzen veröffentlicht, der Unternehmen bei der Einhaltung helfen sollte.
Wieso die USA das Gesetz über digitale Dienste kritisieren
Das Gesetz über digitale Dienste (DSA) soll unter anderem sicherstellen, dass Plattformen illegale Inhalte von ihren Seiten schneller entfernen als bislang. Nutzern wird es wiederum leichter gemacht, solche Inhalte zu melden. Grundsätzlich müssen große Dienste mehr Regeln befolgen als kleine.
In der Vergangenheit hatte das Gesetz auch für Probleme in der Beziehung zwischen der EU und den Vereinigten Staaten gesorgt. Die US-Regierung unter Präsident Donald Trump kritisierte europäische Digitalgesetze wie das DSA als wettbewerbsfeindlich. Meta-Chef Mark Zuckerberg hatte in Bezug auf die EU-Regeln von „institutionalisierter Zensur“ gesprochen.
EU erhöht Druck auf digitale Konzerne beim Kinderschutz
Brüssel legte in den vergangenen Monaten vermehrt ein Augenmerk darauf, welche Erfahrungen Kinder und Jugendliche online machen. EU-Kommissionspräsidentin Ursula von der Leyen hatte sich zuletzt überraschend für eine Altersgrenze in den sozialen Netzwerken ausgesprochen. Die deutsche Politikerin verglich dabei mögliche Vorgaben für soziale Medien mit denen für Tabak und Alkohol.
Außerdem soll ein digitaler Alterscheck künftig verhindern, dass Kinder und Jugendliche auf Pornografie und andere nicht altersgerechte Inhalte im Internet zugreifen können. Dafür testen derzeit mehrere Mitgliedstaaten einen von der EU mitentwickelten Prototyp.
(afl)
Künstliche Intelligenz
Windows 10 in eine Linux-VM umziehen | c’t uplink
Bald gibt es keine Sicherheitsupdates mehr für Windows 10, doch nicht alle Computer hält Microsoft fit für Windows 11. Älteren Geräten verweigert der Hersteller häufig das Upgrade, auch wenn es aus technischer Sicht keinen Grund dafür gibt. Wer nun auf Linux umsteigen will, anstatt unnötigen Elektroschrott zu produzieren oder Geld auszugeben, kann mit dem Gerät weiterhin arbeiten, muss sich aber umgewöhnen. Für Notfälle bietet es sich da an, das vertraute Windows 10 samt Einstellungen, Daten und Programmen in eine virtuelle Maschine unter Linux umzuziehen. Dann lässt es sich bei Bedarf direkt unter Linux starten und Windows erscheint wie eine Anwendung in einem Fenster (oder im Vollbild) auf dem Linux-Desktop.
Den wöchentlichen c’t-Podcast c’t uplink gibt es …
Im c’t uplink sprechen wir darüber, wie das funktioniert, für wen sich diese Lösung eignet, wie aufwendig die Umsetzung ist und wo Stolperfallen lauern. Und wir blicken darüber hinaus und diskutieren, wie sich einzelne Windows-Anwendungen mit WinApps und WinBoat bequem unter Linux starten lassen.
Zu Gast im Studio: Mirko Dölle, Peter Siering
Host: Liane M. Dubowy
Produktion: Ralf Taschke
► Unsere Anleitung, wie Sie Windows 10 vorbereiten und anschließend in eine VM unter Linux verfrachten, lesen Sie auf heise+:
https://www.heise.de/ratgeber/So-lebt-Ihre-Windows-Installation-unter-Linux-weiter-10501652.html
https://www.heise.de/ratgeber/Vorhandene-Windows-10-Installationen-unter-Linux-virtualisieren-10501662.html
sowie in c’t 19/2025 ab S. 52ff:
**Weiterführende Links**, die im Podcast erwähnt werden:
► Windows für Linux verkleinern:
► Windows 10 ein Jahr länger Updates (Extended Security Updates):
In unserem WhatsApp-Kanal sortieren Torsten und Jan aus der Chefredaktion das Geschehen in der IT-Welt, fassen das Wichtigste zusammen und werfen einen Blick auf das, was unsere Kollegen gerade so vorbereiten.
► c’t Magazin
► c’t auf Mastodon
► c’t auf Instagram
► c’t auf Facebook
► c’t auf Bluesky
► c’t auf Threads
► c’t auf Papier: überall, wo es Zeitschriften gibt!
(lmd)
Künstliche Intelligenz
KI-Spielzeug für Kinder: In China wächst der Markt rasant – auch bald woanders?
Kinder haben schon immer mit Stofftieren gespielt und mit ihnen gesprochen. Neu ist, dass ihre Spielzeuge jetzt auch antworten können – dank einer Welle von Unternehmen, die Kinderspielzeug mit integrierten Chatbots und Sprachassistenten ausstatten. Dieser Trend manifestiert sich insbesondere in China. Ein aktueller Bericht vom lokalen Industrieverband Shenzhen Toy Industry Association und dem E-Commerce-Riesen JD.com prognostiziert, dass der Sektor bis 2030 einen Umsatz von über 100 Milliarden Yuan (zwölf Milliarden Euro) erreichen wird. Er wächst damit schneller als fast jeder andere Zweig im Bereich der Consumer-KI. Laut dem chinesischen Unternehmensregister Qichamao gab es im Oktober 2025 schon über 1.500 KI-Spielzeugunternehmen in China.
Eines der neuesten Produkte ist der Bubble Pal, ein Gerät von der Größe eines Tischtennisballs, das an das Lieblingskuscheltier eines Kindes geklemmt wird und es zum „Sprechen“ bringt. Die Hardware wird mit einer Smartphone-App geliefert, mit der Eltern zwischen 39 Charakteren wählen können – von Disneys Elsa bis zum chinesischen Zeichentrickklassiker Nezha. Bubble Pal kostet rund 140 Euro und seit seiner Markteinführung im letzten Sommer wurden 200.000 Stück verkauft. Es wird von dem chinesischen Unternehmen Haivivi hergestellt und läuft auf Basis des großen Sprachmodells Deepseek.
Boom in China, Early Adopter bei uns
Andere Unternehmen gehen den Markt anders an. Folo Toy, ein weiteres chinesisches Startup, ermöglicht es Eltern, ein Bären-, Hasen- oder Kaktus-Spielzeug individuell anzupassen, indem sie es trainieren, mit ihrer eigenen Stimme und ihrem eigenen Sprachmuster zu sprechen. Folo Toy gab bereits bekannt, im ersten Quartal 2025 mehr als 20.000 seiner mit KI ausgestatteten Plüschfiguren verkauft zu haben, was fast dem Gesamtumsatz des Jahres 2024 entspricht, und prognostiziert für dieses Jahr einen Absatz von 300.000 Einheiten.
Die chinesischen KI-Spielzeughersteller haben inzwischen ihren Blick über die Landesgrenzen hinaus gerichtet. Bubble Pal wurde im Dezember 2024 in den USA eingeführt und ist nun auch in Kanada und Großbritannien erhältlich. Und Folo Toy wird mittlerweile in mehr als zehn Ländern verkauft, darunter in den USA, Großbritannien, Kanada, Brasilien, Deutschland und Thailand. Rui Ma, China-Technologieanalyst bei AlphaWatch.AI, sagt, dass KI-Spielzeuge für Kinder in China besonders gut ankommen, wo es bereits einen gut etablierten Markt für kindgerechte elektronische Lernspielzeuge gibt – einen Markt, der weltweit in diesem Umfang nicht existiert. Der CEO von Folo Toy, Kong Miaomiao, erklärte gegenüber dem chinesischen Medium Baijing Chuhai, dass sein Unternehmen außerhalb Chinas noch immer nur „Early Adopters erreicht, die neugierig auf KI sind“.
Barbie und Hot Wheels mit KI
Chinas KI-Spielzeugboom baut auf jahrzehntelanger Erfahrung mit speziell für Kinder entwickelten Unterhaltungsgeräten auf. Bereits in den 1990er Jahren machten Unternehmen wie BBK elektronische Wörterbücher und „Lernmaschinen“ populär, die Eltern als Bildungshilfen verkauft wurden. Diese Spielzeug-Elektronik-Hybride lesen vor, erzählen interaktive Geschichten und simulieren die Rolle eines Spielkameraden.Der Wettbewerb verschärft sich jedoch – auch US-Unternehmen haben begonnen, KI-Spielzeug zu entwickeln und zu verkaufen. Die Musikerin Grimes, die einst mit Elon Musk liiert war, half bei der Entwicklung eines Plüschtiers namens Grok, der mit Kindern plaudert und sich an ihre Persönlichkeit anpasst. Der Spielzeugriese Mattel arbeitet wiederum mit OpenAI zusammen, um dialogfähige KI-Systeme in Marken wie Barbie und Hot Wheels zu integrieren. Die ersten Produkte sollen noch in diesem Jahr vorgestellt werden. Jüngst gab Mattel bekannt, dass man den neuen KI-Videogenerator Sora 2 von OpenAI auch testen wolle.
Weg vom Smartphone, hin zum KI-Spielzeug
Die Einschätzungen von Eltern, die in China KI-Spielzeug gekauft haben, fallen jedoch gemischt aus. Obwohl viele schätzen, dass die Geräte bildschirmfrei sind und strenge Kinderschutzmaßnahmen bieten, berichten einige Eltern, dass ihre KI-Fähigkeiten noch Fehler haben.
Penny Huang aus Peking kaufte einen BubblePal für ihre fünfjährige Tochter, die hauptsächlich von den Großeltern betreut wird. Huang hoffte, dass das Spielzeug ihre Einsamkeit lindern und ihre ständigen Bitten, mit den Smartphones der Erwachsenen spielen zu dürfen, reduzieren würde. Aber die Neuheit verlor schnell ihren Reiz. „Die Antworten sind zu lang und zu wortreich. Meine Tochter verliert schnell die Geduld“, sagt Huang. „Das ablaufende Rollenspiel fühlt sich nicht immersiv an – es ist nur eine Stimme, die manchmal deplatziert klingt.“
Langsame Spracherkennung
Eine andere Mutter, die Bubble Pal nutzt, Hongyi Li, hielt die Spracherkennung für zu langsam: „Die Sprache von Kindern ist abrupt und manchmal unklar. Das Spielzeug unterbricht mein Kind häufig oder versteht nicht, was es sagt. Außerdem muss man immer noch einen Knopf drücken, um damit zu interagieren, was für Kleinkinder schwierig sein kann.“
Huang hat ihren Bubble Pal daher kürzlich auf Xianyu, einem Marktplatz für Secondhand-Artikel, zum Verkauf angeboten. „Das ist nur eines von vielen Spielzeugen, mit denen meine Tochter fünf Minuten lang spielt und dann keine Lust mehr darauf hat“, lacht sie. „Sie möchte lieber mit meinem Handy spielen als mit allem anderen.“
Wie solche Produkte auf Märkten außerhalb Chinas ankommen – und ob sich die Ansprüche der Eltern an dieses KI-Spielzeug unterscheiden – bleibt vorerst abzuwarten.
Dieser Beitrag ist zuerst auf t3n.de erschienen.
(jle)
-
UX/UI & Webdesignvor 2 Monaten
Der ultimative Guide für eine unvergessliche Customer Experience
-
UX/UI & Webdesignvor 1 Monat
Adobe Firefly Boards › PAGE online
-
Social Mediavor 2 Monaten
Relatable, relevant, viral? Wer heute auf Social Media zum Vorbild wird – und warum das für Marken (k)eine gute Nachricht ist
-
Entwicklung & Codevor 2 Monaten
Posit stellt Positron vor: Neue IDE für Data Science mit Python und R
-
Entwicklung & Codevor 1 Monat
EventSourcingDB 1.1 bietet flexiblere Konsistenzsteuerung und signierte Events
-
UX/UI & Webdesignvor 4 Wochen
Fake It Untlil You Make It? Trifft diese Kampagne den Nerv der Zeit? › PAGE online
-
Apps & Mobile Entwicklungvor 3 Monaten
Firefox-Update 141.0: KI-gestützte Tab‑Gruppen und Einheitenumrechner kommen
-
Online Marketing & SEOvor 2 Monaten
So baut Googles NotebookLM aus deinen Notizen KI‑Diashows