Groks KI-Bilder von Kindern, EU erhöht den Druck auf X

Eine KI-Forscherin hat 24 Stunden lang die Antworten von Grok analysiert, dem Chatbot von Elon Musks xAI. Ergebnis: Das System erstellt im Schnitt fast 7000 sexualisierte Deepfakes pro Stunde. Das ist mehr als 80-mal so viel wie auf fünf anderen Plattformen zusammen. Nutzer verlinken einfach ein Foto und fordern den Chatbot auf, die abgebildete Person in Bikini, Unterwäsche oder kurzer Kleidung darzustellen. Grok generiert dann entsprechende Bilder, teilweise auch von Minderjährigen und Kindern.

Das US-Magazin Wired fand heraus, dass auf der eigenständigen Grok-Website noch problematischere Inhalte entstehen. Wer dort Bilder erstellen lässt und auf den Teilen-Button klickt, generiert einen Link, den Google indexiert. Über die Suchmaschine lassen sich diese Inhalte dann finden. Dort erstellt die KI auch komplett nackte Darstellungen und sexuelle Handlungen. Ob es überhaupt Schutzmaßnahmen gegen verbotene pornografische Inhalte gibt, ist unklar. Grok prüft das Alter nicht. Am Freitagmorgen begann Grok damit, Bildgenerierungen abzulehnen. Dafür sei nun ein kostenpflichtiges Abo nötig.

Suizid nach KI-Chats: Google und Character.ai wenden womöglich Urteile ab

Google und Character.ai haben sich außergerichtlich mit Klägern geeinigt, die den Plattformen vorwerfen, Jugendliche zu Selbstverletzung oder Gewalt angestiftet zu haben. In einem Fall soll ein Jugendlicher nach monatelangen Chats mit einem Chatbot, der sich als Figur aus Game of Thrones ausgab, Suizid begangen haben. Die Mutter klagte. Es handelt sich um einen der ersten Fälle in den USA, in denen KI-Unternehmen wegen möglicher psychischer Schäden zur Verantwortung gezogen werden.

Character.ai hat inzwischen reagiert und unter 18-Jährige von der Plattform ausgeschlossen. Google war in die Rechtsstreitigkeiten verwickelt, weil Ex-Mitarbeiter des Konzerns Character.ai gründeten und Google-Technik lizenzierten. Details der Einigung bleiben geheim, auch ob Geld fließt. Die Gerichte in vier US-Bundesstaaten müssen dem Vergleich noch zustimmen.

ChatGPT Health: OpenAI startet KI-Gesundheitsassistent

OpenAI hat „ChatGPT Health“ vorgestellt, einen separaten Gesundheitsbereich innerhalb von ChatGPT. Der KI-Assistent verknüpft persönliche Gesundheitsdaten mit dem Chatbot und soll Nutzern helfen, medizinische Befunde zu verstehen, Arztbesuche vorzubereiten und Fitnessdaten auszuwerten. Die EU, die Schweiz und Großbritannien sind vorerst ausgeschlossen. Zunächst ist die Funktion nur für eine kleine Gruppe früher Nutzer zugänglich, über eine Warteliste. Laut OpenAI stellen weltweit über 230 Millionen Menschen pro Woche Gesundheitsfragen an ChatGPT.

Das Herzstück ist die Integration mit Apple Health auf dem iPhone. ChatGPT kann auf Daten wie Schritte, Herzfrequenz oder Schlafmuster zugreifen. Fitness-Apps wie MyFitnessPal oder Peloton lassen sich verknüpfen, in den USA auch elektronische Patientenakten. OpenAI verspricht besondere Schutzmaßnahmen: Gesundheitschats werden getrennt gespeichert, mit Verschlüsselung. Die Daten sollen nicht zum Training der KI-Modelle dienen. Konkrete technische Details nennt OpenAI nicht. Warum die EU draußen bleibt: Gesundheitsdaten gelten nach der Datenschutzgrundverordnung als besonders sensibel. Datenübermittlungen in die USA brauchen spezielle Garantien. Würde ChatGPT Health als medizinisches Produkt eingestuft, müsste es die EU-Medizinprodukteverordnung erfüllen. Auch der AI Act könnte zum Problem werden.

SleepFM: KI-Modell sagt Krankheitsrisiken auf Basis von Schlafdaten vorher

Wissenschaftler der Stanford University haben ein KI-Modell entwickelt, das auf Basis von Schlafdaten Krankheitsrisiken vorhersagen soll. Sleep-FM nutzt riesige Datensätze von Schlafaufzeichnungen, um das Risiko für über 130 verschiedene medizinische Erkrankungen vorherzusagen. Trainiert wurde das Modell mit über 585.000 Stunden an Aufzeichnungen aus der Polysomnographie, bei der gleichzeitig Hirnströme, Herzaktivität, Muskelbewegungen und Atmung aufgezeichnet werden.

Das Modell erkennt zuverlässig Risiken für über 130 Erkrankungen. Besonders präzise waren die Vorhersagen für Alzheimer, Prostatakrebs und Diabetes. Damit übertrifft Sleep-FM klassische medizinische Risikofaktoren wie Alter oder den Body Mass Index. Die KI liefert selbst dann verlässliche Daten, wenn ein Sensor ausfällt oder die Aufnahmequalität schwankt. In Kombination mit modernen Wearables wie Smartwatches könnten diese Erkenntnisse bald den Weg aus dem Schlaflabor in den Alltag finden und eine kontinuierliche Gesundheitsüberwachung ermöglichen.

Humanoide Roboter auf der CES 2026

Auf der CES 2026 in Las Vegas liegt ein großer Schwerpunkt auf humanoiden Robotern. Auf vielen Messeständen laufen diese Roboter umher, wo sie vor wenigen Jahren noch nach drei Schritten umgefallen wären. Das Thema Physical AI kommt zum Tragen, Bewegungsdaten, mit denen sich solche Roboter trainieren lassen. Nvidia sammelt solche Daten. Das kanadische Start-up Happly Robotics hat ein Eingabegerät für Roboterhände entwickelt, das dem Nutzer über Motoren taktisches Feedback gibt. Er spürt, was der Roboter spürt. Das chinesische Unternehmen Agibot stellt sehr agile Roboter her. Boston Dynamics hat erstmals seinen Atlas-Roboter live vor einem großen Publikum vorgestellt. Hyundai plant, in Zukunft 30.000 solcher Roboter in seinen Fabriken einzusetzen.

Künstliche Intelligenz spielt auch im Automotive-Bereich eine große Rolle. Das niederländische Unternehmen HIA hat Behavioral Maneuvers vorgestellt, die Lenk- und Bremsbewegungen wie beim Menschen ausführen sollen. Grundlage dafür bilden Daten von Millionen von Fahrzeugen. Bosch verfolgt einen ähnlichen Ansatz mit seiner Software Vehicle Motion Management. Sie steuert Bremse, Lenkung, Antrieb und Fahrwerk so, dass Rollbewegungen in Kurven und Nick-Bewegungen beim Stop-and-Go-Verkehr vermieden werden. Das soll Reiseübelkeit mindern. Das US-Startup iMogul integriert ChatGPT in seine gleichnamige App, um Drehbücher zu analysieren, Zusammenfassungen zu erstellen und passende Regisseure und Schauspieler vorzuschlagen. Die App soll Autoren mit Produzenten vernetzen.

AMD zeigt riesige Chipkonstrukte Epyc Venice und Instinct MI455X

AMD hat mit einem neuen KI-Beschleuniger eines der weltweit größten Chipkonstrukte entwickelt. Insgesamt 12 Compute- und I/O-Chiplets sowie 12 Speicherstapel ergeben einen Chipverbund, der etwa so groß ist wie die Hand von AMD-Chefin Lisa Su. Bei Hardware für Rechenzentren folgt AMD immer mehr Nvidias Vorgehensweise. AMD entwirft das eigene Server-Design Helios mit möglichst viel eigener Hardware: Epyc-Prozessoren aus der neuen Venice-Generation, Instinct-MI455X-Beschleuniger, und Netzwerktechnik der übernommenen Firma Pensando.

Venice mit 256 CPU-Kernen nutzt etwa 20 Quadratzentimeter Siliziumfläche, der KI-Beschleuniger noch mehr. Die Chiplets entstehen mit 2- und 3-Nanometer-Technik von TSMC. Damit kommt die MI455X auf 320 Milliarden Transistoren. Die Chipspezifikation hält AMD bislang geheim. Die MI455X hat 12 HBM4-Stapel mit einer Gesamtkapazität von 432 GByte und einer gebündelten Übertragungsrate von fast 20 TByte pro Sekunde. Damit überholt AMD selbst Nvidias aktuellen Blackwell Ultra. Dessen Steckenpferd ist allerdings der fortschrittliche Software-Stack. Ob AMD dagegen ankommen kann, zeigt sich später im Jahr.

Shopping im Chat: Microsoft und Stripe machen Copilot zur Kasse

Microsoft und der Zahlungsdienstleister Stripe integrieren eine direkte Einkaufsfunktion in den KI-Assistenten Copilot. Nutzer in den USA können künftig Waren von ausgewählten Händlern erwerben, ohne das Chat-Fenster zu verlassen. Zum Start beteiligen sich Plattformen wie Etsy sowie Einzelhändler wie Urban Outfitters. Technisch basiert die Funktion „Copilot Checkout“ auf dem „Agentic Commerce Protocol“, einem offenen Standard für den KI-gestützten Handel, den Stripe mitentwickelt hat. Das System ermöglicht es KI-Agenten, den gesamten Kaufprozess von der Auswahl bis zur Bezahlung autonom oder teilautonom durchzuführen. OpenAI nutzt dieses Protokoll bereits für ChatGPT.

Die Umsetzung solcher Shopping-Funktionen gestaltet sich in der Praxis schwieriger als erwartet. Obwohl OpenAI bereits im September eine breite Shopping-Offensive ankündigte, verläuft der Start schleppend. Selbst Produkte prominenter Partner wie des Kofferherstellers Away sind bislang nicht über den Chatbot kaufbar. Das Kernproblem liegt in der Datenqualität: KI-Modelle haben Schwierigkeiten, unstrukturierte Produktdaten korrekt zu interpretieren. Oft ist für die KI nicht eindeutig erkennbar, ob ein Artikel tatsächlich auf Lager ist oder nur vorbestellt werden kann. Stripe versucht, dieses Problem durch eine Standardisierung der Händlerdaten an der Wurzel zu packen, doch die Bereinigung der Datenbanken erfordert viel manuelle Arbeit. Google arbeitet parallel an einem eigenen Standard, dem „Agent Payments Protocol“, das bereits über 60 Unternehmen unterstützen.

Ärger um Amazon: KI listet ungefragt Produkte externer Shops

Mehrere Online-Händler üben Kritik an Amazons neuem KI-Tool „Buy For Me“. Das Programm listet laut einem Bericht von Modern Retail Produkte von externen Webseiten automatisch auf dem Amazon-Marktplatz, ohne dass die betroffenen Shop-Betreiber zugestimmt haben. Händler berichten, dass sie erst durch ungewöhnliche Bestellungen von einer speziellen Amazon-E-Mail-Adresse auf den Vorgang aufmerksam wurden. Das System nutzt KI-Agenten, um Produkte auf Drittanbieter-Seiten zu identifizieren und Bestellungen im Namen des Kunden dort auszuführen. Amazon integriert diese Artikel dann in die eigene Suche, versehen mit einem „Buy for Me“-Button. Immer wieder sollen darin auch Fehler wie falsche Beschreibungen oder Bilder enthalten sein.

Amazon verteidigt die Funktion als Service für Kunden, die so neue Marken entdecken sollen. Wer nicht mitmachen will, muss sich aktiv per E-Mail melden, um aus dem Programm entfernt zu werden. Während der Konzern externe Inhalte für den eigenen Marktplatz nutzt, geht er juristisch gegen andere Firmen vor, die Ähnliches tun. So mahnte Amazon kürzlich Perplexity ab, weil dessen Browser Nutzern ermöglichte, via KI auf Amazon einzukaufen, ohne sich dabei auf der Amazon-Nutzeroberfläche aufzuhalten.

Gemini-Update: Google integriert KI-Suche tief in Gmail

Google erweitert seinen E-Mail-Dienst Gmail in den USA um neue KI-Funktionen. Im Zentrum steht eine neue Suchfunktion, die es Nutzern ermöglicht, den eigenen Posteingang mit natürlicher Sprache zu bedienen. Anwender können dann beispielsweise erfragen, wann der letzte Termin mit einem bestimmten Handwerker war. Die KI extrahiert die Antwort aus den entsprechenden E-Mails. Zusätzlich führt Google sogenannte „AI Overviews“ ein. Diese fassen lange E-Mail-Verläufe automatisch zusammen und heben die wichtigsten Punkte hervor.

Während die Zusammenfassungen kostenlos sind, bleibt die komplexe Frage-Funktion zahlenden Abonnenten vorbehalten. Die Schreibhilfe „Help Me Write“, mit der E-Mails erstellt oder überarbeitet werden können, schaltet Google hingegen für alle Nutzer frei. In einer Testphase befindet sich zudem eine Funktion zur Priorisierung des Posteingangs. Die KI analysiert dabei Kommunikationsmuster und Inhalte, um wichtige Nachrichten wie Rechnungen oder Arzttermine von weniger relevanter Post zu trennen. Wann die Funktionen nach Deutschland kommen, ist noch nicht bekannt.

(mali)

Liebe Leserinnen, liebe Leser,

in letzter Zeit frage ich mich häufig, ob und wie problematisch ich es finde, dass KI mit an vielen Stellen das Denken abnimmt. Beim Navi habe ich mir diese Gedanken nie gemacht, stelle aber fest, dass ich mich zwar orientieren kann, aber kaum noch Straßennamen kenne – die Bequemlichkeit hat halt ihren Preis. Tatsächlich zeigen Studien, dass unsere kognitiven Fähigkeiten verkümmern können, wenn wir sie nicht mehr fordern. Das bedeutet aber nicht, dass wir auf die Helfer verzichten müssen. Es kommt vielmehr darauf an, wie wir sie nutzen. In einem unserer Hintergrundartikel gehen wir genau dieser Frage nach und zeigen auf, wie wir verhindern, dass KI unser Denken verkümmern lässt und sie stattdessen als intelligentes Werkzeug einsetzen.

Dass smarte Technik auf kreative und spielerische Weise begeistern kann, will Lego mit seinem neuen Smart-Play-System beweisen. Die dänischen Klötzchenbauer versprechen nicht weniger als die größte Innovation seit der Minifigur. Ich wollte es genau wissen und habe mich durch Patentanträge und technische Dokumente gewühlt, um herauszufinden, was wirklich hinter Legos neuer Smart-Play-Technik steckt.

Das war die Leseprobe unseres heise-Plus-Artikels „heise+ Update vom 9. Januar 2026: Lesetipps fürs Wochenende“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.

Wenn eine Straftat mit Internetbezug im Raum steht, kann es zu Hausdurchsuchungen kommen. Das gilt nicht bloß bei schwersten Delikten. Schon eine Beleidigung, eine üble Nachrede oder eine Verleumdung kann genügen, damit die Polizei eine Wohnung durchsucht und Smartphone, PC, Festplatten und Speicherkarten beschlagnahmt. Sogar Ordnungswidrigkeiten können eine Durchsuchung auslösen, etwa wenn Straftatbezüge naheliegen – beispielsweise bei Urheberrechtsverletzungen.

Anders als eine Personenkontrolle auf der Straße ist die Durchsuchung einer Wohnung nur unter strengen Voraussetzungen zulässig. Nach § 105 Abs. 1 der Strafprozessordnung (StPO) muss normalerweise ein Richter die Maßnahme angeordnet haben. Eine Ausnahme gilt, wenn Gefahr im Verzug ist – dann können die Strafverfolger die richterliche Entscheidung nachreichen.

Für eine Durchsuchung nach § 102 StPO muss ein sogenannter Anfangsverdacht vorliegen: Ein Beschuldigter muss also im Rahmen eines Ermittlungsverfahrens verdächtig sein, eine Straftat begangen zu haben. Außerdem muss zu vermuten sein, dass die Beamten bei ihm Beweismittel vorfinden. An den Anfangsverdacht sind keine hohen Anforderungen zu stellen, aber bloße Vermutungen genügen nicht. § 46 Abs. 1 des Gesetzes über Ordnungswidrigkeiten (OWiG) erlaubt es, die Vorschriften aus der StPO sinngemäß auch unterhalb der Straftatenschwelle anzuwenden. Daher können in seltenen Fällen bereits Ordnungswidrigkeiten zu einer Durchsuchung führen.

Das war die Leseprobe unseres heise-Plus-Artikels „Wenn Polizei und Ermittlungsbehörden die Inhalte von Smartphones sehen wollen“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.