Künstliche Intelligenz
Erster US-Bundesstaat geht gegen xAI und Grok wegen sexualisierter KI-Bilder vor
Der US-Bundesstaat Kalifornien ist die erste offizielle Stelle der USA, die sich mit den sexualisierten KI-Bildern von Frauen und Kindern auf Elon Musks Online-Plattform X beschäftigt. Der kalifornische Generalstaatsanwalt Rob Bonta leitete am Mittwoch eine Untersuchung zu der Verbreitung von sexuell explizitem Material ein, das mit Grok, einem von xAI entwickeltem KI-Modell, generiert wurde. Zuvor hatten bereits andere Staaten und die EU entsprechende Schritte angekündigt oder eingeleitet.
Weiterlesen nach der Anzeige
Denn auf X kann Grok von Nutzern aufgefordert werden, KI-Bilder zu erstellen oder Fotos per KI zu verändern. Das haben einige User offenbar dazu verwendet, um Bilder bekleideter Frauen und Kinder in entkleidetem Zustand zu generieren – ohne Wissen oder Einverständnis der abgebildeten Personen. Eine 24-stündige Analyse ergab, dass X-Nutzer jede Stunde tausende öffentlich zugängliche sexualisierte Deepfakes erstellt haben. Im Rahmen ihrer Ermittlungen gegen das Unternehmen hat die EU wegen Groks KI-Bildern von Kindern den Druck auf Elon Musks X erhöht. Mittlerweile haben Indonesien und Malaysia als erste Staaten Grok wegen dieser sexuellen Deepfakes gesperrt.
Elon Musk sieht keine Kinder-Deepfakes
Elon Musk zeigt sich überrascht und erklärte vor einigen Stunden auf X, dass ihm „keine Nacktbilder von Minderjährigen bekannt sind, die von Grok generiert wurden, absolut keine“. Dem Tech-Milliardär zufolge „weigert sich Grok bei der Anfrage zur Bildgenerierung, illegale Inhalte zu erstellen, da es sich grundsätzlich an die Gesetze des jeweiligen Landes oder Bundesstaates hält“. Sollten Nutzer etwa „per Hackerangriff“ Grok trotzdem dazu verleiten, würde der Fehler umgehend behoben.
Kaliforniens Gouverneur Gavin Newsome sieht dies anders und bezeichnet „die Entscheidung von xAI, eine Plattform für Pädophile zu schaffen und zu betreiben, auf der sie nicht einvernehmliche, sexuell explizite KI-Deepfakes verbreiten können, darunter auch Bilder, die Kinder digital entkleiden“, in einem Beitrag auf X als „abscheulich“. Deshalb hat er den kalifornischen „Generalstaatsanwalt aufgefordert, unverzüglich gegen das Unternehmen zu ermitteln und xAI zur Rechenschaft zu ziehen“.
Dem ist Rob Bonta umgehend nachgekommen und hat eine entsprechende Untersuchung von xAI eingeleitet. „Die Flut von Berichten, die detailliert über das nicht einvernehmliche, sexuell explizite Material berichten, das xAI in den letzten Wochen produziert und online veröffentlicht hat, ist schockierend“, erklärt Bonta laut Pressemitteilung. „Ich fordere xAI dringend auf, unverzüglich Maßnahmen zu ergreifen, um ein weiteres Fortschreiten dieser Entwicklung zu verhindern. Wir dulden in keiner Weise die KI-gestützte Erstellung und Verbreitung von nicht einvernehmlichen intimen Bildern oder Material mit Darstellungen von sexuellem Kindesmissbrauch.“
Weiterlesen nach der Anzeige
Briten haben ein Deepfake-Gesetz, Deutschland will eines
In Großbritannien ist man bereits einen Schritt weiter. Dort sollen Apps, die Menschen digital entkleiden, verboten werden. Aufgrund der Aktivitäten von Grok auf X werden die britische Regierung und Medienaufsicht gegen Grok aktiv und wollen ein neues Gesetz durchsetzen. Dass X die Möglichkeit zur Bildgenerierung vor wenigen Tagen auf kostenpflichtige Accounts beschränkt hat und die Bildgenerierung weitgehend verweigert, sei nach Ansicht der britischen Technologieministerin „nicht annähernd genug“. Es sei eine Beleidigung für die Opfer, wenn man sage, der Dienst sei weiterhin abrufbar, man müsse nur dafür bezahlen.
Auch in Deutschland wird der Ruf nach strengeren Regeln gegen KI-generierte Sex-Bilder laut. Bundesjustizministerin Stefanie Hubig will härter gegen das Erstellen und Verbreiten mit Künstlicher Intelligenz erzeugter sexualisierter Bilder vorgehen. Die Betroffenen sollen besser vor solchen KI-Bildmanipulationen geschützt werden und Hubig verlangt, das „Strafrecht noch einmal nachzuschärfen“. Zudem erstellt ihr Ministerium „derzeit den Entwurf für ein digitales Gewaltschutzgesetz“, das Strafen für Deepfakes vorsieht, die die Persönlichkeitsrechte von Betroffenen verletzen.
Soweit ist Kalifornien noch nicht. Generalstaatsanwalt Bonta hat gestern keine Einzelheiten über den Umfang der Untersuchungen von xAI und Grok genannt und ob strafrechtliche Vorwürfe dazu gehören.
(fds)
Künstliche Intelligenz
Bald 100. Sozialroboter von Navel Robotics im Einsatz
Das Münchner Start-up Navel Robotics liefert Anfang März 2026 seinen 100. sozialen Roboter „Navel“ aus. Empfänger ist die Seniorenhaus GmbH der Cellitinnen zur hl. Maria mit 24 Senioreneinrichtungen zwischen Kleve und Trier. Nach Angaben des Unternehmens sind mittlerweile 100 Navel-Roboter im täglichen Einsatz in stationären Einrichtungen. Pflege- und Betreuungskräfte sowie Bewohnerinnen und Bewohner nutzen die KI-gestützten Systeme regelmäßig. Navel komme laut dem Gründer Claude Toussaint zunehmend auch in anderen Bereichen zum Einsatz, beispielsweise bei Kindern für eine bessere Sprachentwicklung.
Weiterlesen nach der Anzeige
Studien und Praxiserfahrungen aus Pilotprojekten, unter anderem mit der Medizinischen Hochschule Hannover, der TU München und der Evangelischen Heimstiftung, deuten darauf hin, dass soziale Roboter kognitive und emotionale Aktivierung fördern und positive Impulse für die Stimmung in den Einrichtungen setzen können. In Einrichtungen unterhält er mit Gedichten, Witzen und Quizangeboten und agiert dabei empathisch. Perspektivisch soll der Roboter künftig selbstständig durch die Einrichtung fahren und Bewohnerinnen und Bewohner zum Beispiel zum Mittagessen abholen.
Eine direkte personelle Entlastung blieb vergangenen Forschungsprojekten zufolge allerdings noch aus, da der Roboter im aktuellen Entwicklungsstadium meist begleitet werden muss und noch nicht autonom agiert. „Die größten Einschränkungen lagen in der Reaktionszeit, der Sprachverarbeitung und der fehlenden autonomen Mobilität“, heißt es im Abschlussbericht der Evangelischen Heimstiftung von 2024. Inzwischen hat Navel mehrere Updates erhalten – etwa für die Gesichtserkennung – und soll beispielsweise auf Menschen zufahren können, wenn diese ihn darum bitten. Das erklärte Toussaint im Oktober 2025 gegenüber heise online.
Zudem kann der Roboter mittels SLAM-Technologie (Simultaneous Localization and Mapping) eigenständig Karten der Einrichtung erstellen. Damit könnte der Roboter perspektivisch eigenständig zwischen Räumen navigieren, ohne getragen oder manuell positioniert werden zu müssen. Außerdem soll es Toussaint zufolge möglich sein, Navel „weitere Informationen zur Zielgruppe und seiner Aufgabe mitzugeben sowie das Sprachtempo und Antwortverzögerung für die Zielgruppe anzupassen“.
Das Unternehmen gibt an, einen Fokus auf Datenschutz und europäische Datensouveränität zu legen. Daten würden grundsätzlich lokal auf dem Gerät gespeichert, Teile der KI-Verarbeitung erfolgten direkt auf dem Roboter, ergänzend auf europäischen Servern. Die Entwicklung orientiere sich am Prinzip „Privacy by Design“ sowie an der DSGVO und der KI-Verordnung.
Zwar sei das Interesse an sozialen Robotern in der Pflegebranche laut Hersteller groß, „dennoch verhindert das Sozialgesetzbuch XI aktuell eine schnellere Verbreitung der Lösungen, weil heutige Regelungen die Abrechnung solch moderner Unterstützungssysteme nicht vorsehen,“ so Navel.
Weiterlesen nach der Anzeige
(mack)
Künstliche Intelligenz
Erneuter Rückruf: BMW warnt vor Brandgefahr bei Hunderttausenden Autos
BMW ruft erneut weltweit Hunderttausende Fahrzeuge wegen möglicher Brandgefahr zurück. Das geht aus einem in der Datenbank des Kraftfahrt-Bundesamts (KBA) veröffentlichten Rückruf hervor, den der Autobauer aus München bestätigt. Betroffen seien die Modelle i5, 7er, M5, 5er und i7 aus dem Produktionszeitraum vom 9. Juni 2022 bis 5. Dezember 2025.
Weiterlesen nach der Anzeige
Weltweit sind 337.374 Fahrzeuge potenziell betroffen, deutschlandweit sind es 29.441 Fahrzeuge, wie das KBA mitteilte. Demnach könne die mangelhafte Verlegung des Cockpit-Kabelbaumes „beim Ersatz des Mikrofilters zu Beschädigungen an Kabeln und damit zu einem Kurzschluss mit Rauchentwicklung und Brandfolge führen“. Als Maßnahme werde die Verlegung des Cockpit-Kabelbaumes geprüft und gegebenenfalls nachgebessert.
Was Kundinnen und Kunden nun wissen sollten
„Im Zusammenhang mit diesem Fehlerbild ist kein Unfall bekannt“, teilte ein BMW-Sprecher mit. Sollte das Fahrzeug bereits einen Ölservice und somit einen Mikrofilterwechsel erhalten haben, sei eine umgehende Prüfung und eine eventuelle Nacharbeit der Kabel notwendig. Sollte noch kein Ölservice und somit kein Mikrofilterwechsel durchgeführt worden sein, bestehe kein unmittelbarer Handlungsbedarf, eine Nacharbeit beim ersten Ölservice sei ausreichend, sagte der Sprecher.
Dritter Rückruf in fünf Monaten
Schon im vergangenen Herbst hatte BMW Hunderttausende Autos aus den Jahren 2015 bis 2021 zurückgerufen, weil es auch hier durch ein Starterproblem im schlimmsten Fall zu Bränden kommen konnte. Im Februar kamen dann weitere Modellreihen mit gefährdeten Startern dazu.
Der neueste BMW-Rückruf, diesmal wegen eines Kabelbaums, ist durch Eingabe des Modelltyps auch in der öffentlichen Datenbank des KBA sichtbar. Über die Fahrzeug-Identifizierungsnummer (FIN) ist dies auch auf der Rückrufseite von BMW direkt möglich.
Weiterlesen nach der Anzeige
Lesen Sie auch
(nie)
Künstliche Intelligenz
c’t-Story: Goldener Oktober | heise online
Die Frau, die mir an meinem Schreibtisch gegenübersaß, trug ein streng geschnittenes, silbrig glänzendes Seidenkostüm und hatte grünen Lippenstift aufgelegt. „Mein Name ist Ursula Guinle, Beiratsvorsitzende des Goldenen Oktobers.“ Sie reichte mir die Hand und musterte mich. „Der Goldene Oktober ist Ihnen ein Begriff?“
Das klang für mich nach uralter Weinwerbung, aber offensichtlich meinte sie irgendeine Art von Unternehmen. Da Privatermittler immer den Anschein erwecken sollten, alles und jeden zu kennen, entschloss ich mich zu einer meiner Standardrepliken. „Wer kennt ihn nicht!“
Die Antwort schien sie nicht zu befriedigen. „Ich rede von der Seniorenresidenz. Wir haben die innovativste Einrichtung, um ältere Menschen auf ihrem letzten Lebensabschnitt zu begleiten. Unser Motto lautet: Optimierte Lebensqualität durch Einsatz der neuesten Generation von Pflegebots. Menschliches Versagen, sonst eine der traurigsten Gefahrenquellen in der Seniorenpflege, ist bei uns ausgeschlossen. Wir …”, ergänzte sie mit einem stolzen Werbespot-Blick, „erhalten überwältigend positives Feedback.“
Das war die Leseprobe unseres heise-Plus-Artikels „c’t-Story: Goldener Oktober“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
-
Künstliche Intelligenzvor 2 MonatenSchnelles Boot statt Bus und Bahn: Was sich von London und New York lernen lässt
-
Social Mediavor 3 WochenCommunity Management zwischen Reichweite und Verantwortung
-
Künstliche Intelligenzvor 2 Wochen
Top 10: Die beste kabellose Überwachungskamera im Test – Akku, WLAN, LTE & Solar
-
Datenschutz & Sicherheitvor 3 MonatenSyncthing‑Fork unter fremder Kontrolle? Community schluckt das nicht
-
Entwicklung & Codevor 3 MonatenKommentar: Anthropic verschenkt MCP – mit fragwürdigen Hintertüren
-
Künstliche Intelligenzvor 3 MonatenGame Over: JetBrains beendet Fleet und startet mit KI‑Plattform neu
-
Social Mediavor 2 MonatenDie meistgehörten Gastfolgen 2025 im Feed & Fudder Podcast – Social Media, Recruiting und Karriere-Insights
-
Künstliche Intelligenzvor 3 MonatenDigital Health: „Den meisten ist nicht klar, wie existenziell IT‑Sicherheit ist“
