Künstliche Intelligenz
Grok-Skandal: KI von xAI generiert sexuelle Deepfakes von Frauen und Kindern
Die KI Grok, die direkt in die Plattform X integriert ist und von Elon Musks Konzern xAI betrieben wird, hat in den vergangenen Tagen einen handfesten Skandal ausgelöst. Nutzer haben die Bildbearbeitungsfunktion des generativen KI-Systems verwendet, um Fotos von Frauen und sogar Minderjährigen digital zu entkleiden und sexualisierte Versionen der Aufnahmen zu erzeugen. Diese Deepfakes wurden öffentlich auf X gepostet, was zu heftiger Empörung führte.
Weiterlesen nach der Anzeige
Agenturen und Medien wie Bloomberg, Reuters und Politico beschreiben, wie Grok auf einfache Anfragen wie „entferne ihre Kleidung“ oder „setze sie in einen Bikini“ reagierte und entsprechende Bilder generierte, die teilweise oder vollständig entblößt wirkten. Besonders brisant sind Fälle, in denen Jugendliche und Kinder betroffen waren.
Über den X-Account von Grok selbst ist in mehreren Postings die Rede davon, es habe „vereinzelte Fälle“ gegeben, in denen Nutzer KI-Bilder von Minderjährigen in „knapper Bekleidung“ erhalten hätten. Dazu kommt der Hinweis auf ein „Versagen der Sicherheitsvorkehrungen“, was gegenwärtig behoben werde. Die Vorfälle hätten „gegen ethische Standards und möglicherweise gegen US-amerikanische Gesetze zu kinderpornografischem Material“ verstoßen. Weiter heißt es: „xAI überprüft den Vorfall, um künftige Probleme zu vermeiden.“
Aus den Äußerungen über das Grok-Konto geht nicht klar hervor, ob auch diese rein automatisch generiert oder zumindest menschlich überprüft wurden. Das KI-System erweckt den Eindruck, für sich selbst zu sprechen. In einer früheren Stellungnahme zu den Vorkommnissen soll xAI pauschal etwa gegenüber Reuters erklärt haben: „Die etablierten Medien lügen.“
Französische Justiz ermittelt
Viele der anstößigen Bilder wurden später gelöscht, doch Screenshots zirkulieren weiter. Betroffene Frauen und Teenager beklagen sich, dass ihre auf X geposteten Fotos ohne ihr Wissen manipuliert worden seien, was ihre Würde verletze.
Vor allem in Frankreich reagierte die Politik prompt. Die Hochkommissarin für Kinder, Sara El Haïry, zeigte sich empört und forderte den Medienregulierer Arcom auf, die Fälle auf Basis des Digital Services Act (DSA) zu prüfen. Gleich drei Ressortchefs aus dem französischen Kabinett – Wirtschaftsminister Roland Lescure, KI-Ministerin Anne Le Hénanff und Gleichstellungsministerin Aurore Bergé – erstatteten Anzeige bei der Pariser Staatsanwaltschaft und meldeten die Inhalte an die Meldeplattform Pharos zur sofortigen Entfernung. Sie erklärten gemeinsam: Das Internet sei weder rechts- noch straffrei. Zugleich wandten sich die Abgeordneten Arthur Delaporte und Eric Bothorel an die Justiz.
Die Staatsanwaltschaft in Paris bestätigte gegenüber Politico, dass die Vorfälle in eine laufende Untersuchung gegen X einfließen. Diese umfasse bereits Antisemitismus und Holocaust-Leugnung durch Grok. Das Delikt könnte mit bis zu zwei Jahren Haft für Verantwortliche beziehungsweise einer Geldbuße geahndet werden.
Weiterlesen nach der Anzeige
Auch international hagelt es Kritik: In Indien forderte das IT-Ministerium einen Bericht von X. In Großbritannien mahnte eine Ministerin strengere Regeln an. xAI positioniert Grok mit Funktionen wie „Spicy Mode“ für suggestive Inhalte bewusst freizügiger als Konkurrenzmodelle wie ChatGPT oder Gemini. Doch Experten warnen seit Langem vor daraus erwachsenden Risiken. Auch Kinderschutzorganisationen schlugen bereits im Vorjahr Alarm. Die jüngsten Entgleisungen bei Grok unterstreichen auch erneut die dunkle Seite generativer KI.
(nen)
Künstliche Intelligenz
Dyna-Industrieroboter faltet Textilien ohne Pause
Weiterlesen nach der Anzeige
Langsam und bedächtig legt der Dyna-Roboter am Messestand von Dyna Robotics auf der CES 2026 ein Kleidungsstück nach dem anderen zusammen. Mit spitzen Roboterfingern greift er in den Wäschekorb, muss oft bis zu fünf Mal ansetzen, bevor er einen Zipfel erwischt. Dann aber zieht er ein Stück Stoff vor sich auf den Tisch, faltet es zu einem perfekten Rechteck, dreht es so, dass es parallel zur Tischplatte liegt, und legt es auf den Stapel seiner bereits erledigten Arbeit.
Das könnten menschliche Hände ohne Frage sehr viel schneller. Dafür geht der Dyna-Automat nicht rauchen, macht keine Mittagspause und arbeitet täglich sehr viel länger als acht Stunden.
Dauerbetrieb ohne menschlichen Eingriff
Der Industrieroboter soll monotone Handarbeit in gewerblichen Umgebungen automatisieren. Nach Angaben des Unternehmens arbeitet der Roboter mehr als 24 Stunden am Stück ohne menschliches Eingreifen. In internen Tests erreichte das System eine Erfolgsquote von über 99 Prozent. Zwei fest installierte Roboterarme übernehmen dabei das Greifen, Ausrichten und Falten der Wäschestücke.
Dyna setzt seine Roboter bereits in Hotels, Wäschereien und anderen Dienstleistungsbetrieben ein. Dort laufen sie bis zu 16 Stunden täglich im Regelbetrieb. Außer Wäsche zusammenlegen kann er auch Servietten falten oder Textilien verpacken.
Lernen bei der Arbeit
Das kalifornische Unternehmen Dyna Robotics hat für ihn ein eigens KI-Grundmodell namens DYNA-1entwickelt. Es ist so ausgelegt, dass es aus realen Einsätzen weiterlernt. Der Roboter passt sich neuen Umgebungen an, ohne zuvor speziell dafür trainiert zu werden. Ein integriertes Bewertungssystem erkennt Fehler und korrigiert auf deren Grundlage die Bewegungsabläufe der Arme.
Weiterlesen nach der Anzeige
Finanzierung und weitere Pläne
Im September 2025 schloss Dyna Robotics eine Finanzierungsrunde über 120 Millionen US‑Dollar ab. Mit dem Kapital will das Unternehmen seine Roboter weiterentwickeln und den Einsatz auf weitere Branchen ausweiten. Langfristig will Dyna damit vielseitig einsetzbare Industrieroboter anbieten können.
Hinweis: heise online ist Medienpartner der CES 2026.
(akr)
Künstliche Intelligenz
Künstlicher Lärm als Markenzeichen: Der feuchte Traum der E-Auto-Branche
Elektromobilität gilt als Hoffnungsträger für leisere und lebenswertere Städte, da ihre Motoren bauartbedingt nahezu geräuschlos surren. Doch dieser technische Vorteil steht zur Disposition. Während immer mehr Stromer auf den Straßen rollen, findet in internationalen Normungsgremien eine kontroverse Debatte statt, die erheblichen Rückschritt beim Verkehrslärm mit sich bringen könnte. Im Kern geht es um die Frage, ob die Chance vertan wird, den urbanen Lärmpegel nachhaltig zu senken. Denn es gibt eine wachsende Lobby dafür, E-Fahrzeuge künstlich so laut wie Verbrenner zu machen.
Weiterlesen nach der Anzeige
In einer aktuellen Analyse, die heise online vorliegt, beleuchten Holger Siegel vom Bundesverband gegen Motorradlärm, Marc Millenet und Thierry Talon die Hintergründe der Verhandlungen in Genf. Dort debattiert die Wirtschaftskommission der UN für Europa (UNECE) seit 2024 über Änderungen an den zentralen Fahrzeuggeräusch-Regelungen: Nummer 51 dreht sich um zulässige Lärmemissionen, Nummer 138 um Geräusche für leise Fahrzeuge)
Bisher ist ein gewisses Maß an künstlichem Geräusch bei niedrigen Geschwindigkeiten gesetzlich vorgeschrieben, um die Sicherheit von Fußgängern und Sehbehinderten zu gewährleisten. Dieses Acoustic Vehicle Alerting System (AVAS) erzeugt in der EU Warntöne bis zu einer Geschwindigkeit von 20 km/h. Künftig dürfte das Limit auf 30 km/h angehoben werden. Sobald das Fahrzeug schneller fährt, muss der Ton aus Gründen des Lärmschutzes abgeschaltet werden.
Industrie-Logik: Sound als Marken-DNA
Die Automobilbranche, die in Genf durch den Weltverband OICA vertreten ist, $(LE weit darüber hinausgehende Freiheiten an. Mit sogenannten Exterior Sound Enhancement Systems (ESES) sollen E-Autos zusätzliche Klänge nach außen abgeben können. Diese sollen gerade nicht der Sicherheit dienen, sondern rein emotional motiviert sein. Es geht um sportliches Röhren oder andere dröhnende Soundkulissen, künstlich über Lautsprecher erzeugt.
Das Narrativ der Hersteller folgt einer jahrzehntealten Marketing-Logik, die Sound mit Emotion, Dynamik und Identität gleichsetzt. Konzerne wie Porsche haben für Modelle wie den Taycan bereits spezifische Electric Sport Sounds entwickelt. BMW kooperiert sogar mit Hollywood-Größen wie Hans Zimmer, um markentypische Klangwelten zu erschaffen. Diese sollen den „Spaß am Fahren“ erhöhen.
Die Branche warnt, dass eine Verschärfung der Grenzwerte den wachsenden E-Auto-Markt gefährden könnte. Manche Kunden würden ohne den gewohnten „kraftvollen Sound” kein akkubetriebenes Fahrzeug kaufen, fürchten die OICA-Lobbyisten. E-Autos sollen ihnen zufolge keinen strengeren Lärmgrenzwerten unterworfen werden als herkömmliche Verbrenner. In der Praxis könnten E-Autos durch ESES-Systeme, insbesondere bei Beschleunigung, akustisch wieder das Niveau lärmauffälliger Performance-Verbrenner erreichen. Kritiker sehen darin den verzweifelten Versuch, ein archaisches Autogefühl in eine moderne Ära zu retten, in der echte Modernität eigentlich durch Stille definiert ist.
Weiterlesen nach der Anzeige
Der Fall Porsche: Verbrenner-Revival statt „Electric First“
Wie tief diese Skepsis gegenüber der lautlosen Technik gerade in der Oberklasse sitzt, zeigt die aktuelle Strategie Porsches. Obwohl die elektronische Technik als überlegen gilt und sich mittelfristig durchsetzen dürfte, setzt der Stuttgarter Sportwagenbauer „marktbedingt“ vorerst wieder verstärkt auf traditionelle Antriebskonzepte.
Eine bisher vollelektrisch geplante SUV-Baureihe wird zunächst ausschließlich als Verbrenner- und Plug-in-Hybridmodell erscheinen. Viele Porsche-Liebhaber bevorzugen offenbar die mechanische Präzision und den klassischen Lärm eines Verbrennungsmotors gegenüber der digitalen Stille. Das unterstreicht das Identitätsproblem der Branche: Der Abschied vom Verbrenner wäre konsequenterweise auch einer vom Lärm. Doch diesen Schritt scheuen Hersteller und Teile der Kundschaft gleichermaßen.
Die gesundheitlichen Kosten des „Sound-Designs“
Während die Branche über Emotionen debattiert, warnen Gesundheits- und Umweltvertreter vor den realen Folgen. Verkehrslärm ist nach der Luftverschmutzung die zweitgrößte Umweltgefahr in Europa. Laut der Europäischen Umweltagentur (EEA) sind über 110 Millionen Menschen regelmäßig gesundheitsgefährdenden Pegeln ausgesetzt. Dauerhafte Belastung erhöht nachweislich das Risiko für Bluthochdruck, Herzinfarkte und Schlaganfälle.
Allein in Deutschland müssen circa 22 Millionen Menschen mit Tagespegeln über 55 Dezibel leben. Die Weltgesundheitsorganisation (WHO) schätzt, dass Verkehrslärm in Europa jährlich rund 1 bis 1,3 Millionen gesunde Lebensjahre raubt. Vor diesem Hintergrund erscheint der Versuch, E-Autos künstlich lauter zu machen, als gesundheitspolitischer Rückschritt. Frankreich, die Niederlande und die Schweiz haben sich in den UNECE-Gremien bereits deutlich gegen unnötigen Lärm ausgesprochen.
Kompromiss: Lärm auf Knopfdruck?
Der Verhandlungsstand vom November deutet auf einen Kompromiss hin. Die Positionen gehen zunächst weit auseinander: So sei die EU-Kommission für ein striktes Verbot nicht sicherheitsrelevanter künstlicher Geräusche. Staaten wie Deutschland oder Japan warnten dagegen vor Verboten. Daher zeichnet sich ein technischer Mittelweg ab: das „Default-Off“-Prinzip. Es besagt: Ein Fahrzeug darf zwar mit ESES ausgestattet sein. Solche Systeme sind aber beim Fahrtantritt grundsätzlich ausgeschaltet. Der Fahrer müsste die Lautsprecher jedes Mal gezielt aktivieren. Etwa die Schweiz hat diesen Ansatz in den Arbeitsgruppen vorangetrieben.
Die endgültige Entscheidung über die neuen Normen wird auf der Plenarsitzung der UNECE im Februar erwartet. Siegel, Millenet und Talon schlagen Alarm, dass die „leise Revolution“ auf der Kippe stehe. Sollte sich die Branche in diesem Kulturkampf durchsetzen und ESES ohne strenge Hürden etablieren, könnte ein Teil des technischen Fortschritts bei der E-Mobilität zunichtegemacht werden.
(ds)
Künstliche Intelligenz
Informationsrecht und Insolvenz: Wenn es keine Akten gibt, reicht Cloud-Zugang
Die fortschreitende Digitalisierung zwingt auch die deutsche Justiz dazu, altgediente Rechtsinstitute an moderne Technik anzupassen. Ein Beschluss des Bayerischen Obersten Landesgerichts (BayObLG) vom Herbst 2025 (Az. 101 W 136/24 e), der eine Entscheidung des Landgerichts München I bestätigt, markiert einen Wendepunkt.
Weiterlesen nach der Anzeige
Im Kern der Auseinandersetzung stand die Frage, wie ein Gesellschafter sein Informations- und Einsichtsrecht durchsetzen kann, wenn ein Unternehmen seine Aktenordner gegen virtuelle Datenspeicher getauscht hat. Der Fall zeigt exemplarisch, dass das Beharren auf physische Akteneinsicht in der digitalen Welt an Grenzen stößt.
In dem Rechtsstreit fordert ein Gesellschafter einer GmbH im Insolvenzverfahren umfassende Einsicht in die Geschäftsunterlagen. Ein entsprechender Titel zur Einsichtnahme lag vor, doch die praktische Umsetzung gestaltete sich schwierig. Denn die GmbH gab an, dass sämtliche Dokumente ausschließlich digital in Microsofts OneDrive-Cloud gespeichert seien. Sie bot befristeten Zugang zu den digitalen Daten, aber keine Ausdrucke.
Kein Papier vorhanden
Physische Originale existierten laut Feststellung der Münchner Richter nicht. Das habe auch daran gelegen, dass die Staatsanwaltschaft im Rahmen eines Ermittlungsverfahrens die verbliebenen Papierdokumente beschlagnahmt hat. Der Gläubiger beharrte dennoch auf persönlicher Einsichtnahme in analoge Ausdrucke in den Geschäftsräumen der Gesellschaft.
Neben der rechtlichen Frage, welche Vollstreckungsverfahren im Cloud-Zeitalter anzuwenden sind, ging es darum, ob die Informationsrechte eines Gesellschafters während eines Insolvenzverfahrens ruhen. Denn normalerweise führt die Eröffnung eines Insolvenzverfahrens zur Unterbrechung anderer laufender Verfahren, um die Insolvenzmasse zu schützen.
Da es sich um keinen klassischen Vermögensanspruch handle, werde das Verfahren auf Akteneinsicht nicht unterbrochen, legten die Münchner Gerichte fest. Es gehe dabei um ein fundamentales Kontrollrecht des Gesellschafters. Dies sichere Gesellschaftern in einer Unternehmenskrise den Zugang zu wichtigen Informationen, sofern sie bereit sind, sich auf die technischen Gegebenheiten einzulassen.
Weiterlesen nach der Anzeige
Kein Ausdruck-Zwang
Die Richter setzen Leitplanken für die digitale Ära. Ihr Tenor: Zugang zu digitalen Dokumenten in der Cloud reicht aus, um dem Informationsanspruch zu genügen, wenn die Dokumente ausschließlich in dieser Form existieren. WEr trotzdem auf Papierakten besteht, riskiert, dass das Begehren als unbegründet oder sogar treuwidrig abgewiesen wird.
Die Richter betonen: Wenn keine Papierdokumente existieren, ist der digitale Zugriff nicht nur eine Krücke, sondern die primäre Form der Pflichterfüllung. Das spiegelt die heutigen Gepflogenheiten digitaler Dokumentenverwaltung wider und entlastet Unternehmen von der Pflicht, digitale Daten für die Einsichtnahme auszudrucken.
Signal für die Praxis
Zugleich sanktionieren die Richter die Schuldnerin aber dort, wo sie Zugriff auf die Cloud verzögert oder unnötig erschwert hat. Die Kostenentscheidung des Verfahrens fällt entsprechend differenziert aus: Der Gläubiger muss einen Großteil der Kosten tragen, da sein Beharren auf der analogen Welt in weiten Teilen unberechtigt war. Die Schuldnerin zogen die Gerichte für ihre Hinhaltetaktik aber ebenfalls zur Rechenschaft.
Der IT-Rechtler Jens Ferner sieht ein wichtiges Signal für die Praxis von Firmen und Justiz. Deutlich werde, dass die Cloud ein etabliertes Medium sei, das bestehende Rechte transformiere. Firmen sollten ihre digitale Archivierung daher so strukturieren, dass sie im Streitfall geordneten Zugriff ermöglichen können.
(vbr)
-
UX/UI & Webdesignvor 3 MonatenIllustrierte Reise nach New York City › PAGE online
-
Künstliche Intelligenzvor 3 MonatenAus Softwarefehlern lernen – Teil 3: Eine Marssonde gerät außer Kontrolle
-
Künstliche Intelligenzvor 3 Monaten
Top 10: Die beste kabellose Überwachungskamera im Test
-
UX/UI & Webdesignvor 3 MonatenSK Rapid Wien erneuert visuelle Identität
-
Künstliche Intelligenzvor 3 MonatenNeue PC-Spiele im November 2025: „Anno 117: Pax Romana“
-
Entwicklung & Codevor 2 MonatenKommandozeile adé: Praktische, grafische Git-Verwaltung für den Mac
-
Künstliche Intelligenzvor 3 MonatenDonnerstag: Deutsches Flugtaxi-Start-up am Ende, KI-Rechenzentren mit ARM-Chips
-
UX/UI & Webdesignvor 2 MonatenArndt Benedikt rebranded GreatVita › PAGE online
