Apps & Mobile Entwicklung

Teenagerinnen verklagen xAI: Bilder von sexuellem Kindesmissbrauch durch Grok AI

Die bereits Anfang des Jahres bekanntgewordene Vielzahl an Bildern, die durch den in X integrierten KI-Chatbot Grok erstellt wurden und sexualisierte Darstellungen von Prominenten, Frauen und sogar Minderjährigen zeigten, hat weitere Konsequenzen: Drei Teenager haben mit ihren Eltern eine Sammelklage gegen xAI angestrengt.

Sexualisierte Bilder haben nun Konsequenzen – nicht nur in den USA

Bereits Anfang des Jahres berichteten Medien über die fehlenden Sicherheitsrichtlinien auf X, die es ermöglichten, per Grok AI Bilder von Frauen, aber auch Kindern in Bikinis oder sexuellen Posen generieren zu lassen und diese dort zu veröffentlichen. Dabei wurden massenhaft sexualisierte Inhalte aus originalen und meist harmlosen Bildern ohne die Einwilligung der Inhaber erstellt und gepostet. Nach neuen Erkenntnissen sollen dabei allein innerhalb der ersten neun Tage 4,4 Millionen „entkleidete“ oder „nackt gestellte“ Bilder generiert worden sein – 41 Prozent aller in dieser Zeit erstellten Bilder. 23.000 von ihnen sollen sexualisierte Darstellungen von Kindern gezeigt haben.

Diese Vorgänge hatten für die Plattform in Frankreich bereits Konsequenzen: Hier kündigten Behörden erste Ermittlungen an und wollen laut einem Bericht von Politico ein bereits bestehendes Verfahren um den aufgeführten Punkt ausweiten. Aber auch in Großbritannien hat der dortige Kommunikationsregulator Ermittlungen aufgenommen, Gleiches gilt für den kalifornischen Generalstaatsanwalt.

In Tennessee haben nun drei weibliche Teenager, zwei davon noch minderjährig, und ihre Erziehungsberechtigten eine Sammelklage gegen xAI eingereicht, wie die Washington Post berichtet. Ein einzelner Täter soll laut dieser Bilder und Videos von insgesamt mehr als 18 Mädchen zusammengestellt und einige davon mithilfe von KI digital verändert haben. Viele dieser Mädchen sollen zudem dieselbe Schule besucht haben.

Klage sieht Leben der Opfer zerstört

Die drei Jane Does – Pseudonyme, die den Teenagern zum Schutz ihrer Identität gegeben wurden – werfen Elon Musks Unternehmen vor, mit seiner Grok-KI-Technologie Material über sexuellen Kindesmissbrauch erstellt und verbreitet zu haben, das ihre Gesichter und Ähnlichkeiten zeigt. „Ihr Leben wurde durch den verheerenden Verlust an Privatsphäre, Würde und persönlicher Sicherheit zerstört“, heißt es unter anderem in der Klageschrift. Dies sei durch „die Produktion und Verbreitung dieses CSAM“(Child Sexual Abuse Material) verursacht worden. Dabei soll der finanzielle Gewinn von xAI durch die verstärkte Nutzung seines Produkts zur Erstellung von Bildern und Videos auf Kosten des Wohlergehens der Betroffenen gegangen sein.

Die Kläger merken zudem an, dass es für Betrachter der Bilder keinerlei Möglichkeiten gegeben habe, diese als Fälschung zu erkennen. „Für den Betrachter wirkt das resultierende Video vollkommen echt. Für das Kind werden seine Erkennungsmerkmale nun für immer mit einem Video verbunden sein, das seinen eigenen sexuellen Missbrauch darstellt“, heißt es in der Klage. Dies sei vor allem deswegen möglich gewesen, da das Unternehmen keine branchenüblichen Sicherheitsvorkehrungen getroffen habe, die Missbrauchstäter daran hindern würden, entsprechende Bilder zu erstellen. Darüber hinaus wird dem Unternehmen vorgeworfen, die Nutzung seiner Technologie an Drittunternehmen im Ausland lizenziert zu haben, die wiederum Abonnements an die Missbrauchstäter verkauften, mit denen Bilder von sexuellem Kindesmissbrauch mit den Gesichtern und Ähnlichkeiten der Opfer erstellt werden konnten. Die Anfragen sollen dabei über die Server von xAI gelaufen sein, was das Unternehmen haftbar mache, so die Klage weiter. Die Anwälte gaben zudem an, mit externen Fachleuten zusammenzuarbeiten, um festzustellen, dass die Bilder von einer KI und speziell von Grok erstellt worden waren.

Schule und Jahrbuch als Quelle

In der Anklage wird erklärt, dass eines der manipulierten Bilder von einem Foto stammt, das die erste Klägerin bei der Schulkrönung im September zeigt. Ein anderes, das sie oben ohne zeige, schien mit einem Jahrbuchfoto erstellt worden zu sein, heißt es weiter. Die Polizei soll daraufhin bereits im vergangenen Jahr eine Strafermittlung gegen den Täter eröffnet und diesen im Dezember festgenommen haben. Die Polizei durchsuchte daraufhin auch sein Telefon.

Grok-Bildgenerierung soll nicht weiter zugelassen werden

Die drei Kläger fordern nicht nur Schadensersatz, sondern die Klage zielt zusätzlich darauf ab, das Unternehmen daran zu hindern, eine Bildbearbeitung wie die zur Änderung ihrer Fotos verwendete weiter zuzulassen. Laut den Anwälten der Familien soll xAI ein Umfeld geschaffen haben, in dem sich die Verbreitung von Missbrauchsmaterial zwangsläufig ausbreitete, da die Technologie und die öffentliche Kommunikation des Unternehmens die Nutzer quasi dazu ermutigen würden, explizite Bilder zu erstellen.

Source link

Verwandte Themen:Bilder durch Grok Kindesmissbrauch sexuellem Teenagerinnen verklagen Von xAI

Up Next

Samsung Galaxy Book6 Pro im Test

Nicht verpassen

Wie es mit dem Netflix-Hit weitergeht

Apps & Mobile Entwicklung

Bis zu 17.000 Fahrzeuge: Mobileye will eigene Robotaxi-Flotte aufbauen

Der Automobilzulieferer Mobileye will genau das nicht mehr nur sein, sondern auch selbst in dem Markt aktiv werden und eine eigene Robotaxi-Flotte aufbauen. Dafür hat das israelische Unternehmen den US-Markt auserkoren und will dort im nächsten Jahr zunächst rund 100 Fahrzeuge auf die Straßen entlassen, bevor expandiert wird.

Mobileye ist ein Tech-Unternehmen, das sich mehrheitlich im Besitz von Intel befindet, das Software, Chips und KI-Systeme für Fahrerassistenz und autonomes Fahren entwickelt. Das Kerngeschäft sind sogenannte ADAS-Systeme (Advanced Driver Assistance Systems), die Funktionen wie Spurhalteassistent, Notbremsung, Verkehrszeichenerkennung und teilautomatisiertes Fahren ermöglichen. Das Unternehmen bietet dafür eine Reihe unterschiedlicher Produkte an, unter anderem Mobileye Drive, das vollständig autonomes Fahren für Robotaxis ermöglicht.

Ergänzung, keine Konkurrenz

Diese Lösungen will Mobileye auch künftig Autoherstellern und anderen Interessenten anbieten, darauf basierend zugleich aber eine eigene Robotaxi-Flotte aufbauen. Das Unternehmen betrachtet das eigene Vorhaben als ergänzend, nicht als direkte Konkurrenz. Entwicklung, Einsatz und operative Erkenntnisse könnten davon sogar profitieren, argumentiert Mobileye.

17.000 Fahrzeug über fünf Jahre

Die initiale Robotaxi-Flotte soll laut Mobileye aus rund 100 autonomen Fahrzeugen bestehen, die im Laufe des nächsten Jahres in einer bedeutenden US-Metropole zum Einsatz kommen sollen. Geplant sei ein über das Jahr gestaffelter Rollout, um die vollständig fahrerlose Flotte schrittweise zu validieren. Kann diese Robotaxi-Flotte erfolgreich betrieben werden, sei eine deutliche Expansion auf etwa 17.000 Fahrzeuge über die folgenden fünf Jahre vorgesehen.

Betrieb über Moovit-App

Für den Betrieb wird die Mobility-Plattform Moovit verantwortlich sein, die ebenfalls zu Mobileye gehört. Über die App lassen sich unterschiedlichste Mobilitätsdienste wie ÖPNV, Fähren, Fahrradverleih, Carsharing, E-Scooter und mehr für die Routenplanung berücksichtigen und buchen. Auch Fahrzeuge aus der Robotaxi-Flotte sollen sich später über Moovit buchen lassen. Moovit ist laut Mobileye in 112 Ländern und über 3.500 Städten aktiv und sei damit für über 1,7 Milliarden Menschen zugänglich.

Eigene Autos wird Mobileye der Ankündigung zufolge aber nicht bauen. Man werde für das eigene Vorhaben mit Fahrzeugplattform-Herstellern, Flottenbetreibern, Integrationspartnern und Technologiezulieferern zusammenarbeiten.

Source link

Apps & Mobile Entwicklung

Stabilität der Grafik-Suite erhöht: Canva behebt mit Update auf Affinity 3.2.2 über 80 Fehler

Canva hat mit Affinity 3.2.2 eine neue Version der Grafik-Suite veröffentlicht. Neue Funktionen bringt das Update nicht mit, stattdessen konzentriert sich die Aktualisierung auf Fehlerbehebungen. Insgesamt haben die Entwickler mehr als 80 Probleme in den drei Affinity-Anwendungen auf verschiedenen Plattformen behoben.

Update erhöht Stabilität

So beseitigt die neue Version allein 15 Fehler, die unter Windows und macOS bislang zu Abstürzen führen konnten. Darüber hinaus wurden zahlreiche Korrekturen beim Export von Inhalten vorgenommen, die insbesondere PDF- und E-Pub-Dateien betreffen. Weitere 15 Fehlerbehebungen entfallen auf Darstellungsprobleme unter macOS, unter Windows kommen drei zusätzliche Korrekturen in diesem Bereich hinzu.

Alle weiteren Anpassungen betreffen verschiedene Komponenten der drei Affinity-Studios.

Eine vollständige Übersicht aller Änderungen bieten die diesmal besonders ausführlichen Release Notes

Ab sofort verfügbar

Affinity (by Canva) steht ab sofort in Version 3.2.2 auf der Website des Herstellers zum Download bereit. Alternativ kann die Grafik-Suite wie gewohnt auch über den Link am Ende dieser Meldung aus dem Download-Bereich von ComputerBase bezogen werden.

Downloads

4,5 Sterne

Affinity (by Canva) ist der kostenlose Nachfolger zu Affinity Photo, Designer und Publisher.

Source link

Apps & Mobile Entwicklung

Fox kauft Roku für 22 Mrd. USD: Medienkonzern will Streaming-Plattform übernehmen

Die Fox Corporation will Roku übernehmen. Beide Unternehmen haben eine entsprechende Vereinbarung bekanntgegeben. Der Kaufpreis liegt bei 160 US-Dollar je Roku-Aktie, insgesamt wird Roku mit rund 22 Milliarden US-Dollar bewertet. Abgeschlossen werden soll die Übernahme im ersten Halbjahr 2027.

Fox will damit seine klassischen TV-Inhalte stärker mit Streaming und vernetzten TV-Plattformen verbinden. Der Konzern ist in den USA vor allem für Nachrichten, Sport und Unterhaltung bekannt. Zum Portfolio gehören unter anderem Fox News Media, Fox Sports, Fox Entertainment, Fox Television Stations und der werbefinanzierte Streamingdienst Tubi.

Roku ist auch hierzulande aktiv

Roku wiederum ist vor allem im Bereich Streaming-Hardware und Smart-TV-Software aktiv. Das Unternehmen bietet Streaming-Player, Roku TV sowie die eigene Oberfläche Roku OS an. Darüber können Nutzer Streamingdienste, Mediatheken und weitere Apps auf dem Fernseher nutzen. Zusätzlich betreibt Roku mit The Roku Channel einen eigenen werbefinanzierten Streamingdienst. In Deutschland ist Roku weniger präsent als etwa Amazon Fire TV, Google TV oder Apple TV, bietet aber ebenfalls Streaming-Geräte und eine deutsche Plattform an.

Roku soll offen bleiben

Trotz der Übernahme soll Roku laut Mitteilung weiter als offene Plattform betrieben werden. Das ist ein wichtiger Punkt, da Roku nicht nur eigene Dienste anbietet, sondern auch Apps und Inhalte anderer Anbieter auf seine Geräte und TV-Plattform bringt. Fox betont daher, dass Roku „partnerfreundlich“ bleibe.

Gleichzeitig dürfte genau dieser Punkt bei der Prüfung der Übernahme eine Rolle spielen. Fox würde mit Roku nicht nur zusätzliche Streaming-Reichweite gewinnen, sondern auch mehr Kontrolle über eine Plattform erhalten, über die Nutzer Inhalte vieler Anbieter finden und starten.

Abschluss für 2027 geplant

Fox erwartet durch die Übernahme jährliche Kostensynergien von rund 400 Millionen US-Dollar. Finanziert werden soll der Großteil der Übernahme unter anderem über neue Schulden und vorhandene Mittel. Fox hat dafür nach eigenen Angaben eine vollständig zugesagte Finanzierung über 12 Milliarden US-Dollar erhalten. Roku-Gründer und CEO Anthony Wood soll auch nach Abschluss der Übernahme eine Rolle im Unternehmen übernehmen und in den Verwaltungsrat von Fox einziehen. Bis dahin bleibt der Deal allerdings vorläufig: Der Abschluss ist erst für das erste Halbjahr 2027 vorgesehen.

Source link