Apps & Mobile Entwicklung

Teenagerinnen verklagen xAI: Bilder von sexuellem Kindesmissbrauch durch Grok AI

Die bereits Anfang des Jahres bekanntgewordene Vielzahl an Bildern, die durch den in X integrierten KI-Chatbot Grok erstellt wurden und sexualisierte Darstellungen von Prominenten, Frauen und sogar Minderjährigen zeigten, hat weitere Konsequenzen: Drei Teenager haben mit ihren Eltern eine Sammelklage gegen xAI angestrengt.

Sexualisierte Bilder haben nun Konsequenzen – nicht nur in den USA

Bereits Anfang des Jahres berichteten Medien über die fehlenden Sicherheitsrichtlinien auf X, die es ermöglichten, per Grok AI Bilder von Frauen, aber auch Kindern in Bikinis oder sexuellen Posen generieren zu lassen und diese dort zu veröffentlichen. Dabei wurden massenhaft sexualisierte Inhalte aus originalen und meist harmlosen Bildern ohne die Einwilligung der Inhaber erstellt und gepostet. Nach neuen Erkenntnissen sollen dabei allein innerhalb der ersten neun Tage 4,4 Millionen „entkleidete“ oder „nackt gestellte“ Bilder generiert worden sein – 41 Prozent aller in dieser Zeit erstellten Bilder. 23.000 von ihnen sollen sexualisierte Darstellungen von Kindern gezeigt haben.

Diese Vorgänge hatten für die Plattform in Frankreich bereits Konsequenzen: Hier kündigten Behörden erste Ermittlungen an und wollen laut einem Bericht von Politico ein bereits bestehendes Verfahren um den aufgeführten Punkt ausweiten. Aber auch in Großbritannien hat der dortige Kommunikationsregulator Ermittlungen aufgenommen, Gleiches gilt für den kalifornischen Generalstaatsanwalt.

In Tennessee haben nun drei weibliche Teenager, zwei davon noch minderjährig, und ihre Erziehungsberechtigten eine Sammelklage gegen xAI eingereicht, wie die Washington Post berichtet. Ein einzelner Täter soll laut dieser Bilder und Videos von insgesamt mehr als 18 Mädchen zusammengestellt und einige davon mithilfe von KI digital verändert haben. Viele dieser Mädchen sollen zudem dieselbe Schule besucht haben.

Klage sieht Leben der Opfer zerstört

Die drei Jane Does – Pseudonyme, die den Teenagern zum Schutz ihrer Identität gegeben wurden – werfen Elon Musks Unternehmen vor, mit seiner Grok-KI-Technologie Material über sexuellen Kindesmissbrauch erstellt und verbreitet zu haben, das ihre Gesichter und Ähnlichkeiten zeigt. „Ihr Leben wurde durch den verheerenden Verlust an Privatsphäre, Würde und persönlicher Sicherheit zerstört“, heißt es unter anderem in der Klageschrift. Dies sei durch „die Produktion und Verbreitung dieses CSAM“(Child Sexual Abuse Material) verursacht worden. Dabei soll der finanzielle Gewinn von xAI durch die verstärkte Nutzung seines Produkts zur Erstellung von Bildern und Videos auf Kosten des Wohlergehens der Betroffenen gegangen sein.

Die Kläger merken zudem an, dass es für Betrachter der Bilder keinerlei Möglichkeiten gegeben habe, diese als Fälschung zu erkennen. „Für den Betrachter wirkt das resultierende Video vollkommen echt. Für das Kind werden seine Erkennungsmerkmale nun für immer mit einem Video verbunden sein, das seinen eigenen sexuellen Missbrauch darstellt“, heißt es in der Klage. Dies sei vor allem deswegen möglich gewesen, da das Unternehmen keine branchenüblichen Sicherheitsvorkehrungen getroffen habe, die Missbrauchstäter daran hindern würden, entsprechende Bilder zu erstellen. Darüber hinaus wird dem Unternehmen vorgeworfen, die Nutzung seiner Technologie an Drittunternehmen im Ausland lizenziert zu haben, die wiederum Abonnements an die Missbrauchstäter verkauften, mit denen Bilder von sexuellem Kindesmissbrauch mit den Gesichtern und Ähnlichkeiten der Opfer erstellt werden konnten. Die Anfragen sollen dabei über die Server von xAI gelaufen sein, was das Unternehmen haftbar mache, so die Klage weiter. Die Anwälte gaben zudem an, mit externen Fachleuten zusammenzuarbeiten, um festzustellen, dass die Bilder von einer KI und speziell von Grok erstellt worden waren.

Schule und Jahrbuch als Quelle

In der Anklage wird erklärt, dass eines der manipulierten Bilder von einem Foto stammt, das die erste Klägerin bei der Schulkrönung im September zeigt. Ein anderes, das sie oben ohne zeige, schien mit einem Jahrbuchfoto erstellt worden zu sein, heißt es weiter. Die Polizei soll daraufhin bereits im vergangenen Jahr eine Strafermittlung gegen den Täter eröffnet und diesen im Dezember festgenommen haben. Die Polizei durchsuchte daraufhin auch sein Telefon.

Grok-Bildgenerierung soll nicht weiter zugelassen werden

Die drei Kläger fordern nicht nur Schadensersatz, sondern die Klage zielt zusätzlich darauf ab, das Unternehmen daran zu hindern, eine Bildbearbeitung wie die zur Änderung ihrer Fotos verwendete weiter zuzulassen. Laut den Anwälten der Familien soll xAI ein Umfeld geschaffen haben, in dem sich die Verbreitung von Missbrauchsmaterial zwangsläufig ausbreitete, da die Technologie und die öffentliche Kommunikation des Unternehmens die Nutzer quasi dazu ermutigen würden, explizite Bilder zu erstellen.

Source link

Verwandte Themen:Bilder durch Grok Kindesmissbrauch sexuellem Teenagerinnen verklagen Von xAI

Up Next

Samsung Galaxy Book6 Pro im Test

Nicht verpassen

Wie es mit dem Netflix-Hit weitergeht

Apps & Mobile Entwicklung

Drohnen-Schutzschild: Rheinmetall und Telekom arbeiten zusammen

In der modernen Kriegsführung nehmen Drohnen inzwischen eine wichtige Stellung ein und werden dadurch zur potenziellen Bedrohung. Das Rüstungsunternehmen Rheinmetall will nun gemeinsam mit der Deutschen Telekom einen „Drohnen-Schutzschild“ entwickeln.

Zum Schutz von Städten und kritischer Infrastruktur in Deutschland wollen Rheinmetall und Telekom einen „Abwehrschirm gegen Drohnen und Sabotage entwickeln“, das geht aus einer Pressemitteilung von Rheinmetall vor. Die Kooperation beim sogenannten „Multi-Threat-Protection-System“ wurde im Vorfeld der AFCEA in Bonn bekanntgegeben. Bei der jährlich stattfindenden Fachausstellung für Sicherheitstechnik trifft sich die IT-Community der Bundeswehr mit Firmen und Organisationen wie auch Amtsvertretern. Die Betreiber sprechen auch von der „Mini-CeBIT in oliv“.

Schutz von KRITIS-Standorten

Primär soll der geplante Abwehrschirm kritische Infrastrukturen (KRITIS) schützen, die aufgrund der aktuellen Weltlage zunehmend durch hybride Attacken in Form von Drohnen und Sabotage bedroht seien. Im Angriffskrieg von Russland gegen die Ukraine haben Drohnen mittlerweile eine Schlüsselrolle in der Kriegsführung übernommen.

Die Bedrohung durch Drohnen ist hochgradig digital. Deshalb braucht ihre Abwehr die Verbindung aus Sensorik, Effektoren und sicheren Kommunikationsnetzen. Rheinmetall und die Deutsche Telekom bündeln genau diese Fähigkeiten.

Armin Papperger, Vorsitzender des Vorstands der Rheinmetall AG

Souveränität entsteht nicht nur durch Diskussionen, sondern durch Taten. Die Telekom übernimmt hier Verantwortung: Mit unserer Kompetenz bei Konnektivität, Cloud und Datenanalyse bringen wir Drohnenabwehr auf ein neues Level. Gemeinsam mit Rheinmetall stärken wir so die Souveränität und leisten unseren Beitrag dazu, Sorgen in der Bevölkerung zu reduzieren.

Tim Höttges, Vorstandsvorsitzender der Deutschen Telekom AG

Die Partner kennen sich mit Drohnen aus

Während Rheinmetall selbst Drohnen sowie Abwehrsysteme produziert, die teils schon in aktuellen Krisengebieten zum Einsatz kommen, besitzt auch die Deutsche Telekom bereits Erfahrung im Umgang mit unerwünschten Drohnenflügen. So ist sie seit 2017 Systempartner von Behörden und Unternehmen bei der Drohnensicherheit und hatte zum Beispiel bei der Fußball-EM 2024 nach eigenen Angaben „erfolgreich illegale Drohnenflüge zuverlässig detektiert“.

Drohnen über Mobilfunk im Fokus

Die meisten Drohnen werden über Hochfrequenzfunktechnik (Radio Frequency, RF) gesteuert. Diese zu orten klappe bereits sehr gut, sodass laut der Mitteilung RF-Sensoren „derzeit mehr als 90% aller Drohnen im unteren Luftraum sichtbar“ machen.

Ein größeres Problem sind aber die über Mobilfunknetze gesteuerten Drohnen, deren Zahl zunehme. Diese lassen sich nicht so einfach erkennen, daher arbeite die Telekom mit der Helmut-Schmidt-Universität/Universität der Bundeswehr Hamburg (Uni-Bw) an einem System zur Erkennung. Dabei werde „das Mobilfunknetz künftig selbst zum Sensor und Riesen-Radar, indem es Veränderungen und Auffälligkeiten im Datenverkehr erfasst, die auf die Steuerung oder Kommunikation von Drohnen hinweisen“, heißt es nun. Für die Forschung an einem Erkennungssystem kommt das auf dem Campus der Uni-Bw installierte 5G-Standalone Hochleistungs-Netzwerk mit Technik von Ericsson zum Einsatz.

Die Palette an Sensoren zur Drohnenabwehr umfasse bei der Telekom inzwischen „Video-, Audio-, Radiofrequenz (RF-) oder Remote-ID-Sensoren oder Drohnenradar“.

Drohnen gibt es aber auch mit Kabel

Dass die Realität mitunter aber bereits weiter ist, wird nicht genauer beleuchtet. In der Ukraine werden schon seit über einem Jahr viele Drohnen über ein dünnes Glasfaserkabel ins Ziel gelenkt. Die Reichweite davon ist zwar begrenzter, es ist aber nahezu absolut unstörbar.

Source link

Apps & Mobile Entwicklung

TSMC folgt Samsung: Applied Materials‘ EPIC-Forschungszentrum zieht weitere Partner an

Das fünf Milliarden US-Dollar teure Forschungs- und Entwicklungszentrum von Applied Materials zieht nach Samsung auch TSMC an. Aber genau das war ohnehin das Ziel, denn das Stichwort hierbei ist das gemeinschaftliche Forschen und Entwickeln, dafür steht das „Equipment and Process Innovation and Commercialization (EPIC) Center“.

Vor drei Jahren mit dem Bau begonnen, soll das seinerzeit noch für vier Milliarden US-Dollar geplante Center in diesem Jahr den Betrieb aufnehmen. Die zwischenzeitlich auf fünf Milliarden US-Dollar angewachsene Summe wird aber noch über weitere Jahre gestreckt und soll so die Zusammenarbeit zwischen den eigentlichen Chipherstellern, den Herstellern der Gerätschaften aber auch Kunden verbessern und optimieren. Das aktuelle Ziel heißt so natürlich: „Accelerate AI Scaling“.

Neben Samsung als Foundry und Speicherhersteller sind auch weitere Speicherhersteller wie Micron und SK Hynix bereits mit dabei.

Source link

Apps & Mobile Entwicklung

Productivty Agent: Adobe bringt Alternative zu NotebookLM mit Teilen-Funktion

Agenten-Tools verändern, wie sich mit einer Dokumenten-Sammlung aus PDFs, Links und Notizen arbeiten lässt. Tools wie Googles NotebookLM und Projekte in Anthropics Claude Cowork sind Vorreiter. Adobe zieht nun mit den Productivty Agent für das PDF- und Dokumenten-Tool Acrobat nach.

Das Besondere an Adobes Lösung ist die Teilen-Funktion. Zunächst können Nutzer einen Projekt-Ordner erstellen, bei Adobe nennen die sich Spaces. Dort lassen sich dann PDFs und weitere Dokumente wie Präsentationen hochladen, die in etwa wie bei NotebookLM aufbereitet werden: Man erhält eine Übersicht; möglich ist auch, sich die Inhalte als Podcast zusammenfassen zu lassen.

KI-Analysen für größeres Publikum bereitstellen

In den Spaces lassen sich die Inhalte aber so aufbereiten, dass diese auch für ein externes Publikum nutzbar sind. Dokumente und Inhalte lassen sich zudem in der Reihenfolge sortieren. Was Adobe in der Mitteilung beschreibt, ist eine Art interaktive Präsentation.

Angepasst werden können auch die im jeweiligen Projekt integrierten KI-Assistenten, etwa bei der Tonlage oder bei der Feinabstimmung für die jeweilige Zielgruppe. Im Idealfall antwortet der KI-Assistent innerhalb der Spaces dann auf einem Niveau, dass zu dem Publikum passt. Während also etwa Einsteigern grundlegende Konzepte erklärt werden, kann ein Fachpublikum direkt spezifische Informationen erhalten. Grundlage sind jeweils die Dokumente, die Nutzer in den Spaces hinterlegen.

Optisch sollen sich die Spaces an den Vorstellungen der Nutzer orientieren. Wird also ein Markenlogo und bestimmte Farbvorgaben eingegeben, soll Adobes Agent das Design dementsprechend umsetzen.

Teil von den KI-Plänen in Acrobat

Die PDF Spaces sind samt dem Productivity Agent und der Teilen-Funktion ab sofort innerhalb von Adobes Acrobat-KI-Plänen verfügbar. Die gelten ab dem Acrobat-Pro-Level, kosten ab 23,79 Euro pro Monat. Über Adobe Express Premium lassen sich die Funktionen auch nutzen.

Das Acrobat-Abo wird nur benötigt, wenn Spaces erstellt werden sollen. Um diese einzusehen, ist kein Adobe-Konto erforderlich.