Connect with us

Künstliche Intelligenz

Grok-Skandal: KI von xAI generiert sexuelle Deepfakes von Frauen und Kindern


Die KI Grok, die direkt in die Plattform X integriert ist und von Elon Musks Konzern xAI betrieben wird, hat in den vergangenen Tagen einen handfesten Skandal ausgelöst. Nutzer haben die Bildbearbeitungsfunktion des generativen KI-Systems verwendet, um Fotos von Frauen und sogar Minderjährigen digital zu entkleiden und sexualisierte Versionen der Aufnahmen zu erzeugen. Diese Deepfakes wurden öffentlich auf X gepostet, was zu heftiger Empörung führte.

Weiterlesen nach der Anzeige

Agenturen und Medien wie Bloomberg, Reuters und Politico beschreiben, wie Grok auf einfache Anfragen wie „entferne ihre Kleidung“ oder „setze sie in einen Bikini“ reagierte und entsprechende Bilder generierte, die teilweise oder vollständig entblößt wirkten. Besonders brisant sind Fälle, in denen Jugendliche und Kinder betroffen waren.

Über den X-Account von Grok selbst ist in mehreren Postings die Rede davon, es habe „vereinzelte Fälle“ gegeben, in denen Nutzer KI-Bilder von Minderjährigen in „knapper Bekleidung“ erhalten hätten. Dazu kommt der Hinweis auf ein „Versagen der Sicherheitsvorkehrungen“, was gegenwärtig behoben werde. Die Vorfälle hätten „gegen ethische Standards und möglicherweise gegen US-amerikanische Gesetze zu kinderpornografischem Material“ verstoßen. Weiter heißt es: „xAI überprüft den Vorfall, um künftige Probleme zu vermeiden.“

Aus den Äußerungen über das Grok-Konto geht nicht klar hervor, ob auch diese rein automatisch generiert oder zumindest menschlich überprüft wurden. Das KI-System erweckt den Eindruck, für sich selbst zu sprechen. In einer früheren Stellungnahme zu den Vorkommnissen soll xAI pauschal etwa gegenüber Reuters erklärt haben: „Die etablierten Medien lügen.“

Viele der anstößigen Bilder wurden später gelöscht, doch Screenshots zirkulieren weiter. Betroffene Frauen und Teenager beklagen sich, dass ihre auf X geposteten Fotos ohne ihr Wissen manipuliert worden seien, was ihre Würde verletze.

Vor allem in Frankreich reagierte die Politik prompt. Die Hochkommissarin für Kinder, Sara El Haïry, zeigte sich empört und forderte den Medienregulierer Arcom auf, die Fälle auf Basis des Digital Services Act (DSA) zu prüfen. Gleich drei Ressortchefs aus dem französischen Kabinett – Wirtschaftsminister Roland Lescure, KI-Ministerin Anne Le Hénanff und Gleichstellungsministerin Aurore Bergé – erstatteten Anzeige bei der Pariser Staatsanwaltschaft und meldeten die Inhalte an die Meldeplattform Pharos zur sofortigen Entfernung. Sie erklärten gemeinsam: Das Internet sei weder rechts- noch straffrei. Zugleich wandten sich die Abgeordneten Arthur Delaporte und Eric Bothorel an die Justiz.

Die Staatsanwaltschaft in Paris bestätigte gegenüber Politico, dass die Vorfälle in eine laufende Untersuchung gegen X einfließen. Diese umfasse bereits Antisemitismus und Holocaust-Leugnung durch Grok. Das Delikt könnte mit bis zu zwei Jahren Haft für Verantwortliche beziehungsweise einer Geldbuße geahndet werden.

Weiterlesen nach der Anzeige

Auch international hagelt es Kritik: In Indien forderte das IT-Ministerium einen Bericht von X. In Großbritannien mahnte eine Ministerin strengere Regeln an. xAI positioniert Grok mit Funktionen wie „Spicy Mode“ für suggestive Inhalte bewusst freizügiger als Konkurrenzmodelle wie ChatGPT oder Gemini. Doch Experten warnen seit Langem vor daraus erwachsenden Risiken. Auch Kinderschutzorganisationen schlugen bereits im Vorjahr Alarm. Die jüngsten Entgleisungen bei Grok unterstreichen auch erneut die dunkle Seite generativer KI.


(nen)



Source link

Künstliche Intelligenz

Nach tagelangen Protesten: Der Iran geht nach Internetblockade offline


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Nach tagelangen Protesten der Bevölkerung gegen das Regime haben iranische Behörden augenscheinlich damit begonnen, das Internet in der Hauptstadt Teheran und weiteren Teilen des Landes zu blockieren. Das berichtet die Organisation Netblocks, die den Netzverkehr und mögliche Sperren weltweit beobachtet. Auch andere öffentlich einsehbare Datenquellen zeigen Verbindungsverluste in die Islamische Republik, die seit Tagen von immer heftiger werdenden Protesten gegen das herrschende Regime erschüttert wird. Netblocks meint, dass die Internetsperre die Berichterstattung aus dem Land und die Kommunikation dort erheblich erschweren dürfte. Es ist zu befürchten, dass die Machthabenden den digitalen Blackout dazu benutzen, noch härter gegen die Demonstrationen vorzugehen.

Weiterlesen nach der Anzeige

Die jüngste Protestwelle hatte vor fast zwei Wochen begonnen. Ausgelöst wurde sie durch einen plötzlichen Wertsturz der Landeswährung Rial inmitten einer schon massiven Wirtschaftskrise. In der Hauptstadt Teheran gingen daraufhin wütende Händler spontan auf die Straße, viele Geschäfte wurden geschlossen. Beobachter hatten darauf hingewiesen, dass auch die Proteste, die vor mehr als 40 Jahren zum Sturz des Schah und zur Errichtung der Islamischen Republik geführt haben, entscheidend durch die wichtigen Basare gestützt wurden. Inzwischen haben sich die Proteste auf andere Landesteile ausgeweitet. Am Donnerstag dieser Woche kursieren in sozialen Netzwerken etwa zahlreiche Videos, die menschenleere Geschäftsstraßen in den kurdischen Gebieten des Iran zeigen.

Die Internetsperren haben am Donnerstag offenbar in der westlichen Provinz Kermanschah begonnen, dort hat Netblocks zuerst Verbindungsabbrüche registriert. Betroffen ist inzwischen laut Berichten, die bei der Nachrichtenagentur dpa eingegangen sind, auch das mobile Internet in ersten Großstädten. Als Grund dafür wurden demnach auch neue Protestaufrufe für Donnerstag und Freitag vermutet, die Reza Pahlavi, der Sohn des 1979 gestürzten Schahs, veröffentlicht hatte. Im Iran liegt die letzte landesweite Internetsperrung gerade einmal rund sieben Monate zurück. Als Israel und die Islamische Republik tagelang Raketen aufeinander abgeschossen haben, hat das Regime in Teheran einen fast vollständigen digitalen Blackout verhängt.


(mho)



Source link

Weiterlesen

Künstliche Intelligenz

EU erhöht den Druck auf Elon Musks X wegen Groks KI-Bildern von Kindern


Die EU geht nach sexualisierten KI-Bildern von Kindern auf der Online-Plattform X einen nächsten Schritt bei Ermittlungen gegen das Unternehmen von Elon Musk. Die Europäische Kommission habe die US-Firma aufgefordert, interne Dokumente zur Künstlichen Intelligenz Grok nicht zu vernichten, sondern bis Ende des Jahres aufzubewahren, sagte ein Sprecher. Es gebe Zweifel daran, ob das Unternehmen sich an europäische Digitalgesetze halte.

Weiterlesen nach der Anzeige

Nutzer von X können den KI-Chatbot Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Auf der Plattform finden sich etliche Beispiele, bei denen die KI unter normalen Bildern aufgefordert wird, diese zu sexualisieren. Oft kommt Grok der Aufforderung nach.

Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt und geteilt zu haben. „Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden“, ließ der Dienst Grok auf X schreiben. Trotzdem kommt die KI entsprechenden Nutzeranfragen auch Tage nachdem die Öffentlichkeit auf das Verhalten aufmerksam geworden ist, weiterhin nach, das Profil der KI ist noch immer voll von derartigen Bildern.

Mittlerweile sollen X-Nutzer jede Stunde tausende öffentlich zugängliche sexualisierte Deepfakes erstellt haben. Das ergab eine 24-stündige Analyse. Das US-Magazin Wired berichtete außerdem von weitaus verstörenderen sexualisierten Bild- und Videoinhalten auf der Website von Grok. Dort finden sich unter anderem KI-generierte Darstellungen sexualisierter Gewalt oder pornografische Deepfakes von Minderjährigen.

Der EU-Kommissionssprecher betonte: „Wir haben beobachtet, wie Grok antisemitische Inhalte und in jüngerer Zeit auch sexuelle Darstellungen von Kindern generiert hat. Das ist illegal. Das ist inakzeptabel.“ Die EU-Kommission hatte von X Ende 2025 Auskünfte zu Grok verlangt und nach eigenen Angaben über die Feiertage eine Antwort erhalten. Diese werde nun analysiert.

Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel. „Wir sind nicht hier, um den Bürgern zu sagen, welche Plattform sicherer oder besser zu verwenden ist“, sagte der Sprecher.

Weiterlesen nach der Anzeige

Lesen Sie auch

Gegen Musks Plattform X laufen auf Grundlage europäischer Digitalgesetze bereits mehrere Untersuchungen und Verfahren. Erst Anfang Dezember hatte die EU gegen Musks Online-Plattform wegen Transparenzmängeln eine Strafe von 120 Millionen Euro verhängt. Der US-Firma könnten weitere Strafen drohen. So haben die europäischen Internetwächter X ebenfalls seit Dezember 2023 im Visier, weil die Plattform im Verdacht steht, nicht genug gegen illegale Inhalte oder Desinformation zu tun.


(rah)



Source link

Weiterlesen

Künstliche Intelligenz

Leistungsschutzrecht boykottiert: französische Geldstrafe für X


Wegen Nichtbefolgung eines Gerichtsurteils muss der Mikroblogging X in Frankreich 170.000 Euro an die Presseagentur Agence France-Press (AFP) zahlen. Denn entgegen früherer Gerichtsentscheidungen hat X Daten über die Nutzung von AFP-Inhalten nicht offengelegt. Hinzu kommen laut Entscheidung des Tribunal de Paris vom Donnerstag 60.000 Euro Verfahrenskosten.

Weiterlesen nach der Anzeige

Dies berichtet die Tageszeitung Le Monde. Hintergrund ist, dass die Betreiberfirma xAI versucht, das europäische Leistungsschutzrecht zu boykottieren. Nicht nur weigert sie sich, mit Verlagen zu verhandeln, sie ignoriert auch Gerichtsurteile. In einem zweiten Verfahren greift das Gericht schon strenger ein: Sollten Nutzungsdaten nicht spätestes am 10. Februar übergeben werden, drohen 60.000 Euro Strafe. Pro Tag.

Das Leistungsschutzrecht hält große digitale Plattformen, die fremde Presseinhalte zum eigenen Vorteil verwerten, dazu an, die Verlage für ihre Inhalte zu bezahlen. Grundsätzlich sollen die Beteiligten entsprechende Verträge aushandeln. xAI verweigert jedoch schon die Aufnahme der Verhandlungen.

Daher bestreitet AFP den Gerichtsweg. Zunächst geht es darum, herauszufinden, in welchem Umfang AFP-Inhalte auf X genutzt werden und wie viel Umsatz X damit macht. Davon hängt die Remuneration ab. Im Mai 2024 entschied das Gericht, dass X bestimmte Daten binnen zweier Monate offenlegen muss, darunter die Zahl der Einblendungen sowie Klicks auf Tweets mit AFP-Inhalten, die Zahl anderer Interaktionen (Retweets, Zitierungen, Antworten und „likes”) sowie die in Zusammenhang mit diesen Tweets in Frankreich generierten Werbeumsätze.

Dagegen ging der Online-Dienst in Berufung, verlor aber. Das Berufungsgericht hat die Auflagen im September bestätigt. Dennoch hat X nicht geliefert. Daher hat das Tribunal de Paris nun die Strafe verhängt. Durch seine „Einstellung (…) gefährdet X das demokratische Ziel der Erhaltung freier und vielfältiger Presse”, zitiert Le Monde das Gericht.

Wie viel Geld AFP für das Leistungsschutzrecht selbst zusteht, ist eine zweite Frage. Die Strafe wird darauf nicht angerechnet.

Weiterlesen nach der Anzeige

Die Groupe Le Monde, Eigentümer der Tageszeitung, sowie Mitbewerber Le Figaro gehen ebenfalls gerichtlich gegen xAIs Boykott des Leistungsschutzrechts vor. Das gleiche Pariser Gericht hat xAI jetzt auferlegt, die Nutzungsdaten bis spätestens 10. Februar zu liefern.

Sollte xAI die Daten nicht fristgerecht offenlegen, drohen 30.000 Euro Geldstrafe pro Verlag und Tag. Die Groupe Le Monde führt das Verfahren nicht nur für die namensgebende Zeitung, sondern auch für die weiteren Presseerzeugnisse des Verlages; er hält unter anderem 51 Prozent an der französischen Version der Huffington Post. Die Konkurrenzzeitungen Les Echos und Le Parisien haben ihre juristischen Anstrengungen zur Durchsetzung ihres Leistungsschutzsrechtes gegen X hingegen letzten Frühling fallenlassen.


(ds)



Source link

Weiterlesen

Beliebt