Kaum hat Donald Trump den Verkauf von Nvidias H200-Prozessoren an China mit Strafsteuer erlaubt, sagt Peking: „Das kommt bei uns nicht durch den Zoll.“ Die chinesische Regierung will die eigenen Entwicklungen schützen, aber untergräbt damit auch die USA. Denn der US-Präsident lässt den Export nur gegen eine 25-prozentige Strafsteuer zu. Derweil will Elon Musk nichts von per KI auf X erstellten Nacktbildern von Kindern gewusst haben. Dabei wurde mehrfach darüber berichtet und Grok ist in manchen Ländern deshalb bereits verboten. Auch die EU und Großbritannien haben entsprechende Schritte angekündigt. Nun nimmt mit Kalifornien erstmals ein US-Bundesstaat Ermittlungen auf. In Großbritannien wird es verpflichtende digitale Ausweise auf Smartphones doch nicht geben. Die britische Regierung hatte diese Maßnahme im Kampf gegen Schwarzarbeit geplant, aber es gab Kritik, selbst von Mitgliedern der regierenden Arbeiterpartei. Jetzt werden andere Waffen gegen Schwarzarbeit gezogen – die wichtigsten Meldungen im kurzen Überblick.

Die Volksrepublik China möchte sich nicht mit zweitklassigen KI-Chips abspeisen lassen. Peking hat seine Zöllner angewiesen, Nvidias H200-Prozessoren nicht ins Land zu lassen. Den Verkauf der besseren Chips der Blackwell-Serie (GB100, GB102, GB200) nach China hat US-Präsident Donald Trump aber untersagt. Bis Anfang der Woche galt zudem ein Verbot der Lieferung von H200-Prozessoren und konkurrierender Produkte wie AMDs Radeon Instinct MI325X. Doch am Dienstag hat das US-Handelsministerium mitgeteilt, ab Donnerstag Anträge auf Exportlizenzen für H200 und MI325X zum Verkauf an Nicht-Militärs in China zu prüfen. Doch China macht Trump einen doppelten Strich durch die Rechnung und verhängt einen Importstopp: Trump erlaubt Ausfuhr, doch Peking verbietet Einfuhr von Nvidias H200-Chips.

Nicht mehr erlauben will Kalifornien die sexualisierten KI-Bilder von Frauen und Kindern auf Elon Musks Online-Plattform X. Der US-Bundesstaat ist die erste offizielle Stelle der USA, die sich mit diesem Thema beschäftigt. Der kalifornische Generalstaatsanwalt Rob Bonta leitete am Mittwoch eine Untersuchung zu der Verbreitung von sexuell explizitem Material ein, das mit Grok, einem von xAI entwickeltem KI-Modell, generiert wurde. Zuvor hatten bereits andere Staaten und die EU entsprechende Schritte angekündigt oder eingeleitet. Doch Elon Musk zeigt sich überrascht und erklärte, dass ihm „keine Nacktbilder von Minderjährigen bekannt sind, die von Grok generiert wurden, absolut keine“: Erster US-Bundesstaat geht gegen xAI und Grok wegen sexualisierter KI-Bilder vor.

Großbritannien ist zuvor bereits gegen Groks Freizügigkeit vorgegangen, aber jetzt lässt die Regierung des Vereinigten Königreichs ihren Plan fallen, alle Einwohner zu digitalen Ausweisen und Smartphones zu zwingen. Die im Herbst angekündigte Maßnahme war unpopulär. Auch Abgeordnete der regierenden Arbeiterpartei lehnten sie ab. Begründet wurde der ursprüngliche Plan mit dem Kampf gegen Schwarzarbeit. Aber auch sonst sollten die digitalen Ausweise am Handy für staatliche und private Leistungen herangezogen werden. Am Kampf gegen Schwarzarbeit hält die Regierung fest. Sie will aber nicht mehr alle Bürger zu digitalen Ausweisen und Smartphones zwingen. Die Arbeitsberechtigung soll ab 2029 stattdessen online nachgewiesen werden: Doch kein Zwang zu digitalem Ausweis und Handy im Vereinigten Königreich.

Internationale Strafverfolger haben zusammen mit Microsoft den virtuellen Hoster RedVDS vom Netz genommen, dessen Infrastruktur für verschiedene Betrugstaten genutzt worden sein soll. Herzstück des von IT-Kriminellen frequentierten Dienstes soll ein Rechenzentrum in Deutschland gewesen sein. Ab 24 US-Dollar monatlich bot RedVDS virtuelle dedizierte Server und internationale IP-Adressen sowie weitere anonyme Dienstleistungen an. Das Angebot wurde nach Erkenntnissen Microsofts und der Strafverfolger für zahlreiche Betrugsfälle genutzt, darunter der massenhafte Versand von Phishing-E-Mails oder das „Hosten von Scam-Infrastruktur“. Nach der Tat werden die Server gelöscht und erschweren damit die Ermittlungen: Nach Razzia in Deutschland machen Behörden Cybercrime-Hoster RedVDS dicht.

In der heutigen Ausgabe der #heiseshow sprechen wir unter anderem über das Metaverse, dessen Vision an Glanz verliert. Auch Spielestudios ziehen sich zurück. Was ist aus den großen Versprechen geworden? Warum scheitern selbst etablierte Entwickler mit ihren Metaverse-Projekten? Während Meta abbaut, kauft Apple KI bei Google ein und setzt nach dem Siri-Debakel für seine KI-Modelle auf Google Gemini. Warum greift ausgerechnet Apple zur Konkurrenz-Technologie? Was bedeutet das für die Zukunft von Siri? In Deutschland hat ein Gericht entschieden, dass ChatGPT in der Schule auch ohne explizites Verbot eine Täuschung ist. Wie sollen Schulen mit KI-Tools im Unterricht umgehen? Ist ein pauschales Verbot der richtige Weg? Das sind die Themen heute um 17 Uhr live in der #heiseshow: Metaverse, Apple-KI, ChatGPT in der Schule.

Auch noch wichtig:

(fds)

Der US-Bundesstaat Kalifornien ist die erste offizielle Stelle der USA, die sich mit den sexualisierten KI-Bildern von Frauen und Kindern auf Elon Musks Online-Plattform X beschäftigt. Der kalifornische Generalstaatsanwalt Rob Bonta leitete am Mittwoch eine Untersuchung zu der Verbreitung von sexuell explizitem Material ein, das mit Grok, einem von xAI entwickeltem KI-Modell, generiert wurde. Zuvor hatten bereits andere Staaten und die EU entsprechende Schritte angekündigt oder eingeleitet.

Denn auf X kann Grok von Nutzern aufgefordert werden, KI-Bilder zu erstellen oder Fotos per KI zu verändern. Das haben einige User offenbar dazu verwendet, um Bilder bekleideter Frauen und Kinder in entkleidetem Zustand zu generieren – ohne Wissen oder Einverständnis der abgebildeten Personen. Eine 24-stündige Analyse ergab, dass X-Nutzer jede Stunde tausende öffentlich zugängliche sexualisierte Deepfakes erstellt haben. Im Rahmen ihrer Ermittlungen gegen das Unternehmen hat die EU wegen Groks KI-Bildern von Kindern den Druck auf Elon Musks X erhöht. Mittlerweile haben Indonesien und Malaysia als erste Staaten Grok wegen dieser sexuellen Deepfakes gesperrt.

Elon Musk sieht keine Kinder-Deepfakes

Elon Musk zeigt sich überrascht und erklärte vor einigen Stunden auf X, dass ihm „keine Nacktbilder von Minderjährigen bekannt sind, die von Grok generiert wurden, absolut keine“. Dem Tech-Milliardär zufolge „weigert sich Grok bei der Anfrage zur Bildgenerierung, illegale Inhalte zu erstellen, da es sich grundsätzlich an die Gesetze des jeweiligen Landes oder Bundesstaates hält“. Sollten Nutzer etwa „per Hackerangriff“ Grok trotzdem dazu verleiten, würde der Fehler umgehend behoben.

Kaliforniens Gouverneur Gavin Newsome sieht dies anders und bezeichnet „die Entscheidung von xAI, eine Plattform für Pädophile zu schaffen und zu betreiben, auf der sie nicht einvernehmliche, sexuell explizite KI-Deepfakes verbreiten können, darunter auch Bilder, die Kinder digital entkleiden“, in einem Beitrag auf X als „abscheulich“. Deshalb hat er den kalifornischen „Generalstaatsanwalt aufgefordert, unverzüglich gegen das Unternehmen zu ermitteln und xAI zur Rechenschaft zu ziehen“.

Dem ist Rob Bonta umgehend nachgekommen und hat eine entsprechende Untersuchung von xAI eingeleitet. „Die Flut von Berichten, die detailliert über das nicht einvernehmliche, sexuell explizite Material berichten, das xAI in den letzten Wochen produziert und online veröffentlicht hat, ist schockierend“, erklärt Bonta laut Pressemitteilung. „Ich fordere xAI dringend auf, unverzüglich Maßnahmen zu ergreifen, um ein weiteres Fortschreiten dieser Entwicklung zu verhindern. Wir dulden in keiner Weise die KI-gestützte Erstellung und Verbreitung von nicht einvernehmlichen intimen Bildern oder Material mit Darstellungen von sexuellem Kindesmissbrauch.“

Briten haben ein Deepfake-Gesetz, Deutschland will eines

In Großbritannien ist man bereits einen Schritt weiter. Dort sollen Apps, die Menschen digital entkleiden, verboten werden. Aufgrund der Aktivitäten von Grok auf X werden die britische Regierung und Medienaufsicht gegen Grok aktiv und wollen ein neues Gesetz durchsetzen. Dass X die Möglichkeit zur Bildgenerierung vor wenigen Tagen auf kostenpflichtige Accounts beschränkt hat und die Bildgenerierung weitgehend verweigert, sei nach Ansicht der britischen Technologieministerin „nicht annähernd genug“. Es sei eine Beleidigung für die Opfer, wenn man sage, der Dienst sei weiterhin abrufbar, man müsse nur dafür bezahlen.

Auch in Deutschland wird der Ruf nach strengeren Regeln gegen KI-generierte Sex-Bilder laut. Bundesjustizministerin Stefanie Hubig will härter gegen das Erstellen und Verbreiten mit Künstlicher Intelligenz erzeugter sexualisierter Bilder vorgehen. Die Betroffenen sollen besser vor solchen KI-Bildmanipulationen geschützt werden und Hubig verlangt, das „Strafrecht noch einmal nachzuschärfen“. Zudem erstellt ihr Ministerium „derzeit den Entwurf für ein digitales Gewaltschutzgesetz“, das Strafen für Deepfakes vorsieht, die die Persönlichkeitsrechte von Betroffenen verletzen.

Soweit ist Kalifornien noch nicht. Generalstaatsanwalt Bonta hat gestern keine Einzelheiten über den Umfang der Untersuchungen von xAI und Grok genannt und ob strafrechtliche Vorwürfe dazu gehören.

(fds)

Nach dem umstrittenen Ausschluss der Fans des israelischen Fußballvereins Maccabi Tel Aviv von einem „Europa League“-Spiel gegen Aston Villa in England hat der zuständige Polizeichef jetzt eingeräumt, dass die Entscheidung maßgeblich von einer KI-Halluzination beeinflusst worden war. Demnach hatte eine mithilfe von Microsofts Copilot erstellte Risikoanalyse der Polizei für den Stadtrat von Birmingham auf ein vorheriges Match von Maccabi bei West Ham United Bezug genommen, das es nie gegeben hat.

Bisher hatte der Polizeichef eine Verwendung von KI bei zwei Auftritten im Parlament abgestritten und erklärt, dass der falsche Verweis Folge einer fehlerhaften Google-Suche beziehungsweise Recherche auf Social Media gewesen sei. Erst jetzt sei er darauf aufmerksam geworden, dass die Microsoft-KI den Fehler produziert habe. Dafür entschuldige er sich aufrichtig. Die Angelegenheit hat sich in Großbritannien längst zu einem handfesten Skandal entwickelt und beschäftigt am Mittwoch erneut das Parlament.

Noch viel mehr Probleme

Die Partie Aston Villa gegen Maccabi Tel Aviv wurde am 6. November ausgetragen. Fans aus Israel waren aus Sicherheitsgründen nicht ins Stadion gelassen worden. Das hatte für erhebliche Kritik gesorgt; Israels Außenminister sprach von einer „beschämenden Entscheidung“. Aston Villa selbst hatte erklärt, dass die zuständige West Midlands Police vorab Sorge um die öffentliche Sicherheit geäußert hatte. Die nötigen Sicherheitszertifikate seien nicht ausgestellt worden. Die fehlerhafte Risikoanalyse war damals nicht öffentlich bekannt, stattdessen wurde auf das Risiko israelkritischer Proteste in der Stadt hingewiesen.

Nachdem bekannt geworden ist, dass in der Analyse auf eine Partie verwiesen wurde, die es nie gegeben hat, wurde der Polizeichef zweimal im britischen Parlament befragt. Beide Male hat er die naheliegende Vermutung, dass eine „KI-Halluzination“ dafür verantwortlich war, zurückgewiesen. Vor seinem dritten Auftritt musste er das nun revidieren, hier hat er erstmals auf Microsofts Copilot verwiesen. Der Verweis auf die nie durchgeführte Partie ist laut dem Guardian nur ein Teil des Problems, an der Polizeibehörde wird in dem Zusammenhang auch andere Kritik geübt. Das Eingeständnis macht aber einmal mehr deutlich, welche Folgen die kritiklose Verwendung von KI-generierten Inhalten haben kann und wie weit die schon verbreitet ist.

Die Risikoanalyse selbst ist derweil noch nicht öffentlich, berichtet die BBC. Der Nachrichtensender selbst zitiert aber einen Abgeordneten, der die fragliche Passage schon Anfang Dezember vorgelesen hat. Dort heißt es, dass das Spiel gegen West Ham am 9. November 2023 das bislang letzte des israelischen Vereins in Großbritannien gewesen sei. Der Abgeordnete habe dann erklärt, dass er erwarten würde, dass nach so einem Bericht intern Erkundigungen eingeholt würden, wie sich die „Hooligans“ denn damals verhalten hätten. Das hätte dann niemand beantworten können, „denn das Spiel hat ja nicht stattgefunden“. Solch eine Recherche ist also offensichtlich unterblieben. Bislang gibt es aber auch keine Hinweise darauf, dass der halluzinierte Verweis ursächlich für die Absage war.

(mho)