Das Europaparlament hat einem Verbot von KI-Anwendungen, mit denen sexualisierte Deepfakes erstellt werden können, zugestimmt. Eine große Mehrheit von 423 Abgeordneten stimmte in Straßburg für eine entsprechende Änderung des europäischen KI-Gesetzes. 57 lehnten sie ab, 174 Parlamentarier enthielten sich. Nun fehlt noch die formelle Zustimmung der EU-Staaten. Das Verbot würde dann ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.

Bei Deepfakes werden mit Hilfe Künstlicher Intelligenz täuschend echt wirkende Bild-, Video- oder Tonaufnahmen manipuliert oder erzeugt. Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben den Nutzenden auch die Anbieter der entsprechenden digitalen Werkzeuge ins Visier nimmt. Die an den Verhandlungen beteiligten Abgeordneten hatten betont, dass das Verbot nicht dazu führen solle, die Erstellung oder Manipulation von Bildern übermäßig stark einzuschränken.

Was genau verboten sein soll

Dafür soll in dem neuen Gesetz genau definiert sein, was sexualisierte Inhalte sind und was nicht. Das Verbot zielt demnach auf KI-Anwendungen ab, die etwa die Erstellung von realistischen Bildern oder Videos vom Intimbereich erlauben – insbesondere von Genitalien, dem Anus, Po oder entblößten weiblichen Brüsten sowie von sexuell eindeutigen Handlungen.

Satirische Karikaturen sollen also ausgenommen bleiben. Auch nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben. Das neue Verbot soll aber explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen.

Verpflichtende Wasserzeichen für KI kommen später

Weitere Änderungen am KI-Gesetz sollen der KI-Branche zunächst zusätzliche Pflichten ersparen und auch die Anwendung von Künstlicher Intelligenz in der Wirtschaft mit Regelvereinfachungen erleichtern. An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte etwa deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also mit Wasserzeichen markieren.

(mho)

In München sorgt ein Zeitungsbericht für Aufregung, der nahelegt, dass personenbezogene Daten von mehr als 120.000 Schülerinnen und Schülern aus der Stadt im Darknet kursieren . Das IT-Unternehmen, bei dem die Daten vorgehalten werden, hat nach eigenen Angaben erst aus der Zeitung von dem Vorfall erfahren. Dabei bezieht sich die Firma namens LHM-Services auf einen Bericht der Abendzeitung, in dem es heißt, dass die sensiblen Daten „dort gelandet sind, wo sie nie sein dürften“. LHM-S kritisiert, dass die angeblich betroffenen Datensätze auch nach Aufforderung nicht zur Prüfung weitergegeben wurden. Eine auf Darknet-Recherchen spezialisierte Firma habe keinen Hinweis darauf finden können, „dass diesbezügliche Datensätze im Darknet auffindbar und/oder allgemein verfügbar sind“.

Viele Vorwürfe, wenig bekannt

Auslöser der Aufregung ist der Exklusivbericht der Abendzeitung, der aber an wichtigen Stellen undeutlich wird. Im Kern geht es darum, dass zehntausende Namen, Anschriften, Geburtsdaten, Staatsangehörigkeiten und Schulen für Unbefugte einsehbar gewesen sein sollen, wo genau ist aber unklar. Die Zeitung hat die Daten demnach stichprobenartig überprüft und deren Echtheit damit bestätigt. LHM-S verwaltet die Daten als Tochtergesellschaft der Stadt München und in deren Auftrag für die Bildungseinrichtungen in Bayerns Landeshauptstadt. Die Firma versichert, man könne zu dem „Verdacht eines angeblichen Datenlecks aktuell nicht bestätigen und keine Angaben zu Umfang, Art und Inhalt der angeblich öffentlich zugänglichen Daten machen“.

LHM-S weist jetzt darauf hin, dass auch in dem Zeitungsbericht explizit offen gelassen werde, „ob und wie weit diese Daten überhaupt zirkulieren“. Wörtlich heißt es in dem Artikel, „teils über das Darknet transferiert, gelangten die Bestände schließlich an die AZ – was die Frage aufwirft, ob und wie weit sie zirkulieren“. LHM-S ergänzt, dass in diesem Zusammenhang auch das „potenziell auffällige Downloadverhalten eines gekündigten Ex-Mitarbeiters“ untersucht würde, der Zugriff auf solche Daten gehabt habe. Das Unternehmen schreibt weiter, dass man unverzüglich Bayerns Landesdatenschutzbeauftragten informiert und Strafanzeige gegen Unbekannt erstattet habe. Man arbeite mit Hochdruck an der Aufklärung.

Die Abendzeitung setzt den aktuellen Vorfall in dem Artikel auch noch in einen Zusammenhang zu früheren Sachverhalten. Laut dem Artikel geht es um angeblich nicht ausreichend abgesicherte SharePoint-Server . Ein Hinweisgeber habe geschildert, der Speicher sei so eingestellt gewesen, „dass praktisch jeder (intern und extern) im Haus die Daten habe einsehen können“. Was genau damit gemeint ist, ist unklar. LHM-S weist die „Vorhaltungen zu abgeschlossenen Sachverhalten aus den Jahren 2023 und 2024 mit Nachdruck zurück“. Das sei intern und extern geprüft worden, eine Zugriffsmöglichkeit für unbefugte Personen außerhalb der Firma habe zu keiner Zeit bestanden. Deshalb habe auch keine Meldepflicht bestanden.

Die Politik reagiert

LHM-S ergänzt in der Stellungnahme noch, dass vieles dafür spreche, dass auch jetzt Daten nicht frei verfügbar seien, „sondern mutmaßlich gezielt Dritten für eine presseöffentliche Verwertung zugespielt wurden“. Die AZ schreibt auch an keiner Stelle, dass die Daten im Darknet verfügbar waren. Münchens Oberbürgermeister Dominik Krause (Grüne) hat die eingeleiteten Ermittlungen begrüßt und versichert, dass er großen Wert auf die Einhaltung datenschutzrechtlicher Vorgaben lege, zitiert der BR. Mögliche Verstöße müssten vollumfänglich aufgeklärt werden. Im Stadtrat wurde demnach ein Dringlichkeitsantrag gestellt, das Thema im IT-Ausschuss zu besprechen.

(mho)

Es wirkt wie eine David-gegen-Goliath-Geschichte: ein kleines Magazin aus Zürich gegen einen milliardenschweren US-Konzern. Denn „Die Republik“ aus der Schweiz war nach einer kritischen Berichterstattung über Palantir mit einer Klage des Tech-Giganten konfrontiert. Er forderte eine Gegendarstellung wegen „sachlicher Ungenauigkeiten“ und zog vor das Handelsgericht des Kantons Zürich.

Anfang Dezember letzten Jahres hatte „Die Republik“ zusammen mit dem WAV-Recherche­kollektiv ausführlich darüber geschrieben, wie Palantir in der Schweiz jahrelang versuchte, mit staatlichen Behörden ins Geschäft zu kommen. Dafür hatten die Journalisten zahlreiche Dokumente zum Lobbying ausgewertet.

Sie legten auch eine Bewertung des Schweizer Militärs offen, in der eine Zusammenarbeit mit dem US-Konzern erwogen, strategische Risiken analysiert und eine Kooperation dann aus mehreren Gründen abgelehnt worden war: wegen Unwägbarkeiten bei Datenhoheit, Abhängigkeiten und digitaler Souveränität, wegen des Risikos eines Datenabflusses und aus Grundrechtserwägungen.

Palantir hatte dem Gericht mit der Klage einen Text zur Gegendarstellung übermittelt, der unterhalb des „Republik“-Artikels angefügt werden sollte, um angeblich falsche Tatsachen zu korrigieren und die eigenen Sichtweisen zu unterstreichen. Das Handelsgericht urteilte am 4. Juni nun in weiten Teilen gegen diese Forderung nach einer Gegendarstellung.

Den Tatsachen entsprochen

Es wird aus dem Urteil deutlich, dass die Darstellung der „Republik“ über die Versuche von Palantir, über sieben Jahre hinweg eine Zusammenarbeit mit Schweizer Bundesbehörden zu etablieren, den Tatsachen entsprechen. Sie sind weder unsachlich noch falsch. Auch die sprachlichen Wertungen zu den Rechercheergebnissen waren nach Ansicht des Gerichts zulässig.

Auch die Darstellung über die Analyse der Schweizer Armee beanstandet das Urteil nicht. Darin riet die Armee, keine Kooperation mit Palantir einzugehen. Das Zürcher Gericht ließ die vorgebrachte Kritik daran nicht gelten: In dem Artikel werde nicht so getan, als wäre ein handfestes Angebot des Konzerns abgelehnt worden. Die Autoren hätten deutlich gemacht, dass es vielmehr darin um eine Bewertung der Vor- und Nachteile einer Zusammenarbeit ging.

Palantir-Software hat verheerende Risiken

Insgesamt entschied das Gericht bei 22 von 23 geforderten Gegendarstellungen zugunsten des Magazins „Republik“. Damit ist nur ein kleines Detail der umfänglichen Recherche korrekturbedürftig, das die Entstehungsgeschichte eines Software-Produkts von Palantir betrifft.

Was wäre, hätte Palantir Recht bekommen?

Adrienne Fichter, die an der Recherche gearbeitet und bei „Die Republik“ darüber geschrieben hatte, ist über das Urteil erfreut: „Es ist ein riesiger Gewinn für ein kleines investigatives Medienmagazin wie uns, das sauber und solide arbeitet.“ Sie merkt gegenüber netzpolitik.org aber auch an, dass die Richter mit dem Urteil „alle europäischen Medien“ gestärkt hätten.

Denn hätte Palantir mehrheitlich Recht bekommen, hätte das nicht nur für die Schweizer Presse ein falsches Signal gesendet. Das wäre „ein Präzedenzfall“ gewesen, sagt Fichter, „der Palantir ermutigt hätte, gegen weitere Medien ins Feld zu ziehen.“ Schließlich berichteten in Europa viele Medien kritisch über den Konzern. Die Ablehnung in ganz Europa habe merklich zugenommen: „Hier haben sie Mühe, neue Kunden zu gewinnen.“

Weitere rechtliche Schritte

Der Konzern Palantir, der nationalistische Ideologien vertritt und über X verbreitet, und die mit ihm verbundenen prominenten Milliardäre Peter Thiel und Geschäftsführer Alexander Karp kommentieren öffentliche Kritik aus Europa wenig. Im Blog von Palantir wurde aber eine wortreiche deutschsprachige „Korrektur“ zu den „Republik“-Recherchen veröffentlicht, die den Journalisten Falschaussagen vorwirft.

Anders als der „Korrektur“-Blogbeitrag vom Dezember 2025 ist eine aktuelle Erwiderung auf das Urteil, die am Wochenende von Palantir veröffentlicht worden war, schon am Montag wieder gelöscht worden. Darin stand, dass der Konzern das Urteil begrüße. Auch die vollständigen Gegendarstellungsforderungen sind entfernt worden. Ob das eine Bedeutung für das weitere rechtliche Vorgehen hat, ist bisher unklar.

Denn das Urteil des Handelsgerichts ist noch nicht rechtskräftig. Palantir könnte dagegen innerhalb eines Monats Beschwerde beim Bundesgericht einlegen. Wir haben den Konzern gefragt, ob er weitere rechtliche Schritte erwägt. Darauf bekamen wir keine Antwort.