Das Europaparlament hat einem Verbot von KI-Anwendungen, mit denen sexualisierte Deepfakes erstellt werden können, zugestimmt. Eine große Mehrheit von 423 Abgeordneten stimmte in Straßburg für eine entsprechende Änderung des europäischen KI-Gesetzes. 57 lehnten sie ab, 174 Parlamentarier enthielten sich. Nun fehlt noch die formelle Zustimmung der EU-Staaten. Das Verbot würde dann ab 2. Dezember 2026 federführend vom KI-Amt der EU durchgesetzt werden, das vor zwei Jahren geschaffen wurde.

Bei Deepfakes werden mit Hilfe Künstlicher Intelligenz täuschend echt wirkende Bild-, Video- oder Tonaufnahmen manipuliert oder erzeugt. Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben den Nutzenden auch die Anbieter der entsprechenden digitalen Werkzeuge ins Visier nimmt. Die an den Verhandlungen beteiligten Abgeordneten hatten betont, dass das Verbot nicht dazu führen solle, die Erstellung oder Manipulation von Bildern übermäßig stark einzuschränken.

Was genau verboten sein soll

Dafür soll in dem neuen Gesetz genau definiert sein, was sexualisierte Inhalte sind und was nicht. Das Verbot zielt demnach auf KI-Anwendungen ab, die etwa die Erstellung von realistischen Bildern oder Videos vom Intimbereich erlauben – insbesondere von Genitalien, dem Anus, Po oder entblößten weiblichen Brüsten sowie von sexuell eindeutigen Handlungen.

Satirische Karikaturen sollen also ausgenommen bleiben. Auch nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und auf X verbreitet wurden, könnten demnach erlaubt bleiben. Das neue Verbot soll aber explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen.

Verpflichtende Wasserzeichen für KI kommen später

Weitere Änderungen am KI-Gesetz sollen der KI-Branche zunächst zusätzliche Pflichten ersparen und auch die Anwendung von Künstlicher Intelligenz in der Wirtschaft mit Regelvereinfachungen erleichtern. An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter KI-Inhalte etwa deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also mit Wasserzeichen markieren.

(mho)

In München sorgt ein Zeitungsbericht für Aufregung, der nahelegt, dass personenbezogene Daten von mehr als 120.000 Schülerinnen und Schülern aus der Stadt im Darknet kursieren . Das IT-Unternehmen, bei dem die Daten vorgehalten werden, hat nach eigenen Angaben erst aus der Zeitung von dem Vorfall erfahren. Dabei bezieht sich die Firma namens LHM-Services auf einen Bericht der Abendzeitung, in dem es heißt, dass die sensiblen Daten „dort gelandet sind, wo sie nie sein dürften“. LHM-S kritisiert, dass die angeblich betroffenen Datensätze auch nach Aufforderung nicht zur Prüfung weitergegeben wurden. Eine auf Darknet-Recherchen spezialisierte Firma habe keinen Hinweis darauf finden können, „dass diesbezügliche Datensätze im Darknet auffindbar und/oder allgemein verfügbar sind“.

Viele Vorwürfe, wenig bekannt

Auslöser der Aufregung ist der Exklusivbericht der Abendzeitung, der aber an wichtigen Stellen undeutlich wird. Im Kern geht es darum, dass zehntausende Namen, Anschriften, Geburtsdaten, Staatsangehörigkeiten und Schulen für Unbefugte einsehbar gewesen sein sollen, wo genau ist aber unklar. Die Zeitung hat die Daten demnach stichprobenartig überprüft und deren Echtheit damit bestätigt. LHM-S verwaltet die Daten als Tochtergesellschaft der Stadt München und in deren Auftrag für die Bildungseinrichtungen in Bayerns Landeshauptstadt. Die Firma versichert, man könne zu dem „Verdacht eines angeblichen Datenlecks aktuell nicht bestätigen und keine Angaben zu Umfang, Art und Inhalt der angeblich öffentlich zugänglichen Daten machen“.

LHM-S weist jetzt darauf hin, dass auch in dem Zeitungsbericht explizit offen gelassen werde, „ob und wie weit diese Daten überhaupt zirkulieren“. Wörtlich heißt es in dem Artikel, „teils über das Darknet transferiert, gelangten die Bestände schließlich an die AZ – was die Frage aufwirft, ob und wie weit sie zirkulieren“. LHM-S ergänzt, dass in diesem Zusammenhang auch das „potenziell auffällige Downloadverhalten eines gekündigten Ex-Mitarbeiters“ untersucht würde, der Zugriff auf solche Daten gehabt habe. Das Unternehmen schreibt weiter, dass man unverzüglich Bayerns Landesdatenschutzbeauftragten informiert und Strafanzeige gegen Unbekannt erstattet habe. Man arbeite mit Hochdruck an der Aufklärung.

Die Abendzeitung setzt den aktuellen Vorfall in dem Artikel auch noch in einen Zusammenhang zu früheren Sachverhalten. Laut dem Artikel geht es um angeblich nicht ausreichend abgesicherte SharePoint-Server . Ein Hinweisgeber habe geschildert, der Speicher sei so eingestellt gewesen, „dass praktisch jeder (intern und extern) im Haus die Daten habe einsehen können“. Was genau damit gemeint ist, ist unklar. LHM-S weist die „Vorhaltungen zu abgeschlossenen Sachverhalten aus den Jahren 2023 und 2024 mit Nachdruck zurück“. Das sei intern und extern geprüft worden, eine Zugriffsmöglichkeit für unbefugte Personen außerhalb der Firma habe zu keiner Zeit bestanden. Deshalb habe auch keine Meldepflicht bestanden.

Die Politik reagiert

LHM-S ergänzt in der Stellungnahme noch, dass vieles dafür spreche, dass auch jetzt Daten nicht frei verfügbar seien, „sondern mutmaßlich gezielt Dritten für eine presseöffentliche Verwertung zugespielt wurden“. Die AZ schreibt auch an keiner Stelle, dass die Daten im Darknet verfügbar waren. Münchens Oberbürgermeister Dominik Krause (Grüne) hat die eingeleiteten Ermittlungen begrüßt und versichert, dass er großen Wert auf die Einhaltung datenschutzrechtlicher Vorgaben lege, zitiert der BR. Mögliche Verstöße müssten vollumfänglich aufgeklärt werden. Im Stadtrat wurde demnach ein Dringlichkeitsantrag gestellt, das Thema im IT-Ausschuss zu besprechen.

(mho)

Der für Staubsauger- und Rasenmähroboter bekannte Hersteller Ecovacs ist offenbar Opfer eines IT-Einbruchs geworden. Die kriminelle Online-Bande Space Bears behauptet, dort umfangreich Daten abgesaugt zu haben, und droht deren Veröffentlichung an.

Bislang ist lediglich der Eintrag im Darknet-Auftritt der Ransomware-Bande Space Bears aufgetaucht. Demnach haben die Täter circa zwei Terabyte an Daten gestohlen. Welcher Art diese Daten sind, erklären sie jedoch nicht.

Es könnte sich um Daten aus der Entwicklung handeln. Potenziell sind aber auch sensible Kundeninformationen betroffen – die Haushaltsroboter erstellen in der Regel Karten von Räumen oder Gärten, um sich darin kontrolliert zu bewegen.

Unterschiedliche Roboterarten

Der chinesische Hersteller hat mehrere populäre Geräteklassen im Portfolio, die recht weite Verbreitung gefunden haben. Die Deebot-Staubsauger- und Wischroboter etwa, oder die Winbot-Fensterputzautomaten sowie die Mähroboter der Goat-Reihe sind populär und verkaufen sich etwa auf Amazon teils tausendfach jeden Monat.

Eine Anfrage von heise online hat Ecovacs nicht umgehend beantworten können, eine Bestätigung des IT-Vorfalls steht daher noch aus. Wir liefern Herstellerinformationen hier nach, sofern wir sie erhalten.

Die Cybergang Space Bears behauptete bereits Ende des Jahres 2024 beim französischen IT-Sicherheits- und Cloud-Dienstleister Atos Daten nach einem Einbruch kopiert zu haben. Das Unternehmen konnte bis Silvester 2024 keine Belege für eine Kompromittierung oder Ransomware auf etwaigen Atos- oder Eviden-Systemen finden. Drei weitere Tage später legte Atos nach und schrieb, dass die Behauptungen von Space Bears unbegründet seien und dass der Hersteller nicht kompromittiert worden sei. Es ist daher gut möglich, dass Space Bears auch dieses Mal nur bluffen.

(dmk)