Die EU-Kommission hat am Mittwoch den endgültigen Verhaltenskodex zur Kennzeichnung und Identifizierung von KI-generierten Inhalten vorgelegt. Das umfassende Regelwerk, das von sechs unabhängigen Experten unter Beteiligung von über 180 Interessenvertretern aus Wirtschaft, Wissenschaft und Zivilgesellschaft erarbeitet wurde, soll den Akteuren der KI-Branche als praktischer Leitfaden dienen.

Die Handreichung konkretisiert die Transparenzvorgaben der KI-Verordnung, die ab dem 2. August greifen. Ab dann verlangt die EU eine klare Kennzeichnung in entscheidenden Bereichen: Deepfakes sowie KI-generierte oder manipulierte Texte, die im öffentlichen Interesse verbreitet werden, müssen klar als solche ausgewiesen werden. Auch Interaktionen mit dialogorientierten Systemen wie Chatbots sollen für Nutzer sofort als maschinell erkennbar sein, um Täuschungen und großflächige Manipulationen im digitalen Raum zu verhindern.

Der Kodex selbst basiert auf Freiwilligkeit, bietet den Unterzeichnern aber einen entscheidenden rechtlichen Vorteil. Sobald die Kommission und das zuständige Brüsseler KI-Büro das Papier als angemessen anerkannt haben, können teilnehmende Unternehmen durch die Umsetzung der vorgeschlagenen Maßnahmen offiziell nachweisen, dass sie die gesetzlichen Pflichten des AI Acts erfüllen.

Technische Kennzeichnung als Standard

Inhaltlich gliedert sich das Papier in zwei Kernbereiche, die jeweils unterschiedliche Akteure der Wertschöpfungskette in die Pflicht nehmen. Der erste Abschnitt richtet sich an Entwickler und Anbieter generativer KI-Systeme. Sie müssen technisch sicherstellen, dass künstlich erzeugte oder veränderte Audio-Dateien, Bilder, Videos sowie Texte in einem maschinenlesbaren Format markiert werden und dadurch zuverlässig als künstlich erkennbar sind.

Da nach derzeitigem Stand der Technik kein einzelnes Verfahren ausreicht, um die gesetzlichen Kriterien der Wirksamkeit, Interoperabilität, Robustheit und Verlässlichkeit vollständig zu erfüllen, schreibt der Kodex für die meisten Online-Inhalte einen mehrschichtigen Ansatz vor.

Die Anbieter verpflichten sich zur Kombination von mindestens zwei maschinenlesbaren Ebenen: Zum einen müssen digitale Metadaten manipulationssicher mit einer digitalen Signatur und einem Zeitstempel versehen werden. Ferner ist die Einbettung unsichtbarer Wasserzeichen vorgesehen, die sich nur schwer vom Inhalt trennen lassen. Für frei fließende Texte, die länger als 200 Zeichen sind und keine konventionellen Metadaten transportieren können, wird die Anwendung von Wasserzeichen ebenfalls verlangt. Hier dürfen Anbieter aber aufgrund geringerer Zuverlässigkeit den Zugriff auf Erkennungswerkzeuge vorerst auf verifizierte Experten beschränken.

Erkennungswerkzeuge und Label-Programm

Zusätzlich sind optionale Protokollierungslösungen oder Fingerprints denkbar, solange der Datenschutz dabei gewahrt wird. Der Kodex verbietet den Anbietern zudem, Werkzeuge zu vertreiben oder zu bewerben, die der Umgehung dieser Schutzmechanismen dienen. Gleichzeitig sieht das Papier vor, dass die entwickelten Erkennungswerkzeuge für Aufsichtsbehörden, Medien, Faktenprüfer und Forscher dauerhaft und uneingeschränkt kostenfrei zugänglich sein müssen.

Der zweite Abschnitt nimmt die Anwender und Betreiber in die Pflicht, die KI-Systeme in der Praxis einsetzen. Sie müssen Deepfakes und nicht redaktionell geprüfte, im öffentlichen Interesse publizierte KI-Texte unzweideutig für das menschliche Auge oder Ohr kennzeichnen.

Um eine einheitliche und barrierefreie Erkennbarkeit zu gewährleisten, hat das europäische KI-Büro ein standardisiertes, visuelles EU-Label entwickelt. Dieses Symbol trägt je nach Modifikationsgrad die Aufschrift „AI + GENERATED“ für vollständig künstliche Inhalte oder „AI + MODIFIED“ für nachträglich manipulierte Werke.

Sichtbarkeit für Nutzer im Fokus

Das Kennzeichen muss ab der ersten Begegnung des Nutzers mit dem Inhalt durchgehend gut sichtbar platziert werden. Die Icons können etwa in der oberen rechten Ecke von Videos oder nahe der Überschrift eines Textes angebracht werden. Bei Videos muss das Label zudem in regelmäßigen Abständen wiederholt werden, um auch nachträgliche Ausschnitte oder Screenshots abzusichern. Ist eine visuelle Darstellung nicht möglich, wie etwa bei reinen Audio-Deepfakes, greift die Pflicht zu akustischen Warnhinweisen zu Beginn des Beitrags sowie zu regelmäßigen Ton-Erinnerungen bei längeren Sequenzen.

Für kreative, künstlerische oder satirische Werke gelten flexiblere Regeln: Hier darf die Kennzeichnung den Kunstgenuss nicht unangemessen beeinträchtigen und kann etwa im Abspann oder in den Begleitnotizen untergebracht werden. Eine Ausnahme gilt für klassische Mediendienste: Sie können künftig auf ihre bewährten, eigenen redaktionellen Kontrollprozesse verweisen, um die journalistische Sorgfaltspflicht zu wahren.

Die neuen Transparenzregeln fungieren als Ergänzung zu den umfassenden Vorschriften des AI Act für universell einsetzbare KI-Modelle und Hochrisiko-Systeme. Sie flankieren die bereits veröffentlichten Leitlinien der Kommission, die die rechtlichen Vorgaben weiter präzisieren und verbleibende Lücken schließen.

Eine eigens eingerichtete Taskforce soll den Kodex kontinuierlich an den technologischen Fortschritt anpassen und eine interaktive, zweite Ebene für das EU-Label entwickeln, die Nutzern künftig per Klick detaillierte Herkunftsdaten und Informationen über die genaue Art der KI-Manipulation liefert.

(wpl)

Das US-Verteidigungsministerium hat im Rahmen des National Defense Authorization Act eine Reihe ziviler und kommerzieller chinesischer Firmen auf eine lange Liste militärnaher Unternehmen gesetzt. Das Dokument des Pentagons legt dar, dass diese Konzerne als Unterstützer des militärisch-zivilen Komplexes Chinas eingestuft werden: Sie seien direkt oder indirekt mit Ministerien, dem Staatsrat oder gar der Volksbefreiungsarmee verflochten.

Unter den Neuzugängen stechen die IT-Riesen Alibaba und Baidu hervor, die für ihre Cloud-Infrastrukturen und KI-Modelle bekannt sind. Dazu gekommen sind der Batterie- und E-Autohersteller BYD sowie dessen Konkurrent Nio. Ebenfalls im Visier der US-Behörden stehen die Chiphersteller ChangXin Memory Technologies (CXMT) und Yangtze Memory Technologies (YMTC), die als Schlüsselfiguren der chinesischen Speicherchip-Industrie gelten.

Die Pentagon-Liste reicht über die herkömmliche Elektronik hinaus: Sie trifft auch die Biotech-Firma Wuxi AppTec, den Lidar-Spezialisten RoboSense und den Roboterhersteller Unitree, den Bundeskanzler Friedrich Merz (CDU) auf seiner jüngsten China-Reise besuchte.

„Ansteckende“ China-Kontakte

Die Einstufung dürfte Lieferbeziehungen und internationale Kooperationen durcheinander wirbeln. Nahezu alle Neuzugänge sind Schwergewichte, die als Lieferanten und Dienstleister in globalen Wertschöpfungsketten verankert sind und viele westliche Firmen mit Cloud-Diensten, KI, Halbleitern, modernsten Sensoren oder Batterietechnologien versorgen.

Die Tragweite wird durch ein Verbot untermauert, das ab Sommer 2027 greift und weitreichende Konsequenzen für die Kunden der chinesischen Konzerne hat. Ab dann darf das Pentagon keine Verträge mehr abschließen, verlängern oder erneuern, wenn in den beschafften Gütern oder Services auch nur kleinste Beiträge der gelisteten Firmen enthalten sind.

Das betrifft nicht nur offensichtliche Hardwarekomponenten wie Speicherbausteine, sondern auch softwarebasierte Prozesse. Selbst die Nutzung der Alibaba Cloud im logistischen oder planerischen Herstellungsprozess eines Bauteils in einer Fabrik in China könnte ausreichen, um das Endprodukt für die US-Behörden zu sperren.

EU-Firmen zwischen den Fronten

Wie real diese Bedrohung für die europäische Industrie ist, beschreibt SZ-Dossier am Beispiel Siemens. Der Konzern arbeitet in China seit Jahren mit Alibaba in der Cloud zusammen und hat diese Partnerschaft gerade erst auf Industriesimulationen und KI-gestütztes Ingenieurwesen ausgeweitet. Künftig könnte das Unternehmen bei lukrativen US-Aufträgen wie einer Modernisierung der Gebäudetechnik am US-Militärstandort in Wiesbaden detailliert nachweisen müssen, dass die erbrachte Leistung unabhängig von jeglichen Alibaba-Diensten zustande kam.

Ähnlich komplex ist die Lage beim Softwareunternehmen SAP, das enge Geschäfte mit der US-Armee betreibt. Gleichzeitig kooperiert er mit Alibaba.

Ungemach droht deutschen Firmen aber auch, wenn sie ihre Beziehungen zu den sanktionierten chinesischen Firmen abrupt kappen. China hat für diesen Fall gesetzliche Abwehrmechanismen gegen extraterritoriale Jurisdiktion in Stellung gebracht, die als Verordnung 835 bekannt sind.

(wpl)

Der US-Dienstleistungskonzern Uber Technologies hat Klage gegen die Stadt New York eingereicht, um die Durchsetzung eines kürzlich verabschiedeten Gesetzes zu verhindern. Das neue Gesetz, das Fahrer vor „ungerechtfertigten Deaktivierungen“ schützen soll, würde nach Ansicht von Uber das Unternehmen dazu zwingen, Fahrer auf seiner Plattform zu belassen, selbst wenn der Fahrdienstvermittler festgestellt hat, dass diese gegen Standards, Vereinbarungen und Richtlinien des Unternehmens verstoßen haben.

Das lokale Gesetz 52, das am 28. Juli in Kraft tritt, untersagt es Fahrdienstvermittlern wie Uber oder Lyft, Fahrer ohne einen„triftigen Grund“ zu entlassen. Bei Betrug und „grobem Fehlverhalten“ wie Gewalt, sexueller Belästigung oder Übergriffen sowie Diskriminierung sind Entlassungen zulässig.

Verstoß gegen verfassungsmäßige Rechte

In der am Dienstag vor dem Bundesbezirksgericht für den südlichen Bezirk von New York eingereichten Klage (AZ. 1:26-CV-04893) erklärte Uber, das Gesetz schütze Fahrer, die sich gefährlich, bedrohlich oder anderweitig unangemessen verhalten, in unzulässiger Weise. Zugleich verletze das Gesetz die Rechte des Unternehmens auf freie Meinungsäußerung und ein ordnungsgemäßes Verfahren (due-process right) gemäß der US-Verfassung sowie der Verfassung des Staates New York. Uber beantragte eine einstweilige Verfügung sowie eine dauerhafte Unterlassungsanordnung, um das Gesetz zu stoppen. Über die Klage berichtete unter anderem die Nachrichtenagentur Bloomberg.

Sollte das Gesetz wie geplant in Kraft treten, „würde es die Verträge von Uber dauerhaft beeinträchtigen, die Übermittlung und Offenlegung sensibler und geschützter Informationen erzwingen, die Uber sonst nicht preisgeben würde, eine zumindest vorübergehende Zusammenarbeit mit Fahrern erzwingen, die Uber sonst deaktivieren würde, Uber einem unfairen und einseitigen Entscheidungsverfahren unterwerfen sowie potenziell zu Reputationsschäden und einem Verlust an Geschäftsvolumen und Firmenwert führen“, heißt es in der Klageschrift.

Möglicherweise Tausende Anträge auf Wiederaufnahme

Das im Januar vom New Yorker Stadtrat mit großer Mehrheit verabschiedete Gesetz soll Fahrer vor einer ungerechtfertigten Deaktivierung durch die Fahrdienstvermittler schützen. Die Verordnung schreibt vor, dass Unternehmen die Fahrer 14 Tage vor Wirksamwerden der Deaktivierung über die Maßnahme informieren müssen. Auch können Fahrer eine Untersuchung durch die Behörde für Verbraucher- und Arbeitnehmerschutz beantragen. Der Fahrdienstvermittler muss dann nachweisen, dass ein triftiger Grund sowie ein legitimer wirtschaftlicher Beweggrund für die Deaktivierung vorlagen.

Laut Uber könnten die mehr als 12.000 Fahrer in New York City, die seit Juli 2019 von Uber deaktiviert wurden, eine Wiederaufnahme beantragen. Das Unternehmen beklagt, dass es für die mögliche erneute Überprüfung und Bearbeitung Tausender Deaktivierungsfälle „enorme Ressourcen aufwenden“ müsste.

(akn)