Die EU-Kommission hat am Mittwoch den endgültigen Verhaltenskodex zur Kennzeichnung und Identifizierung von KI-generierten Inhalten vorgelegt. Das umfassende Regelwerk, das von sechs unabhängigen Experten unter Beteiligung von über 180 Interessenvertretern aus Wirtschaft, Wissenschaft und Zivilgesellschaft erarbeitet wurde, soll den Akteuren der KI-Branche als praktischer Leitfaden dienen.

Die Handreichung konkretisiert die Transparenzvorgaben der KI-Verordnung, die ab dem 2. August greifen. Ab dann verlangt die EU eine klare Kennzeichnung in entscheidenden Bereichen: Deepfakes sowie KI-generierte oder manipulierte Texte, die im öffentlichen Interesse verbreitet werden, müssen klar als solche ausgewiesen werden. Auch Interaktionen mit dialogorientierten Systemen wie Chatbots sollen für Nutzer sofort als maschinell erkennbar sein, um Täuschungen und großflächige Manipulationen im digitalen Raum zu verhindern.

Der Kodex selbst basiert auf Freiwilligkeit, bietet den Unterzeichnern aber einen entscheidenden rechtlichen Vorteil. Sobald die Kommission und das zuständige Brüsseler KI-Büro das Papier als angemessen anerkannt haben, können teilnehmende Unternehmen durch die Umsetzung der vorgeschlagenen Maßnahmen offiziell nachweisen, dass sie die gesetzlichen Pflichten des AI Acts erfüllen.

Technische Kennzeichnung als Standard

Inhaltlich gliedert sich das Papier in zwei Kernbereiche, die jeweils unterschiedliche Akteure der Wertschöpfungskette in die Pflicht nehmen. Der erste Abschnitt richtet sich an Entwickler und Anbieter generativer KI-Systeme. Sie müssen technisch sicherstellen, dass künstlich erzeugte oder veränderte Audio-Dateien, Bilder, Videos sowie Texte in einem maschinenlesbaren Format markiert werden und dadurch zuverlässig als künstlich erkennbar sind.

Da nach derzeitigem Stand der Technik kein einzelnes Verfahren ausreicht, um die gesetzlichen Kriterien der Wirksamkeit, Interoperabilität, Robustheit und Verlässlichkeit vollständig zu erfüllen, schreibt der Kodex für die meisten Online-Inhalte einen mehrschichtigen Ansatz vor.

Die Anbieter verpflichten sich zur Kombination von mindestens zwei maschinenlesbaren Ebenen: Zum einen müssen digitale Metadaten manipulationssicher mit einer digitalen Signatur und einem Zeitstempel versehen werden. Ferner ist die Einbettung unsichtbarer Wasserzeichen vorgesehen, die sich nur schwer vom Inhalt trennen lassen. Für frei fließende Texte, die länger als 200 Zeichen sind und keine konventionellen Metadaten transportieren können, wird die Anwendung von Wasserzeichen ebenfalls verlangt. Hier dürfen Anbieter aber aufgrund geringerer Zuverlässigkeit den Zugriff auf Erkennungswerkzeuge vorerst auf verifizierte Experten beschränken.

Erkennungswerkzeuge und Label-Programm

Zusätzlich sind optionale Protokollierungslösungen oder Fingerprints denkbar, solange der Datenschutz dabei gewahrt wird. Der Kodex verbietet den Anbietern zudem, Werkzeuge zu vertreiben oder zu bewerben, die der Umgehung dieser Schutzmechanismen dienen. Gleichzeitig sieht das Papier vor, dass die entwickelten Erkennungswerkzeuge für Aufsichtsbehörden, Medien, Faktenprüfer und Forscher dauerhaft und uneingeschränkt kostenfrei zugänglich sein müssen.

Der zweite Abschnitt nimmt die Anwender und Betreiber in die Pflicht, die KI-Systeme in der Praxis einsetzen. Sie müssen Deepfakes und nicht redaktionell geprüfte, im öffentlichen Interesse publizierte KI-Texte unzweideutig für das menschliche Auge oder Ohr kennzeichnen.

Um eine einheitliche und barrierefreie Erkennbarkeit zu gewährleisten, hat das europäische KI-Büro ein standardisiertes, visuelles EU-Label entwickelt. Dieses Symbol trägt je nach Modifikationsgrad die Aufschrift „AI + GENERATED“ für vollständig künstliche Inhalte oder „AI + MODIFIED“ für nachträglich manipulierte Werke.

Sichtbarkeit für Nutzer im Fokus

Das Kennzeichen muss ab der ersten Begegnung des Nutzers mit dem Inhalt durchgehend gut sichtbar platziert werden. Die Icons können etwa in der oberen rechten Ecke von Videos oder nahe der Überschrift eines Textes angebracht werden. Bei Videos muss das Label zudem in regelmäßigen Abständen wiederholt werden, um auch nachträgliche Ausschnitte oder Screenshots abzusichern. Ist eine visuelle Darstellung nicht möglich, wie etwa bei reinen Audio-Deepfakes, greift die Pflicht zu akustischen Warnhinweisen zu Beginn des Beitrags sowie zu regelmäßigen Ton-Erinnerungen bei längeren Sequenzen.

Für kreative, künstlerische oder satirische Werke gelten flexiblere Regeln: Hier darf die Kennzeichnung den Kunstgenuss nicht unangemessen beeinträchtigen und kann etwa im Abspann oder in den Begleitnotizen untergebracht werden. Eine Ausnahme gilt für klassische Mediendienste: Sie können künftig auf ihre bewährten, eigenen redaktionellen Kontrollprozesse verweisen, um die journalistische Sorgfaltspflicht zu wahren.

Die neuen Transparenzregeln fungieren als Ergänzung zu den umfassenden Vorschriften des AI Act für universell einsetzbare KI-Modelle und Hochrisiko-Systeme. Sie flankieren die bereits veröffentlichten Leitlinien der Kommission, die die rechtlichen Vorgaben weiter präzisieren und verbleibende Lücken schließen.

Eine eigens eingerichtete Taskforce soll den Kodex kontinuierlich an den technologischen Fortschritt anpassen und eine interaktive, zweite Ebene für das EU-Label entwickeln, die Nutzern künftig per Klick detaillierte Herkunftsdaten und Informationen über die genaue Art der KI-Manipulation liefert.

(wpl)

Das US-Verteidigungsministerium hat im Rahmen des National Defense Authorization Act eine Reihe ziviler und kommerzieller chinesischer Firmen auf eine lange Liste militärnaher Unternehmen gesetzt. Das Dokument des Pentagons legt dar, dass diese Konzerne als Unterstützer des militärisch-zivilen Komplexes Chinas eingestuft werden: Sie seien direkt oder indirekt mit Ministerien, dem Staatsrat oder gar der Volksbefreiungsarmee verflochten.

Unter den Neuzugängen stechen die IT-Riesen Alibaba und Baidu hervor, die für ihre Cloud-Infrastrukturen und KI-Modelle bekannt sind. Dazu gekommen sind der Batterie- und E-Autohersteller BYD sowie dessen Konkurrent Nio. Ebenfalls im Visier der US-Behörden stehen die Chiphersteller ChangXin Memory Technologies (CXMT) und Yangtze Memory Technologies (YMTC), die als Schlüsselfiguren der chinesischen Speicherchip-Industrie gelten.

Die Pentagon-Liste reicht über die herkömmliche Elektronik hinaus: Sie trifft auch die Biotech-Firma Wuxi AppTec, den Lidar-Spezialisten RoboSense und den Roboterhersteller Unitree, den Bundeskanzler Friedrich Merz (CDU) auf seiner jüngsten China-Reise besuchte.

„Ansteckende“ China-Kontakte

Die Einstufung dürfte Lieferbeziehungen und internationale Kooperationen durcheinander wirbeln. Nahezu alle Neuzugänge sind Schwergewichte, die als Lieferanten und Dienstleister in globalen Wertschöpfungsketten verankert sind und viele westliche Firmen mit Cloud-Diensten, KI, Halbleitern, modernsten Sensoren oder Batterietechnologien versorgen.

Die Tragweite wird durch ein Verbot untermauert, das ab Sommer 2027 greift und weitreichende Konsequenzen für die Kunden der chinesischen Konzerne hat. Ab dann darf das Pentagon keine Verträge mehr abschließen, verlängern oder erneuern, wenn in den beschafften Gütern oder Services auch nur kleinste Beiträge der gelisteten Firmen enthalten sind.

Das betrifft nicht nur offensichtliche Hardwarekomponenten wie Speicherbausteine, sondern auch softwarebasierte Prozesse. Selbst die Nutzung der Alibaba Cloud im logistischen oder planerischen Herstellungsprozess eines Bauteils in einer Fabrik in China könnte ausreichen, um das Endprodukt für die US-Behörden zu sperren.

EU-Firmen zwischen den Fronten

Wie real diese Bedrohung für die europäische Industrie ist, beschreibt SZ-Dossier am Beispiel Siemens. Der Konzern arbeitet in China seit Jahren mit Alibaba in der Cloud zusammen und hat diese Partnerschaft gerade erst auf Industriesimulationen und KI-gestütztes Ingenieurwesen ausgeweitet. Künftig könnte das Unternehmen bei lukrativen US-Aufträgen wie einer Modernisierung der Gebäudetechnik am US-Militärstandort in Wiesbaden detailliert nachweisen müssen, dass die erbrachte Leistung unabhängig von jeglichen Alibaba-Diensten zustande kam.

Ähnlich komplex ist die Lage beim Softwareunternehmen SAP, das enge Geschäfte mit der US-Armee betreibt. Gleichzeitig kooperiert er mit Alibaba.

Ungemach droht deutschen Firmen aber auch, wenn sie ihre Beziehungen zu den sanktionierten chinesischen Firmen abrupt kappen. China hat für diesen Fall gesetzliche Abwehrmechanismen gegen extraterritoriale Jurisdiktion in Stellung gebracht, die als Verordnung 835 bekannt sind.

(wpl)

Der südkoreanische Halbleiterkonzern SK Hynix plant seinen Börsengang in den USA bereits im August. Das berichtete am Mittwoch die Nachrichtenagentur Reuters und beruft sich dabei auf zwei mit der Angelegenheit vertraute Personen. SK Hynix wolle mit dem Schritt von der starken Nachfrage nach KI-bezogenen Aktien profitieren und seine Investorenbasis verbreitern.

Laut dem Bericht von Reuters wird die US-Börsenaufsichtsbehörde SEC (Securities and Exchange Commission) voraussichtlich in der übernächsten Woche den entsprechenden Antrag von SK Hynix genehmigen.

Über die Einzelheiten der Börsennotierung, einschließlich Umfang und Zeitpunkt, sei noch nicht entschieden worden, teilte SK Hynix in einer Erklärung gegenüber Reuters mit. Der Chiphersteller hatte im März mitgeteilt, vertraulich einen Antrag auf Börsennotierung in den USA gestellt zu haben. Damals hieß es, der Börsengang könnte ein Volumen von bis zu 14 Milliarden US-Dollar erreichen.

SK Hynix ist der weltweit zweitgrößte Hersteller von Speicherchips und ein wichtiger Zulieferer für den US-Konzern Nvidia. Dank seiner marktbeherrschenden Stellung bei Hochleistungs-Speicherchips (High Bandwidth Memory, HBM), die in KI-Servern zum Einsatz kommen, hat das südkoreanische Unternehmen stark von KI-Boom und Speicherkrise profitiert.

Mit einem Börsendebüt im August würde sich SK Hynix in die Phalanx spektakulärer Börsengänge einreihen, die in der zweiten Jahreshälfte an den US-Aktienmärkten erwartet werden. Der für Ende dieser Woche geplante Rekord-Börsengang von Elon Musks Raumfahrtunternehmen SpaceX soll 75 Milliarden US-Dollar einspielen. Einen Wettlauf um den Gang an die Börse liefern sich derweil die beiden KI-Unternehmen Anthropic und OpenAI. Claude-Entwickler Anthropic reichte am 1. Juni vertraulich einen Antrag auf Börsengang in den USA ein und kam damit überraschend dem Konkurrenten OpenAI zuvor. Der ChatGPT-Entwickler beantragte nur wenige Tage später eine Aktienplatzierung – Details bleiben aber noch geheim.

(akn)