AI Act: Bundesregierung bringt KI-Gesetz auf den Weg

Das Bundeskabinett hat am Mittwoch seinen Gesetzesentwurf für die Umsetzung der europäischen KI-Verordnung (AI Act) auf den Weg gebracht. Der AI Act enthält ein länderübergreifendes Regelwerk für den Einsatz von Künstlicher Intelligenz, das seit 2024 schrittweise in Kraft tritt. Das deutsche Umsetzungsgesetz sieht vor, dass die Bundesnetzagentur die Rolle der KI-Aufsichtsbehörde übernimmt.

Das „KI-Marktüberwachungs- und Innovationsförderungsgesetzes (KI-MIG)“ regelt die nationale Aufsichtsstruktur für die Entwicklung, Bereitstellung und Betrieb von KI-Systemen. Diese Aufsicht soll die Bundesnetzagentur führen. Die gesetzliche Grundlage dafür hat sich durch das Ende der Ampel-Koalition und die Neuwahlen verzögert. Der Entwurf muss nun noch durch Bundestag und Bundesrat.

Hohes Risiko, hohe Anforderungen

Unternehmen, die KI entwickeln oder einsetzen, müssen den Risikograd ihrer Systeme bewerten und dann entsprechende Maßnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden. Je höher das Risiko ist, desto strenger sind die Anforderungen an Transparenz und Sicherheit.

Die EU-Verordnung verbietet etwa den Einsatz von KI-Programmen, die eine Bewertung nach sozialem Verhalten vornehmen. Nicht erlaubt sind beispielsweise Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen. Die Gesichtserkennung im öffentlichen Raum ist grundsätzlich verboten, es gibt aber Ausnahmen für Sicherheitsbehörden zur Verfolgung bestimmter Straftaten.

„Mit diesem Gesetz setzen wir europäische Vorgaben maximal innovationsoffen um und schaffen eine schlanke KI-Aufsicht mit klarem Blick auf die Bedarfe der Wirtschaft”, lobt sich Bundesdigitalminister Karsten Wildberger. „Wir bauen keine zusätzliche Behörde mit Wasserkopf auf, sondern setzen auf bestehende Strukturen, bewährte Ansprechpartner und bündeln Digital-Expertise bei der Bundesnetzagentur.“

Zusammenarbeit mit Aufsichtsbehörden

Die Bundesnetzagentur soll als „zentrales Koordinierungs- und Kompetenzzentrum, Marktüberwachungsbehörde und notifizierende Behörde“ dienen. Um Doppelstrukturen zu vermeiden, sollen bestehende Kapazitäten bei anderen Marktüberwachungsbehörden wie Bundeskartellamt, Bundesanstalt für Finanzdienstleistungsaufsicht (Bafin), dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und den Datenschutzbehörden genutzt werden.

Die Bundesnetzagentur wird damit langsam zur Superbehörde. Neben ihren klassischen Aufgaben der Regulierung von Telekommunikation, Post, Energie und Bahn ist die Bonner Behörde inzwischen auch der deutsche Koordinator für den europäischen Digital Services Act. Damit führt sie die Aufsicht über Online-Plattformen wie Facebook, Instagram, YouTube, TikTok und X.

Die neue Rolle der Bundesnetzagentur ist aber nicht unumstritten. Die Datenschützer von Bund und Ländern hatten ebenfalls Anspruch auf die alleinige KI-Aufsicht angemeldet und dabei auch Unterstützung der europäischen Kollegen erhalten. Damit hätten die Bundesländer mehr Gewicht bei der KI-Aufsicht erhalten. Es gab zudem Stimmen für die Einrichtung einer ganz neuen Behörde.

„Grundlegende Konstruktionsfehler“

Branchenvertreter fordern unterdessen, den europäischen AI Act nachzubessern. „Mit der Umsetzung der KI-Verordnung setzt die Bundesregierung ein wichtiges Signal für mehr Praxisnähe. Allerdings behebt das die grundlegenden Konstruktionsfehler der europäischen KI-Verordnung nicht”, erklärt Sarah Bäumchen, Geschäftsführerin des Verbands der Elektro- und Digitalindustrie ZVEI.

„Wir brauchen dringend eine tiefgreifende Reform des AI Acts“, fordert Bäumchen. „Denn die immer noch vorhandene Doppelregulierung beim Einsatz von Künstlicher Intelligenz schafft Rechtsunsicherheit. Zudem treibt sie die Compliance-Kosten unnötig in die Höhe. Im industriellen Kontext regulieren Rechtsakte wie die Maschinenverordnung oder die Medizinprodukteverordnung bereits ausdrücklich auch die KI-Sicherheit. Diese Fälle sollten daher aus der KI-Verordnung ausgenommen werden.“

(vbr)