Reaktion auf Claude Mythos? Bundesregierung gründet KI-Sicherheitsinstitut

Die Bundesregierung will Chancen und Risiken moderner KI-Modelle mit Hilfe eines neuen Gremiums besser einschätzen können. Der Nationale Sicherheitsrat beschloss dazu die Einrichtung eines KI-Sicherheitsinstituts, wie die Regierung mitteilte. Es soll die Kapazitäten zur Analyse der Fähigkeiten moderner KI-Modelle inklusive ihrer Risiken bündeln. Das Institut soll sich ferner stärker mit vergleichbaren ausländischen Instituten austauschen und auf einheitliche Standards im Umgang mit KI mit internationalen Partnern hinwirken.

Das neue Institut für Künstliche Intelligenz soll nach Angaben von Bitkom und TÜV-Verband den Arbeitstitel „Deutsches AI Security Institute (DE-AISI)“ tragen. In der Anfangsphase ist es als „virtuelle Institution“ geplant, wobei Strukturen und Kompetenzen der Bundesnetzagentur und des Bundesamts für Sicherheit in der Informationstechnik (BSI) genutzt werden sollen.

In einem zweiten Schritt soll dann ein Standort gefunden werden. Wann das sein wird, steht aber noch nicht genau fest. Ein BSI-Sprecher sagt gegenüber der dpa, mit Blick auf die rasante technologische Entwicklung bei KI sei es den federführenden Ministerien – das sind das Bundesinnenministerium und das Digitalministerium – wichtig, hier zügig voranzukommen.

„Top-Expertise von Experten auf Weltniveau“

In den Blick nehmen soll das Institut klassische Fragen der KI-Cybersicherheit wie den Schutz vor Angriffen, aber auch KI-Safety – hier geht es um sichere KI-Produkte, die keine gefährlichen Aktionen auslösen. Zahlreiche Staaten verfügen bereits über solche Institute, in Deutschland nahm bisher das Bundesamt für Sicherheit in der Informationstechnik (BSI) Aufgaben in diesem Bereich wahr. Ein internationales Treffen zu KI-Standards fand etwa im Dezember in der südkoreanischen Hauptstadt Seoul statt, bei dem auch das BSI vertreten war.

Bundesdigitalminister Karsten Wildberger (CDU) kündigte laut dpa am Rande eines EU-Treffens in Luxemburg an, das KI-Institut solle mit „Top-Expertise von Experten auf Weltniveau“ ausgestattet sein. Sie sollen neue Modelle wie etwa Claude Mythos demnach schnell testen, bewerten und die Bundesregierung sowie die Verwaltung dazu beraten. Ein Vorbild sei das britische KI-Sicherheitsinstitut.

Anthropic hatte den Zugriff auf sein Modell Claude Mythos Preview zunächst nur auf einen kleinen Kreis von US-Unternehmen und -Behörden beschränkt. Mythos sei einfach zu gut darin, Sicherheitslücken aufzuspüren, und könne deshalb noch nicht allgemein verfügbar gemacht werden, erklärte das Unternehmen. Inzwischen dürfen auch Institutionen aus Europa darauf zugreifen.

Bitkom ist dafür

Insgesamt sind die Details zur Gestaltung des Instituts noch recht dünn. Wie personelle Ausstattung und Budget aussehen, welche Kompetenzen das Institut gerade in Abgrenzung zum BSI erhalten soll – all das führte die Bundesregierung noch nicht aus. Eine Antwort auf Anfrage der iX-Redaktion dazu steht zur Stunde noch aus.

Trotz der offenen Fragen begrüßten der TÜV-Verband und der Branchenverband Bitkom den Beschluss. „Mit der Gründung eines Sicherheitsinstituts für Künstliche Intelligenz zieht Deutschland mit Staaten wie Großbritannien, den USA oder Frankreich gleich, die bereits eigene Institute aufgebaut haben“, erklärte Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung. Damit würde die Voraussetzung geschaffen, KI-Risiken frühzeitig fundiert einzuschätzen.

Der Bitkom empfiehlt, dem Institut ein abgegrenztes Forschungsmandat zu geben. Ebenfalls könne es Lagebilder mit Blick auf die neuen Frontier-Modelle erstellen und so die Risiken für Deutschlands Sicherheit und Souveränität zeigen. Um internationale Spitzenkräfte zu gewinnen, fordert der Verband eine Finanzierung auf dem Niveau des britischen AISI.

(axk)