200 Experten, Nobelpreisträger und Politiker läuten Alarm!

Es ist nicht die erste prominent besetzte Initiative, die sich damit beschäftigt, künstliche Intelligenz langfristig unter Kontrolle zu behalten. So gab es im März 2023 die „Pause Giant AI Experiments“-Initiative. Ein offener Brief, in dem dazu aufgerufen wurde, das Training für leistungsfähige KI-Systeme mindestens für sechs Monate zu stoppen. Bei der jüngsten Initiative geht es eher darum, einen globalen Konsens beim Umgang mit KI zu finden.

Zu den Unterzeichner:innen zählen unter anderem die Turing-Preisträger Geoffrey Hinton und Yoshua Bengio, der Historiker und Bestseller-Autor Yuval Noah Harari, der frühere kolumbianische Präsident Juan Manuel Santos sowie mehrere Friedensnobelpreisträger:innen. Ihr Ziel: Bis Ende 2026 soll es international verbindliche Regeln geben, die bestimmte Anwendungen von KI kategorisch ausschließen – ein echt knappes Zeitfenster, das die Dringlichkeit unterstreicht.

Rote Linien für KI: Diese Leitplanken sind bitter nötig!

Gefordert werden rote Linien gegen die gefährlichsten Szenarien der Technologie: selbstreplizierende Systeme, autonome Waffen, der Einsatz von KI in nuklearen Kommandostrukturen oder die massenhafte Verbreitung manipulativer Desinformation. „Ohne solche Grenzen laufen wir Gefahr, dass KI von einer nützlichen Technologie zu einer existenziellen Bedrohung wird“, heißt es in dem Aufruf.

Der Zeitpunkt ist bewusst gewählt: In dieser Woche beraten in New York Staats- und Regierungschefs bei der UN-Generaldebatte über die drängendsten Fragen der Weltpolitik. Auf dem Programm steht am 25. September auch der Start des „Globalen Dialogs über KI-Governance“. Bei dem informellen Treffen sollen wichtige Aspekte einer inklusiven und rechenschaftspflichtigen KI-Governance erörtert werden, heißt es auf der Seite der Vereinten Nationen.

Mit der Initiative wollen die Expert:innen den Druck erhöhen, KI-Sicherheit ganz oben auf die Agenda zu setzen. Ob die großen Mächte – allen voran die USA unter Donald Trump, China und Russland – bereit sind, sich auf verbindliche Absprachen einzulassen, bleibt allerdings fraglich. Gerade in der militärischen Nutzung von KI verfolgen viele Staaten eigene Interessen.

Keine Initiative wie jede andere

Dennoch ist der Aufruf bemerkenswert: Noch nie zuvor haben sich so viele prominente Persönlichkeiten über Fachgrenzen hinweg auf einen Minimalkonsens verständigt. Ganz wichtig: Anders als frühere Petitionen, die – wie oben erwähnt – einen Entwicklungsstopp für besonders leistungsfähige KI-Modelle forderten, setzt die Initiative nicht auf eine zeitliche Begrenzung. Stattdessen sollen dauerhafte Verbote konkreter Hochrisiko-Anwendungen erwirkt werden.

Für die Gesellschaft ist die Debatte von zentraler Bedeutung. Denn KI bestimmt längst nicht mehr nur Chatbots oder digitale Assistenten, sondern kann Einfluss auf Demokratie, Sicherheit und globale Stabilität nehmen. Die „Rote Karte“ für bestimmte Anwendungen soll verhindern, dass die Technologie außer Kontrolle gerät – bevor sie unumkehrbare Folgen hat.

Wie steht Ihr dazu? Könnt Ihr Euch vorstellen, dass sich die Länder dieser Welt tatsächlich auf einen vernünftigen Kompromiss zum Thema künstliche Intelligenz verständigen?