UN-Bericht zu KI-Risiken: „Die Welt kann nicht regieren, was sie nicht versteht“

Die Entwicklung der Künstlichen Intelligenz vollzieht sich in einer Geschwindigkeit, die sowohl die Forschung als auch Regierungen weltweit zu überholen droht. In diesem Umfeld hat das unabhängige internationale wissenschaftliche Expertengremium für KI der Vereinten Nationen seinen vorläufigen Bericht vorgelegt. Die Veröffentlichung bildet den ersten globalen unvoreingenommenen Versuch, die Chancen, Risiken und Auswirkungen der Technologie wissenschaftlich fundiert zu bilanzieren. Das zentrale Leitmotiv, das die UN dem Bericht in ihrer Ankündigung voranstellt, bringt die entdeckte Misere auf den Punkt: „Die Welt kann nicht regieren, was sie nicht versteht.“

Die Ergebnisse der Studie treffen die globale Politik an einem kritischen Zeitpunkt. Bislang tappen demnach Regierungen bei weitreichenden Entscheidungen über KI oft im Dunkeln und stützen sich auf widersprüchliche Quellen, die lokale Realitäten kaum berücksichtigen. Je mächtiger die Systeme würden, desto höher werde der Einsatz für die Menschheit.

Hier setzt die Arbeit des Panels an: Die Untersuchung umfasst sieben Kernbereiche, darunter wissenschaftliche Entwicklungspfade, wirtschaftliche Folgen sowie gesellschaftliche Anwendungen in Medizin und Bildung. Dazu beleuchten die Fachleute Fragen der nationalen Sicherheit, der Menschenrechte, des Kinderschutzes und der Zuverlässigkeit der Systeme.

Überholt von der Risikotechnologie

Die Experten verweisen auf ein chronologisches Problem: Politische Entscheidungsträger benötigen wissenschaftliche Beweise, um KI effektiv zu steuern. Doch bis diese feststehen, könnte es bereits zu spät sein, um noch lenkend einzugreifen. Der Co-Vorsitzende des Gremiums, KI-Pionier Yoshua Bengio, gab zu bedenken, dass die Fähigkeiten der KI die Kapazitäten der Politik überholten. Besonders besorgniserregend seien Hinweise auf täuschendes Verhalten von Systemen. Die Wissenschaft könne derzeit nicht garantieren, dass künftige KI nicht katastrophale Schäden anrichtet – sei es autonom oder durch böswillige Akteure. Um effektiv zu handeln, müsse die Politik die Technik grundlegend verstehen.

Die zweite Vorsitzende, die Journalistin und Nobelpreisträgerin Maria Ressa, ist ebenfalls wenig optimistisch. KI besitze zwar transformatives Potenzial. Doch auf dem aktuellen Pfad werde die Menschheit die versprochenen Gewinne nicht realisieren. Die Risiken für Gesellschaften und die menschliche Spezies seien zu hoch. Die treibenden Kräfte hinter der KI seien zugleich nicht dafür bekannt, erlangte Vorteile gerecht zu verteilen.

Die Warnung vor globaler Ungleichheit stützte auch der UN-Tech-Sonderbeauftragte Amandeep Singh Gill. KI schließt ihm zufolge digitale Gräben nicht von alleine. Die positiven Effekte landeten primär dort, wo bereits starke Institutionen und Datenbestände vorhanden seien. Wo diese fehlten, drohe die Technik Arbeitsplätze zu vernichten und Gemeinschaften in die Abhängigkeit von Systemen zu treiben, die ohne Berücksichtigung ihrer Belange entwickelt worden seien.

Weckruf für die Weltgemeinschaft

Mit der Übergabe des Berichts ist die wissenschaftliche Basis gelegt. Konsequenzen daraus muss die Politik ziehen. Der erste Härtetest steht an, wenn sich die Staatenvertreter nächste Woche zum Globalen Dialog über KI-Governance in Genf treffen, um die Empfehlungen in gemeinsames Handeln zu übersetzen.

UN-Generalsekretär António Guterres ließ keinen Zweifel daran, dass die Kosten des Abwartens täglich stiegen. Er sieht die Staatengemeinschaft in der Pflicht: „Wir können nicht mehr sagen, wir hätten von nichts gewusst. Was wir damit tun, hängt jetzt von uns allen ab.“ Der Bericht sei ein unüberhörbarer Weckruf, damit die Zukunft der KI nicht allein von den Kräften des Marktes, sondern von einer geeinten Weltgemeinschaft gestaltet werde. 2027 soll ein umfassender Hauptreport folgen.

(kbe)