„Wollen nicht perfekt, gut genug reicht“: KI soll US-Verkehrsregeln verfassen

Das US-Verkehrsministerium will Regeln für die Verkehrssicherheit künftig von KI-Technik vorfertigen lassen, Beamten und Beamtinnen sollen diese dann nur noch korrekturlesen. Eine erste Regel der Flugaufsicht wurde sogar schon KI-gestützt verfasst, ist aber noch unveröffentlicht. Das berichtet das US-Magazin ProPublica unter Berufung auf mehrere Quellen, die bei internen Vorstellungen der Pläne anwesend waren. Der Justiziar des Ministeriums habe dabei deutlich gemacht, dass damit vor allem der Prozess der Erarbeitung von Vorgaben beschleunigt werden soll. „Wir brauchen nicht die perfekte Regel für XYZ, wir brauchen nicht einmal eine sehr gute Regel für XYZ“, zitiert ProPublica aus der Mitschrift der Aussagen von Gregory Zerzan: „Wir wollen gut genug.“ Weiterhin habe er erklärt: „Wir überschwemmen den Bereich.“

Geschwindigkeit als oberstes Gebot

Die Ankündigung habe im Ministerium Besorgnis ausgelöst, schreibt ProPublica. Immerhin sei das Haus für Regeln zuständig, die so gut wie jeden Bereich der Transport- und Verkehrssicherheit betreffen. Dabei gehe es um die Sicherheit von Flugzeugen, Pipelines oder des Güterverkehrs. Gegenwärtig dauere es Monate oder gar Jahre, die komplexen Vorgaben zu verfassen, die in den gesamten Vereinigten Staaten gelten sollen. Mit einer eigenen Version von Googles Gemini, die dafür zum Einsatz kommen soll, würden nur noch Minuten oder gar Sekunden benötigt. Erklärtes Ziel ist es dem Bericht zufolge, die Erstellung von Verkehrsregeln drastisch zu verkürzen. Von der Idee bis zur Vorlage beim Office of Information and Regulatory Affairs, das diese dann prüfen muss, sollen maximal 30 Tage vergehen.

Bei einer internen Vorstellung der Pläne wurde demnach erklärt, dass Gemini 80 bis 90 Prozent der Erstellung von Regularien übernehmen soll. Um die Leistungsfähigkeit vorzuführen, habe die KI-Technik während der Präsentation eine typische Ankündigung für eine geplante Regel erstellen sollen. Diese werden vorab veröffentlicht, damit die Öffentlichkeit dazu Stellung nehmen kann. Im konkreten Fall habe in der KI-generierten Version aber offenbar genau jener Text gefehlt, der die Regel ausführt. Trotzdem hätten sich die Verantwortlichen nicht besorgt gezeigt, dass die sogenannten Halluzinationen von KI-Textgeneratoren für Probleme sorgen könnten. Und selbst wenn, wäre es dann an den Beamten und Beamtinnen des Ministeriums, solche Fehler zu finden und zu entfernen.

Von den Verantwortlichen hat ProPublica keine Stellungnahme zu dem Bericht erhalten, wohl aber von den anonymen Quellen aus dem Ministerium. Diese hätten darauf hingewiesen, dass die Ausarbeitung von Vorschriften eine komplexe Aufgabe sei, die viel Fachwissen erfordere. Beachtet werden müssten bestehende Gesetze und andere Vorschriften, aber auch Rechtsprechung durch Gerichte. Fehler oder Versäumnisse bei der Formulierung könnten zu Rechtsstreitigkeiten oder sogar Verletzungen und Todesfällen führen. Sogar der ehemalige KI-Chef des Ministeriums hat die Pläne demnach kritisiert. Mike Hortin hat das Amt Ende August aufgegeben, als es die Pläne noch nicht gegeben hatte. Für ihn klinge das, als würde man „einen Highschool-Praktikanten die Vorschriften ausarbeiten lassen“.

(mho)