Nachdem sich führende KI-Unternehmen aus den USA am Wochenende dafür ausgesprochen haben, das Entwicklungstempo bei besonders leistungsfähigen KI-Modellen zu drosseln, haben die ersten Börsen in Asien mit Kursverlusten reagiert. Gleichzeitig gibt es aus der Wissenschaft Zustimmung für das Ansinnen – und Kritik von US-Präsident Donald Trump. Derweil ist weiterhin vollkommen unklar, ob dem Plädoyer konkrete Maßnahmen folgen. Anthropic-Chef Dario Amodei hatte zuvor eine koordinierte Pause vorgeschlagen, die der Branche ein bis zwei Jahre Zeit verschaffen soll, um Sicherheitsrisiken besser zu verstehen und einzudämmen. Binnen Stunden bekam er dafür Zuspruch von Rivalen wie OpenAI-Chef Sam Altman und Tech-Milliardär Elon Musk.

Ganz unterschiedliche Reaktionen

Am Montag reagierten Aktien von Unternehmen mit Bezug zur KI-Industrie mit teils deutlichen Verlusten, berichtet die Nachrichtenagentur Reuters. So ging es für den OpenAI-Investor SoftBank um zwischenzeitlich mehr als 13 Prozent nach unten, der Kurs des Speicherherstellers Kioxia sackte vorübergehend um fast 10 Prozent ab. SK Hynix, Samsung und andere Konzerne verloren jeweils mehrere Prozent. Vor dem Verkaufsdruck war als Reaktion auf die Kommentare vom Wochenende von mindestens einem einflussreichen Analysten gewarnt worden, schreibt die Nachrichtenagentur noch. Sie verweist aber auch darauf, dass auch Entwicklungen im Nahen Osten die Kurse drücken dürften. Dort gibt es Sorgen um die nächste wichtige Handelsroute im Roten Meer.

Vorher hatte US-Präsident Donald Trump die Sorgen aus der Branche heruntergespielt. Die USA seien China bei KI weit voraus und führend in der Welt, weil der Erfolg bei KI essenziell für die Zukunft sei, sagte Trump laut der Nachrichtenagentur dpa am Rande seines Besuchs in Irland. Man könne die Technologie mit Leitplanken versehen. Zugleich sprach Trump von „negativen Kräften“, die sich zu dem Thema äußerten. Trumps Wirtschaftsberater Kevin Hassett nannte KI-Sicherheit demnach ein „lösbares Problem“ – bewertete die Vorschläge von Amodei aber positiv. Sie seien „ein guter Schritt vorwärts“, sagte er beim Sender Fox News. Die oppositionellen Demokraten rief Ex-Präsident Barack Obama auf, politische Strategien zu entwickeln, um diesem Thema Priorität einzuräumen.

KI-Forscher aus Deutschland haben den Vorstoß von Amodei gegenüber dem Science Media Center begrüßt. „Besonders die Konstruktion von unabhängigen Kontrollinstanzen und externen Prüfstellen finde ich sinnvoll“, meint Jonas Geiping vom Max-Planck-Institut für Intelligente Systeme. „Die Richtung stimmt“, aber an der Umsetzung habe er Zweifel, ergänzt Thilo Hagendorff von der Universität Stuttgart.

Immerhin knüpfe Amodei sein Konzept an die Bedingung, dass die USA ihren Vorsprung vor China ausbauen: „Ein nationales KI-Wettrüsten und eine koordinierte Verlangsamung passen aber schlecht zusammen.“ Zudem gebe es viel zu wenig KI-Sicherheitsforschung. Kritik übt Philipp Hennig von der Eberhard Karls Universität Tübingen an der Geheimniskrämerei: „Wenn Amodei […] wirklich Sorgen um die Sicherheit des Internets, der globalen Wirtschaft oder gar des Menschheitsüberlebens hat, dann stehen ihm konkretere Optionen offen als die nebulöse Bitte um ‚demokratische und globale Koordination‘“, meint er.

Die Behauptung, dass es eine zehnprozentige Wahrscheinlichkeit gebe, dass KI die Menschheit auslöschen könnte, sehen die Forscher skeptisch. Geiping rät aber dazu, überzeugte Aussagen dazu aus beiden Richtungen mit Vorsicht zu genießen. Damit meint er Einschätzungen, dass es sich um pure Marketingtaktik der Firmen handelt und die Gefahr bei null Prozent liege, aber auch solche, die besagen, dass leistungsfähige KI zwangsläufig zur Apokalypse führt. Hagendorff ergänzt, dass die Prozentzahl scheinpräzise sei. Es gebe kein Verfahren, diese Wahrscheinlichkeit zu ermitteln, „die Zahl klingt nach Messung, ist aber ein spekulatives Bauchgefühl“. Sie war von dem Anthropic-Forscher Evan Hubinger in die Welt gesetzt worden.

(mho)

Der Konflikt zwischen der britischen Regierung und dem Tech-Riesen Apple wegen des Zugriffs auf verschlüsselte Nutzerdaten belastet die diplomatischen Beziehungen zwischen London und Washington. In einem ungewöhnlich scharfen Brief fordern der demokratische US-Senator Ron Wyden und der republikanische Kongressabgeordnete Warren Davidson das britische Sondergericht für Sicherheitsbehörden zu mehr Transparenz auf. Die Politiker werfen dem britischen Innenministerium vor, mit extremen Geheimhaltungsvorschriften die verfassungsmäßige Kontrollfunktion des US-Kongresses zu untergraben und so das Verhältnis der beiden verbündeten Nationen unnötig zu verschlechtern.

Der Ursprung der Auseinandersetzung reicht bis Anfang 2025 zurück, als das britische Innenministerium Apple auf Basis des umstrittenen Investigatory Powers Act eine „technische Befähigungsanordnung“ zustellte. Die Behörden verlangten von dem US-Konzern einen Mechanismus, mit dem verschlüsselte iCloud-Backups weltweit aufgedeckt werden könnten.

Apple reagierte rasch und zog im Folgemonat seine Funktion Advanced Data Protection (ADP) und die damit verbundene Ende-zu-Ende-Verschlüsselung für britische Nutzer zurück. Zugleich reichte das Unternehmen Beschwerde beim Investigatory Powers Tribunal (IPT) ein. Diese erste Klage verpuffte rechtlich aber, nachdem das Innenministerium die ursprüngliche Anordnung zurückzog und durch eine engere Anweisung ersetzte, die sich nur auf die Daten britischer Nutzer bezog.

Neuer Anlauf vor dem Geheimgericht

Im August legte Apple nach und reichte eine neue Beschwerde bei dem Geheimgericht ein. Darin stellt der iPhone-Bauer die Befugnis der britischen Regierung infrage, überhaupt derartige globale oder weitreichende Überwachungsanordnungen auszusprechen und es auch auf iCloud-Backups in unverschlüsselter Form abzusehen. Für diesen Monat ist eine entscheidende Anhörung zur Verfahrensführung angesetzt, weiß der Guardian. Auf diese Sitzung zielt der Brief der US-Politiker.

Bereits 2025 hatten Wyden und Davidson zusammen mit weiteren Abgeordneten das Gericht aufgefordert, das Verfahren öffentlich zu führen. Die damalige Intervention zeigte Wirkung: Wenige Wochen später lehnte das Tribunal den Antrag der Regierung ab, den Fall komplett geheim zu halten. Es entschied, dass zumindest die Grundzüge der Klage und die Namen der Parteien im Sinne einer transparenten Justiz veröffentlicht werden dürfen.

Der neue Vorstoß aus den USA hinterfragt wiederum die Verfahrensführung. Apple hatte den US-Kongress darüber informiert, dass das britische Innenressort ihm zwar erlaubt habe, die Spitze des US-Justizministeriums und dessen Stab über technische Details zu informieren. Für das gewählte Parlament in Washington bestehe dagegen weiter eine weitgehende Auskunftssperre.

Maulkorberlass geht gar nicht

Wyden und Davidson sehen darin einen unhaltbaren Übergriff. Es sei völlig unangemessen, dass eine ausländische Exekutive versuche, die Gewaltenteilung innerhalb der US-Regierung zu missbrauchen oder Geheimhaltungsanordnungen zu nutzen, um die verfassungsmäßigen Rechte des Kongresses auszuhebeln.

In ihrem Schreiben argumentiert das Duo auch mit britischer Verfassungstradition. Schon im 18. Jahrhundert habe William Pitt der Ältere das Parlament als oberstes Untersuchungsorgan der Nation bezeichnet. Kein Kabinett dürfe seine Entscheidungen der parlamentarischen Kontrolle entziehen. Die britische Regierung könne nicht zu Hause die parlamentarische Aufsicht loben und gleichzeitig auf Maulkörbe setzen, um die verfassungsmäßige Autorität des US-Kongresses zu beschneiden.

Ferner warnen die Politiker vor den Gefahren einer Aufweichung von Verschlüsselung: Das Schwächen von Sicherheitsarchitekturen schaffe kritische Einfallstore, die von feindlichen Staaten ausgenutzt werden könnten. Der Kongress werde beim Erfüllen seiner Pflicht zur Abwehr nationaler Sicherheitsrisiken eingeschränkt, wenn ausländische Knebelerlasse verhinderten, dass Tech-Konzerne Rede und Antwort stehen.

(nie)

In San Francisco sind kürzlich zwei Robotaxi-Mitfahrer verhaftet worden, nachdem das autonome Fahrzeug eine Waffe bei diesen erkannt hat. Offenbar haben zwei Jugendliche im Auto mit einem Sturmgewehr hantiert, sodass das Robotaxi auf den Seitenstreifen gefahren und die Polizei verständigt hat. Diese hat eine laut Polizeibericht „Verkehrskontrolle mit hohem Gefährdungspotenzial“ durchgeführt und die beiden Passagiere verhaftet.

Denn bei dem Sturmgewehr handelte es sich um eine illegale „Geisterwaffe“, selbst hergestellt und ohne Seriennummer. Seit 2022 geht die US-Regierung gegen Geisterwaffen vor, etwa Schusswaffen aus 3D-Druckern, da diese aufgrund fehlender Registrierung kaum nachzuverfolgen sind. Ende 2024 wurde ein US-Versicherungschef mit einer Tatwaffe ermordet, die laut Polizei teils aus dem 3D-Drucker kam.

Jugendliche mit illegaler Geisterwaffe im Robotaxi

Das hat sich bei den beiden Robotaxi-Passagieren allerdings erst im Nachhinein herausgestellt. Laut bei Facebook von der Polizeidienststelle in San Francisco veröffentlichtem Bericht wurden die Beamten am 3. September um kurz vor 4 Uhr nachts über zwei Mitfahrer eines autonomen Fahrzeugs informiert, die eine Waffe tragen würden. Bei dem Zugriff wurde ein geladenes Sturmgewehr sichergestellt, bei dem es sich um eine Geisterwaffe handelte. Zudem wurden bei der Durchsuchung der beiden Jugendlichen, einer männlichen und weiblichen Person, vermutetes Marihuana und Pfefferspray gefunden.

Die Polizei hat den Betreiber des Robotaxis nicht namentlich genannt, aber laut Los Angeles Times handelte es sich um Waymo. Ein Sprecher des Unternehmens bestätigte dies der Zeitung. Das Fahrzeug habe angehalten, weil ein „Verstoß gegen unsere Nutzungsbedingungen unter Verwendung einer Schusswaffe“ festgestellt wurde, erklärte der Waymo-Sprecher. Das Unternehmen verständigte die Behörden und arbeitet demnach vollumfänglich mit der Polizei zusammen.

Kameraüberwachung und KI-Training bei Waymo

Waymo-Robotaxis verfügen über Innenraumkameras, die vorwiegend dazu dienen, dass die Fahrgastregeln eingehalten werden, etwa die Anschnallpflicht. Auch können damit verlorene Gegenstände wiedergefunden und die Sauberkeit des Fahrzeugs kontrolliert werden. Laut Waymo werden die Kameras nicht durchgehend von Mitarbeitern beobachtet, die Aufnahmen laufen im Hintergrund. Sollte es jedoch zu Vorfällen kommen, werden die Aufzeichnungen zu Überprüfungen herangezogen.

Allerdings nutzt das Waymo-System auch künstliche Intelligenz bei der Innenraumüberwachung und so wurde wohl auch die Schusswaffe erkannt. Diese KI wird mit bisherigem Videomaterial trainiert. In Staaten mit strengen Datenschutzgesetzen wie etwa Kalifornien können Fahrgäste der Nutzung eigener Videoaufnahmen und Daten für das KI-Training aber auch widersprechen. Das dürfte auch in Deutschland möglich sein, wenn Waymo Ende 2027 den Betrieb in München aufnimmt.

(fds)