KI-Sicherheitsexperte kündigt bei Anthropic und sagt: Die Welt ist in Gefahr

Ein leitender Sicherheitsforscher für Künstliche Intelligenz hat die KI-Firma Anthropic verlassen, weil er die Welt in Gefahr sieht. Mrinank Sharma begründet diese kryptische Warnung aber nicht nur mit der Entwicklung von KI, sondern auch mit biologischen Waffen und aktuellen globalen Krisen. In einem Abschiedsbrief an Kollegen nach seiner Kündigung erwähnt er aber auch den von ihm verspürten Druck innerhalb Anthropics, was beiseiteschieben würde, was wirklich zählt. Sharma will nun für eine Weile untertauchen und sich der Poesie widmen.

Die Kündigung Sharmas erfolgte nur einen Tag, bevor eine KI-Forscherin OpenAI verließ. Zoe Hitzig begründete ihren Abschied vom Anthropic-Konkurrenten allerdings damit, dass ChatGPT in den USA Werbung einführt. „OpenAI verfügt über die detaillierteste jemals zusammengetragene Aufzeichnung privater menschlicher Gedanken“, schreibt sie bei X. „Können wir darauf vertrauen, dass sie den Versuchungen widerstehen, diese Aufzeichnungen zu missbrauchen?“

Warnung vor Abhängigkeit von KI

Hitzig verwies auf „frühe Warnsignale“, die darauf hindeuten würden, dass die Abhängigkeit von KI-Tools „besorgniserregend“ sei. Ähnlich wie soziale Netzwerke könnte dies die psychische Gesundheit der Nutzer beeinträchtigen und sogar zu Wahnvorstellungen führen. „Es ist wirklich gefährlich, einen Wirtschaftsmotor zu schaffen, der davon profitiert, solche neuen Beziehungen zu fördern, bevor wir sie verstehen“, sagte sie im Gespräch mit der BBC.

OpenAI wiegelte jedoch ab und erklärte der BBC: „Unsere Mission ist es, sicherzustellen, dass AGI (Künstliche allgemeine Intelligenz, Anm. der Red.) der gesamten Menschheit zugutekommt; unser Werbeengagement dient stets der Unterstützung dieser Mission und dem Ziel, KI zugänglicher zu machen.“ Weiter hieß es seitens der KI-Firma: „Wir behandeln Ihre Gespräche mit ChatGPT vertraulich und verkaufen Ihre Daten niemals an Werbetreibende.“

KI-Firmen stellen eigene Werte infrage

Zwar begründen die ehemaligen Mitarbeiter der hochrangigen KI-Firmen ihre Kündigungen unterschiedlich, Hitzig und Sharma haben aber ähnliche Bedenken. Auch der Ex-Angestellte Anthropics hat nach eigenen Angaben „immer wieder gesehen, wie schwer es ist, unsere Werte wirklich unser Handeln bestimmen zu lassen“. Denn die von den Start-ups angebotene KI kann nicht nur zu nützlichen Zwecken verwendet werden, Claude von Anthropic wurde auch von Cyberkriminellen missbraucht, wie die KI-Firma selbst darstellt. Allerdings gibt es auch Zweifel an dieser autonomen KI-Cyberattacke.

Jedenfalls ist es laut Mrinank Sharma „Zeit weiterzuziehen“, obwohl er seine Zeit bei Anthropic genossen habe. Denn „die Welt ist in Gefahr“, schreibt er bei X. „Und zwar nicht nur durch KI oder Biowaffen, sondern durch eine ganze Reihe miteinander verbundener Krisen, die sich in diesem Augenblick entfalten.“ Sharma wird nach eigener Aussage nach Großbritannien zurückkehren und „für eine gewisse Zeit unsichtbar werden“. Statt sich mit KI zu beschäftigen, hofft er, „ein Poesiestudium beginnen zu können“.

(fds)