SB 53: Kalifornien hat ein neues KI-Gesetz

Obwohl Donald Trump jegliche Regulierung untersagt hat, die zulasten von KI-Unternehmen gehen könnte, gibt es in Kalifornien nun ein neues KI-Gesetz. Es ist bei weitem nicht das einzige Gesetz, das in den USA KI reguliert, aber es ist neu und richtet sich konkret an KI-Unternehmen, von denen die meisten ihren Sitz in San Francisco, Kalifornien haben.

SB 53 ist bereits das zweite Gesetzesvorhaben in Kalifornien, das KI regulieren sollte. Der erste Entwurf wurde vom Gouverneur allerdings abgelehnt. Nun hat Gavin Newsom Version zwei unterzeichnet, nachdem es bereits von der State Legislature, also so etwas wie dem kalifornischen Landtag, verabschiedet wurde. Damit wird das Gesetz gültig. Newsom hat dazu in einer Stellungnahme gesagt: „Kalifornien hat bewiesen, dass man Regulation einführen kann, um die Gemeinschaft zu schützen, während die KI-Industrie weiter wächst.“

Es geht in dem Gesetz vor allem um Transparenz-Anforderungen an KI-Anbieter. Und hier um die Sicherheitsvorkehrungen, die OpenAI, Meta, Anthropic, Google und Co. für ihre KI-Modelle treffen. Zuletzt gab es zahlreiche Berichte über vermeintliche Beziehungen von Menschen zu Chatbots und auch dazu, dass Chatbots Kindern und Jugendlichen schaden können. OpenAI hat daraufhin erst kürzlich neue Sicherheitsmechanismen und einen Elternmodus eingeführt.

Zudem besagt SB 53, dass Sicherheitsvorfälle und Vorfälle im Zusammenhang mit Straftaten von den KI-Unternehmen gemeldet werden müssen. Dazu gehört etwa betrügerisches Verhalten eines KI-Modells selbst. Etwas, das nicht mal der europäische AI Act vorschreibt. Außerdem gibt es einen gesetzlichen Schutz für Whistleblower der KI-Unternehmen.

KI-Anbieter lobbyieren gegen KI-Regulierung

Die Reaktionen auf das Gesetz sind freilich vonseiten der KI-Anbieter eher negativ. Grundsätzlich wird schon lange kritisiert, dass in den USA zu viele verschiedene Gesetze in den einzelnen Bundesstaaten KI regulieren – und sich dabei zum Teil widersprechen. Das kalifornische KI-Gesetz droht freilich laut KI-Anbietern Innovation zu verhindern. Das wiederum sei vor allem im Wettrennen mit China für die US-Wirtschaft schädlich, heißt es aus Lobbykreisen. Dabei hatte zuletzt etwa Meta eine Interessengruppe extra für Kalifornien gegründet, die Newsoms Unterschrift offenbar verhindern sollte. Auch in den anderen Bundesstaaten gibt es solche PACs (Political Action Committee).

In Kalifornien liegt sogar noch ein weiterer Gesetzestext vor, der von Demokraten und Republikanern unterstützt wird. Darin geht es um die Chatbots, die explizit einen Freundschaftsmodus haben. Es werden auch hier Sicherheitsmechanismen verlangt, außerdem sieht das Gesetz vor, dass KI-Anbieter haftbar gemacht werden können, wenn die Mechanismen nicht greifen.

In New York wartet ein ähnlicher Gesetzesvorschlag wie SB 53 auf die dortige Gouverneurin, Kathy Hochul. In Texas wendet sich vor allem der Generalstaatsanwalt Ken Paxton gegen KI-Unternehmen. Ihm geht es um die Sicherheit von Kindern und Jugendlichen.

(emw)