Kalifornien will Künstliche Intelligenz in Zukunft stärker regulieren. Ein entsprechendes Dekret unterzeichnete der demokratische Gouverneur des US-Bundesstaats Gavin Newsom am Montag. Damit widersetzt sich die kalifornische Regierung der Forderung Trumps, die KI-Branche so weit wie möglich zu deregulieren.

Dem Dekret zufolge haben die kalifornischen Behörden rund vier Monate Zeit, um Empfehlungen für KI-Richtlinien vorzulegen. Ziel der neuen Standards für KI-Unternehmen soll es sein, die öffentliche Sicherheit zu priorisieren und die Rechte und die Privatsphäre der Bürgerinnen und Bürger zu schützen.

Missbrauch von KI verhindern

Kalifornien gilt als das globale Zentrum der KI-Innovation. In dem US-Bundesstaat sind 33 der weltweit 50 führenden KI-Unternehmen ansässig. Der Erlass von Newsom betrifft nun diejenigen KI-Unternehmen, die Geschäftsbeziehungen mit dem Bundesstaat Kalifornien pflegen.

In Zukunft sollen sie nachweisen müssen, dass sie über Richtlinien und Sicherheitsvorkehrungen verfügen, die einen Missbrauch ihrer Technologien verhindern. Der Erlass nennt dabei explizit die Verbreitung illegaler Inhalte, beispielsweise nicht einvernehmlicher intimer Aufnahmen oder Darstellungen von Kindesmissbrauch. Außerdem müssen KI-Unternehmen künftig darlegen, wie sie den Bias ihrer KI-Modelle verringern. Zudem werden sie verpflichtet, Richtlinien zu entwickeln, die die Bürgerrechte schützen und „eine rechtswidrige Diskriminierung, Inhaftierung und Überwachung“ verhindern.

Der Erlass sieht des Weiteren vor, dass der Bundesstaat Kalifornien Verfahren entwickelt, mit denen KI-generierte oder -bearbeitete Bilder und Videos eindeutig gekennzeichnet werden können.

Klares Signal an Trump

Der aktuelle Erlass des kalifornischen Gouverneurs Newsom widersetzt sich klar dem Willen Trumps. Der US-Präsident will eine Regulierung von KI-Anwendungen auf der Ebene der Bundesstaaten eigentlich verhindern. Erst im Dezember vergangenen Jahres hatte Trump ein Dekret erlassen, in dem er ein nationales politisches Rahmenwerk für den Umgang mit Künstlicher Intelligenz formulierte.

„Um erfolgreich zu sein, müssen US-amerikanische KI-Unternehmen die Freiheit haben, ohne lästige Vorschriften innovativ zu sein“, heißt es in Trumps Dekret. Übermäßige staatliche Regulierung stehe diesem Gebot im Weg.

Trumps Erlass von vergangenem Dezember wies das Justizministerium zudem an, eine „Taskforce für KI-Rechtsstreitigkeiten“ einzurichten. Die seit vergangenem Januar bestehende Taskforce soll Regulierungsbestrebungen der US-Bundesstaaten im Bereich KI anfechten.

(rah)

Lieber nicht in den USA: Eine Gruppe von Mathematikern hat dazu aufgerufen, den International Congress of Mathematicians (ICM) im Juli nicht wie vorgesehen in Philadelphia abzuhalten. Grund ist die aktuelle politische Situation.

Ein Grund sei „Amerikas Rolle bei der Destabilisierung der Welt durch ausgedehnte Angriffe“, schreiben die Mathematiker in einer Petition, in der sie die Verlegung des ICM fordern. Dazu gehörten die Entführung des venezolanischen Präsidenten Nicolás Maduro und „ein dreister und gedankenloser Krieg gegen den Iran“ ebenso wie die unrechtmäßigen Tötungen von Menschen in der Karibik, die Unterstützung des israelischen Vorgehens gegen die Palästinenser sowie die Drohungen gegen Kuba und Grönland.

Auch die innenpolitische Situation spreche gegen eine Konferenz in Philadelphia: „Die derzeitige US-Regierung hat ihren ungezügelten Hass auf Einwanderer unmissverständlich gezeigt.“ Es sei zu befürchten, dass den Wissenschaftlern die Einreise in das Land verweigert werde – die US-Behörden verweigern Bürgern aus über 70 Ländern ein Visum. Beamte des Grenzschutzes und des ICE töteten und misshandelten Menschen.

Diskriminierung und Gewalt befürchtet

Zu der Konferenz seien Mathematiker aus aller Welt eingeladen, „Menschen, die für einen ICE-Beamten vielleicht nicht so aussehen, als ‚gehörten sie dazu’“. Diese Menschen könnten Diskriminierungen und physischer Gewalt ausgesetzt sein.

Damit disqualifiziere sich die aktuelle US-Regierung als Gastgeber für den ICM. Das Ziel des ICM sei, ein Gefühl internationaler Einigkeit unter Mathematikern zu erwecken. Wenn die Konferenz wie geplant in den USA stattfinde, „würde die IMU nach ihren eigenen Maßstäben völlig versagen“, resümiert die Petition.

Der ICM findet alle vier Jahre statt und bringt Mathematiker aus der ganzen Welt zusammen. Er wurde erstmals 1897 in Zürich abgehalten; der letzte ICM in den USA fand 1986 statt. Beim ICM werden auch eine Reihe von Auszeichnungen verliehen, darunter die Fields-Medaille, die höchste Auszeichnung in der Mathematik.

Franzosen haben bereits abgesagt

Über 1800 Mathematikerinnen und Mathematiker haben die Petition unterzeichnet und sich damit verpflichtet, nicht am ICM teilzunehmen, sollte dieser in Philadelphia stattfinden. Zum Vergleich: Der Kongress 1998 in Berlin hatte über 3300 Teilnehmer, der in Madrid 2006 rund 4500. Die französische mathematische Gesellschaft hat bereits im Januar angekündigt, einem Kongress in Philadelphia fernzubleiben.

Die Konferenz zu verlegen, wäre kein Präzedenzfall: 2022 sollte der ICM in St. Petersburg in Russland stattfinden. Doch nach dem Angriffskrieg gegen die Ukraine sowie im Hinblick auf die politische Situation im Land, insbesondere der fehlenden politischen Freiheiten und des Vorgehens gegen die LGBT-Community, entschlossen sich die Mathematiker damals, den Kongress online durchzuführen. Eine Eröffnungszeremonie sowie die Verleihung der Fields-Medaille fanden in Helsinki statt.

„Angesichts der damaligen Entscheidung gibt es einfach kein stichhaltiges Argument, dass internationale Teilnehmer bei dieser Ausgabe des ICM sicherer sind, als sie es 2022 in Russland gewesen wären“, schreiben die Initiatoren in der Petition.

(wpl)

Tiktok muss seine Webseite für Nutzer in Deutschland umprogrammieren, urteilt das Oberlandesgericht Bamberg (OLG). Die aktuelle Gestaltung verstößt mehrfach gegen die als DSA (Digital Services Act, auch Gesetz über digitale Dienste) bekannte EU-Verordnung. Tiktok muss es Nutzern leicht machen, die Nutzung personenbezogener Daten für die Auswahl der vorgesetzten Videos auszuschalten.

Außerdem muss die Meldung rechtswidriger Inhalte benutzerfreundlich gestaltet werden. Beides ist laut dem von der Verbraucherzentrale Bayern erstrittenen Urteil ( 3 UKl 5/25 e) nicht gegeben, obwohl der DSA das in Artikel 38 respektive 16 vorschreibt.

Da der Fall grundsätzliche Bedeutung hat, es zu den relevanten Rechtsfragen aber noch keine Rechtsprechung gibt, hat das OLG in seinem erstinstanzlichen Endurteil vom 18. März die Revision zum Bundesgerichtshof zugelassen. Tiktok wird das wohl in Anspruch nehmen und hat seine Webseite bisher nicht verbessert. TikToks Anregung, bestimmte Rechtsfragen zuerst dem Europäischen Gerichtshof (EuGH) vorzulegen, hat das Gericht nicht aufgegriffen.

TikTok will sich dem Verfahren nicht stellen

Im Prozess hat TikTok zunächst versucht, der Verbraucherzentrale die Berechtigung zur Klageführung abzustreiten. Der DSA diene der Wettbewerbsregulierung und nicht dem Verbraucherschutz; zudem sei ausschließlich die Europäische Kommission zur Durchsetzung befugt, und diese habe an der Webseite nichts ausgesetzt. Und überhaupt würden auch Nicht-Verbraucher die Webseite aufrufen.

Diese Argumente griffen beim OLG Bamberg nicht. Einerseits seien die für die Klage relevanten Passagen des DSA eindeutig verbraucherschützend, andererseits gebe das deutsche Gesetz über Unterlassungsklagen bei Verbraucherrechts- und anderen Verstößen (UKlaG) der Verbraucherzentrale ausdrücklich das Recht, wegen Verstößen gegen solche DSA-Passagen vor Gericht zu ziehen. Die Regelung des DSA, wonach die EU-Kommission für die Durchsetzung zuständig sei, diene der Abgrenzung gegenüber anderen Verwaltungsbehörden, schließe aber Gerichtsverfahren nach dem UKlaG nicht aus.

Interface-Tricks

Nutzer haben gemäß Artikel 38 DSA das Recht, TikTok zu verbieten, seinem Algorithmus ein Profil aus personenbezogenen Daten zu füttern. Diese Option hat TikTok allerdings ausnehmend gut versteckt. Nutzer müssen mit der rechten Maustaste auf ein Video oder ein beworbenes Produktbild klicken, und dann im Kontextmenü „Feed verwalten“ auswählen.

Dieser Weg ist alles andere als naheliegend. Beim Versuch der Redaktion ist das Kontextmenü auch nur in einem von drei Webbrowsern aufgetaucht; die anderen beiden Browser zeigten ihr eigenes Kontextmenü. Und über jene TikTok-Menüs, die über die bekannten drei Punkte aufgerufen werden können, ist die Datenschutz-Option nicht zu finden. Damit sei die De-Personalisierungsfunktion auf Tiktoks Webseite zwar unmittelbar, aber nicht leicht zugänglich, was die Vorgaben des DSA verletzt.

Die Meldung rechtswidriger Inhalte gemäß DSA ist sehr wohl über das Drei-Punkte-Menü im rechten oberen Eck des jeweiligen Videos erreichbar – allerdings gut versteckt. Zunächst muss „Melden“ ausgewählt werden, was eine Reihe von Auswahlmöglichkeiten beschert. Darunter „Hass und Belästigung“, „Betrug und Schwindel“ oder „Fälschungen und geistiges Eigentum“, was ja durchaus rechtswidrige Tatbestände sind.

Nur so wird korrekt gemeldet

Doch wer meint, damit eine Meldung gemäß Artikel 16 DSA erstattet zu haben, irrt. TikTok betrachtet dies lediglich als Hinweis auf einen Verstoß gegen die eigenen Richtlinien und setzt nicht die im DSA vorgesehenen Maßnahmen. Nutzer können keine Begründung hinzufügen und auch keine Kontaktdaten beifügen. Damit entfallen nicht nur die Empfangsbestätigung und Information über die Entscheidung über die Meldung, sondern TikTok wähnt sich auch haftungsfrei. Nur bei Meldungen nach Artikel 16 DSA gilt TikTok formalrechtlich als in Kenntnis gesetzt und muss gegebenenfalls Maßnahmen ergreifen.

Nur wer in dem Menü unter den Seitenumbruch hinunterscrollt und „Widerrechtlichen Inhalt melden“ auswählt, kann nähere Informationen und seine Kontaktdaten hinzufügen. Das erschließt sich aber erst, nachdem man das ausgewählt hat. „Faktisch hängt es daher häufig vom Zufall ab, welche Schaltfläche der Nutzer betätigt und demnach auch, ob er ein den Anforderungen des Art 16 DSA genügendes Meldeverfahren in die Wege leitet“, begründet der OLG sein Unterlassungsurteil. „Die Auffindung dieses Meldeverfahrens wird dem Nutzer daher durch die Ausgestaltung in einer Weise erschwert, dass sie entgegen der Vorgabe der Benutzerfreundlichkeit mit Unannehmlichkeiten verbunden ist.“

(ds)