Connect with us

Künstliche Intelligenz

Kalifornien wird zum Vorreiter der KI-Regulierung


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Kalifornien will Künstliche Intelligenz in Zukunft stärker regulieren. Ein entsprechendes Dekret unterzeichnete der demokratische Gouverneur des US-Bundesstaats Gavin Newsom am Montag. Damit widersetzt sich die kalifornische Regierung der Forderung Trumps, die KI-Branche so weit wie möglich zu deregulieren.

Weiterlesen nach der Anzeige

Dem Dekret zufolge haben die kalifornischen Behörden rund vier Monate Zeit, um Empfehlungen für KI-Richtlinien vorzulegen. Ziel der neuen Standards für KI-Unternehmen soll es sein, die öffentliche Sicherheit zu priorisieren und die Rechte und die Privatsphäre der Bürgerinnen und Bürger zu schützen.

Kalifornien gilt als das globale Zentrum der KI-Innovation. In dem US-Bundesstaat sind 33 der weltweit 50 führenden KI-Unternehmen ansässig. Der Erlass von Newsom betrifft nun diejenigen KI-Unternehmen, die Geschäftsbeziehungen mit dem Bundesstaat Kalifornien pflegen.

In Zukunft sollen sie nachweisen müssen, dass sie über Richtlinien und Sicherheitsvorkehrungen verfügen, die einen Missbrauch ihrer Technologien verhindern. Der Erlass nennt dabei explizit die Verbreitung illegaler Inhalte, beispielsweise nicht einvernehmlicher intimer Aufnahmen oder Darstellungen von Kindesmissbrauch. Außerdem müssen KI-Unternehmen künftig darlegen, wie sie den Bias ihrer KI-Modelle verringern. Zudem werden sie verpflichtet, Richtlinien zu entwickeln, die die Bürgerrechte schützen und „eine rechtswidrige Diskriminierung, Inhaftierung und Überwachung“ verhindern.

Der Erlass sieht des Weiteren vor, dass der Bundesstaat Kalifornien Verfahren entwickelt, mit denen KI-generierte oder -bearbeitete Bilder und Videos eindeutig gekennzeichnet werden können.

Weiterlesen nach der Anzeige

Der aktuelle Erlass des kalifornischen Gouverneurs Newsom widersetzt sich klar dem Willen Trumps. Der US-Präsident will eine Regulierung von KI-Anwendungen auf der Ebene der Bundesstaaten eigentlich verhindern. Erst im Dezember vergangenen Jahres hatte Trump ein Dekret erlassen, in dem er ein nationales politisches Rahmenwerk für den Umgang mit Künstlicher Intelligenz formulierte.

„Um erfolgreich zu sein, müssen US-amerikanische KI-Unternehmen die Freiheit haben, ohne lästige Vorschriften innovativ zu sein“, heißt es in Trumps Dekret. Übermäßige staatliche Regulierung stehe diesem Gebot im Weg.

Trumps Erlass von vergangenem Dezember wies das Justizministerium zudem an, eine „Taskforce für KI-Rechtsstreitigkeiten“ einzurichten. Die seit vergangenem Januar bestehende Taskforce soll Regulierungsbestrebungen der US-Bundesstaaten im Bereich KI anfechten.


(rah)



Source link

Künstliche Intelligenz

KI-Papers bei arXiv: Sperre bei erstem Verstoß


Erst im November hatte die offene Plattform arXiv neue Regeln für Inhalte aus LLMs vorgelegt, nun gibt es noch härtere Sanktionen. Für eine Vielzahl von unwissenschaftlichen Methoden bei den dort veröffentlichten Papers kann eine sofortige Sperre von einem Jahr verhängt werden. Und wenn eine so aufgefallene Person danach Arbeiten einreicht, werden diese erst publiziert, wenn sie bei einem anderen renommierten wissenschaftlichen Medium schon erschienen, oder für einen Vortrag bei einer entsprechenden Konferenz angenommen wurden.

Weiterlesen nach der Anzeige

ArXiv dreht in diesen Fällen sein bisheriges Vorgehen um. Seit über drei Jahrzehnten ist die Plattform unter Wissenschaftlern vor allem deswegen beliebt, weil eine Veröffentlichung wie ein Paper oder eine Studie nicht erst „peer reviewed“ sein muss. Dem aufwändigen Prozess, bei dem in der Regel über Monate Personen aus dem selben Fachgebiet die Inhalte prüfen, konnte man so – zumindest vorübergehend – entgehen. Bei den Veröffentlichungen handelt es sich dann um „Preprints“, was historisch für noch nicht gedrucktes Material steht. Fast drei Millionen solcher Preprints hat arXiv seit 1991 veröffentlicht.

Offenbar wird diese Möglichkeit im Zeitalter von Künstlicher Intelligenz zunehmend missbraucht, und zwar über alle Fachbereiche hinweg. Ende 2025 galt zunächst, dass für Computerwissenschaften beziehungsweise Informatik immer ein peer review gefordert ist und das Paper bei einer Konferenz oder einem Journal akzeptiert worden sein muss. Nun gilt das, bei einem KI-Verstoß, auch für alle anderen Bereiche. Dabei gibt es keine Verwarnung, aber auch menschliche Prüfung. Wie Thomas Dietterich, Leiter der Abteilung für Computerwissenschaften bei arXiv, 404 Media sagte, muss ein Verstoß von einem der Moderatoren von arXiv dokumentiert und intern bestätigt werden, bevor eine Sperre erfolgt. Es gibt auch die Möglichkeit des Einspruchs, also gegebenenfalls zumindest eine zweite Prüfung.

Die Sperren sollen auch nur, wie Dietterich bei X schrieb, bei „unwiderlegbaren Beweisen“ für falsche Nutzung von KI im Kontext von Wissenschaft verhängt werden. Dabei, so schreibt er auf der Plattform in einem Thread, ist der Autor eines Papers stets für dessen gesamten Inhalt verantwortlich. Wenn man aber etwa Falschbehauptungen aus einem LLM finde, „bedeutet das, dass wir dem ganzen Paper nicht vertrauen können“, so Dietterich.

Zu den Verstößen, die geahndet werden können, zählen laut Dietterichs Beiträgen bei X „unangemessene Sprache, plagiiertes Material, voreingenommene Inhalte, Fehler, Irrtümer, fehlerhafte Referenzen oder irreführende Inhalte“. Vor allem der vorletzte Punkt der Aufzählung ist in vermeintlich wissenschaftlichen Arbeiten schon häufiger aufgefallen. LLMs „halluzinieren“ frei erfundene Quellen herbei, um ihre Behauptungen aufrechterhalten zu können.

Weiterlesen nach der Anzeige

Die Änderungen bei arXiv dienen offenbar nicht nur dem Bemühen um ordentliches wissenschaftliches Arbeiten. Bisher wird das Projekt vorwiegend von Cornell Tech, einer Sparte der Cornell University in New York City betrieben. Ab 1. Juli 2026 soll arXiv aber als gemeinnütziges Unternehmen ausgegliedert werden. Solche Organisationen sind in den USA vorwiegend auf Spenden angewiesen, wofür der gute Ruf besonders wichtig ist. Cornell wurde, wie zahlreiche andere Universitäten, im April 2025 durch die Trump-Regierung durch Zurückhalten von Forschungsgeldern von vier Milliarden US-Dollar sanktioniert. Seitdem wehren sich die Universitäten zwar vor Gericht, Projekte wie arXiv suchen parallel nach neuen Finanzierungen.


(nie)



Source link

Weiterlesen

Künstliche Intelligenz

Finanzielle Ratschläge von ChatGPT – wenn man sein Bankkonto verknüpft


US-Nutzer können ChatGPT jetzt mit ihren Bankkonten verbinden. Das KI-Tool wertet dann Geldflüsse mit eigenen Dashboards aus und gibt finanzielle Ratschläge. OpenAI bietet das Tool zurzeit testweise für Nutzer seines Pro-Abonnements an, später soll die Funktion auch auf andere Abomodelle ausgerollt werden.

Weiterlesen nach der Anzeige

Über den Dienst Plaid und bald auch über Intuit können ab sofort Konten von über 12.000 Finanzinstituten mit ChatGPT verbunden werden. ChatGPT kann laut OpenAI dann auf Kontostände, Transaktionen, Anlagen und Verbindlichkeiten zugreifen – aber keine vollständigen Kontonummern einsehen, Überweisungen oder andere Änderungen vornehmen. Für verbundene Konten liefert ChatGPT ein Dashboard, das beispielsweise Ausgaben, Abonnements oder anstehende Zahlungen beinhaltet.

Mit „@Finances“ können Nutzer die neue Finanzfunktion in ihren Prompts aktivieren, Antworten darauf enthalten dann beispielsweise grafische Auswertungen und echte Ausgabenübersichten basierend auf den verbundenen Bankkonten.

Wenn ChatGPT vom Nutzer weitere Infos über die aktuelle finanzielle Situation erhält, seien es anstehende Ratenzahlungen, Sparziele oder Ähnliches, landen diese in einem speziellen Finanz-Gedächtnis des LLMs. ChatGPT kann diese Informationen dann bei zukünftigen „@Finance“-Anfragen berücksichtigen, ansonsten bleiben sie außen vor.

Unter der Haube steckt OpenAIs neues Reasoning-Modell ChatGPT 5.5 Thinking, welches bei einem eigens für die Finanzfunktion entwickelten internen Benchmark am besten abschnitt. Der Benchmark wurde laut OpenAI gemeinsam mit Finanzexperten entwickelt. Aber trotzdem gilt natürlich: Die neue Finance-Funktion von ChatGPT ist kein Ersatz für eine professionelle Finanzberatung. KI-Modelle können Fehler machen, neigen zu Halluzinationen und berücksichtigen möglicherweise wichtige Kontextinformationen nicht, welche der Nutzer nicht mitliefert.

Lesen Sie auch


(nen)



Source link

Weiterlesen

Künstliche Intelligenz

Digitale Souveränität: Wie Europa Chinas Griff nach Seltenen Erden brechen kann


Eine neue Untersuchung des Büros für Technikfolgen-Abschätzung beim Bundestag (TAB) analysiert strukturelle Abhängigkeiten von Seltenen Erden und zeigt Auswege für eine resilientere Versorgung auf. Diese Rohstoffe stecken in fast allem, was die digitale und grüne Transformation antreibt: von leistungsstarken Permanentmagneten in Offshore-Windkraftanlagen und Elektromotoren über Festplatten bis hin zu Glasfasernetzen und hochmoderner Militärtechnik wie Kampfjets oder Lenkwaffen. Im Zuge von Digitalisierung, Dekarbonisierung und demografischem Wandel nimmt der Bedarf stark zu. Doch die geografische Verteilung der Reserven offenbart ein Dilemma, da sich rund die Hälfte der weltweiten Vorkommen in China befindet.

Weiterlesen nach der Anzeige

Noch gravierender als die reine Förderung im Bergbau wiegt laut dem Papier die asiatische Dominanz bei der technologisch anspruchsvollen Raffination und Weiterverarbeitung. Hier kontrolliert die Volksrepublik demnach rund 90 Prozent der globalen Wertschöpfung.

Wie verletzlich die westliche Industrie ist, zeigt der Blick auf Importdaten. Deutschland bezieht fast die Hälfte der frühen Verarbeitungsstufen und sogar 84 Prozent der weiterverarbeiteten Metalle der Seltenen Erden direkt aus China. Eine Bevorratung im großen Stil scheitert bisher an der chemischen Instabilität und Toxizität der verarbeiteten Zwischenprodukte. Das Reich der Mitte nutzt diese Marktmacht strategisch und hat in den vergangenen Jahren immer wieder restriktive Ausfuhrverbote für Trenn- und Verarbeitungstechnologien erlassen, um die globale Wertschöpfungskette zu kontrollieren und auf Handelskonflikte mit den USA zu reagieren.

Als politischer Schutzschirm soll der Critical Raw Materials Act der EU dienen. Die Verordnung gibt ehrgeizige Zielmarken bis 2030 vor: Mindestens 10 Prozent des heimischen Verbrauchs sollen aus europäischem Bergbau stammen, 40 Prozent aus eigener Raffination und mindestens 25 Prozent über das Recycling abgedeckt werden. Zudem darf kein Drittland mehr als 65 Prozent des Jahresbedarfs eines kritischen Rohstoffs liefern. Doch die Realität hinkt den Ambitionen hinterher. Von der ersten Erkundung einer Mine bis zur tatsächlichen Produktion vergehen im Bergbau üblicherweise Jahrzehnte. Außerhalb Chinas existieren derzeit auch nur sehr wenige weit fortgeschrittene Projekte.

Die TAB-Studie macht deutlich, dass ein bloßes Hoffen auf neue Minen in politisch befreundeten Ländern zu kurz greift. Vielmehr müssten verschiedene Maßnahmen verzahnt werden, um echte Rohstoffsouveränität zu erlangen. Die Autoren raten daher – ähnlich wie Berater in einer Studie für den BDI – zu einem umfangreichen Ausbau der Kreislaufwirtschaft. Das Potenzial sei groß, da in den kommenden Jahren immer mehr Elektroautos und Windräder das Ende ihres Lebenszyklus erreichten.

Um diese wertvollen Altmagnete effizient zurückzugewinnen, fordern die Experten verbesserte Sammel- und Rücknahmestrukturen sowie eine Ausweitung der Herstellerverantwortung. Digitale Produktpässe könnten exakte Informationen über die verbauten Materialien liefern und die Sortierung erleichtern. Bislang krankt das europäische Recycling aber an einem fehlenden geschlossenen System: Weil Raffinationskapazitäten fehlen, müssen sekundäre Rohstoffe für die finale Trennung oft erst wieder nach China exportiert werden.

Weiterlesen nach der Anzeige

Ein zweiter Pfeiler ist den Verfassern zufolge die Substitutionsforschung. Da die stoffliche Rückgewinnung oft energie- und umweltintensiv sei, gewinne das Vermeiden kritischer Materialien an Bedeutung. Die Forschung konzentriert sich vor allem auf die Nanostrukturierung, um den Einsatz schwerer Materialien wie Dysprosium oder Terbium in Permanentmagneten zu reduzieren oder diese durch künstliche Alternativen wie Tetrataenit oder Hochtemperatursupraleiter zu ersetzen.

Um die wirtschaftlichen Durststrecken bis zur Etablierung dieser Technologien zu überbrücken, diskutiert das TAB flankierende marktgestaltende Maßnahmen. Da europäische Rezyklate aufgrund hoher Umwelt- und Lohnstandards derzeit teurer sind als chinesische Primärware, könnten staatlich garantierte Referenzpreise oder der europäische CO2-Grenzausgleich Schutz bieten. Die Forscher empfehlen auch den Aufbau strategischer Rohstoffreserven als Brückeninstrument gegen extreme Preisvolatilitäten.

In drei Übersichten wagen die Autoren einen Ausblick auf das Jahr 2035. Im düstersten Fall einer blockierten Souveränitätswende spaltet sich die Welt demnach in isolationistische Blöcke auf, wodurch sich Chinas Dominanz festigt und Europas Unabhängigkeit scheitert. Eine fragmentierte Wende brächte zwar punktuelle Erfolge durch mühsam verhandelte Rohstoffpartnerschaften, ließe den alten Kontinent aber anfällig für Lieferkettenabrisse.

Erst das Szenario einer proaktiven Souveränitätswende verspricht Erfolg: Durch ein frühzeitiges, konsequentes Setzen auf Recycling, Substitution und eine europäische Sicherheitsreserve könnte die EU geopolitischen Erpressungen dauerhaft trotzen, da sich ein Großteil der benötigten Rohstoffe bereits im eigenen Hoheitsgebiet im Kreislauf befindet. Einzelne Maßnahmen verpuffen. Nur ein integrierter Ansatz, der Primärförderung, Recycling und Substitution zusammendenkt, kann laut dem TAB Europas technologische Zukunft sichern.

Lesen Sie auch


(nie)



Source link

Weiterlesen

Beliebt