Connect with us

Künstliche Intelligenz

KI-Papers bei arXiv: Sperre bei erstem Verstoß


Erst im November hatte die offene Plattform arXiv neue Regeln für Inhalte aus LLMs vorgelegt, nun gibt es noch härtere Sanktionen. Für eine Vielzahl von unwissenschaftlichen Methoden bei den dort veröffentlichten Papers kann eine sofortige Sperre von einem Jahr verhängt werden. Und wenn eine so aufgefallene Person danach Arbeiten einreicht, werden diese erst publiziert, wenn sie bei einem anderen renommierten wissenschaftlichen Medium schon erschienen, oder für einen Vortrag bei einer entsprechenden Konferenz angenommen wurden.

Weiterlesen nach der Anzeige

ArXiv dreht in diesen Fällen sein bisheriges Vorgehen um. Seit über drei Jahrzehnten ist die Plattform unter Wissenschaftlern vor allem deswegen beliebt, weil eine Veröffentlichung wie ein Paper oder eine Studie nicht erst „peer reviewed“ sein muss. Dem aufwändigen Prozess, bei dem in der Regel über Monate Personen aus dem selben Fachgebiet die Inhalte prüfen, konnte man so – zumindest vorübergehend – entgehen. Bei den Veröffentlichungen handelt es sich dann um „Preprints“, was historisch für noch nicht gedrucktes Material steht. Fast drei Millionen solcher Preprints hat arXiv seit 1991 veröffentlicht.

Offenbar wird diese Möglichkeit im Zeitalter von Künstlicher Intelligenz zunehmend missbraucht, und zwar über alle Fachbereiche hinweg. Ende 2025 galt zunächst, dass für Computerwissenschaften beziehungsweise Informatik immer ein peer review gefordert ist und das Paper bei einer Konferenz oder einem Journal akzeptiert worden sein muss. Nun gilt das, bei einem KI-Verstoß, auch für alle anderen Bereiche. Dabei gibt es keine Verwarnung, aber auch menschliche Prüfung. Wie Thomas Dietterich, Leiter der Abteilung für Computerwissenschaften bei arXiv, 404 Media sagte, muss ein Verstoß von einem der Moderatoren von arXiv dokumentiert und intern bestätigt werden, bevor eine Sperre erfolgt. Es gibt auch die Möglichkeit des Einspruchs, also gegebenenfalls zumindest eine zweite Prüfung.

Die Sperren sollen auch nur, wie Dietterich bei X schrieb, bei „unwiderlegbaren Beweisen“ für falsche Nutzung von KI im Kontext von Wissenschaft verhängt werden. Dabei, so schreibt er auf der Plattform in einem Thread, ist der Autor eines Papers stets für dessen gesamten Inhalt verantwortlich. Wenn man aber etwa Falschbehauptungen aus einem LLM finde, „bedeutet das, dass wir dem ganzen Paper nicht vertrauen können“, so Dietterich.

Zu den Verstößen, die geahndet werden können, zählen laut Dietterichs Beiträgen bei X „unangemessene Sprache, plagiiertes Material, voreingenommene Inhalte, Fehler, Irrtümer, fehlerhafte Referenzen oder irreführende Inhalte“. Vor allem der vorletzte Punkt der Aufzählung ist in vermeintlich wissenschaftlichen Arbeiten schon häufiger aufgefallen. LLMs „halluzinieren“ frei erfundene Quellen herbei, um ihre Behauptungen aufrechterhalten zu können.

Weiterlesen nach der Anzeige

Die Änderungen bei arXiv dienen offenbar nicht nur dem Bemühen um ordentliches wissenschaftliches Arbeiten. Bisher wird das Projekt vorwiegend von Cornell Tech, einer Sparte der Cornell University in New York City betrieben. Ab 1. Juli 2026 soll arXiv aber als gemeinnütziges Unternehmen ausgegliedert werden. Solche Organisationen sind in den USA vorwiegend auf Spenden angewiesen, wofür der gute Ruf besonders wichtig ist. Cornell wurde, wie zahlreiche andere Universitäten, im April 2025 durch die Trump-Regierung durch Zurückhalten von Forschungsgeldern von vier Milliarden US-Dollar sanktioniert. Seitdem wehren sich die Universitäten zwar vor Gericht, Projekte wie arXiv suchen parallel nach neuen Finanzierungen.


(nie)



Source link

Künstliche Intelligenz

US-Urteil erschüttert das Fundament des transatlantischen Datentransfers


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Einem politischen und rechtlichen Kartenhaus droht der Einsturz. Mit der Entscheidung des Obersten Gerichtshofs der USA in der Rechtssache Trump v Slaughter (Az. 25–332) hat die konservative Mehrheit der Richter die Unabhängigkeit der Federal Trade Commission (FTC) für verfassungswidrig erklärt. Was nach einer rein innenpolitischen Debatte über die Machtfülle des US-Präsidenten aussieht, entpuppt sich bei genauem Hinsehen als Sprengsatz für die europäische Digitalwirtschaft. Denn die vermeintliche Unabhängigkeit der FTC war lange Zeit das rechtliche Fundament, auf dem der Datenverkehr zwischen der EU und den USA ruhte.

Weiterlesen nach der Anzeige

Hintergrund des aktuellen Konflikts ist die sogenannte „Unitary Executive Theory“. Dieser radikalen Verfassungsauslegung folgend muss der US-Präsident die uneingeschränkte Kontrolle über alle Bundesbehörden verfügen. Der Supreme Court erklärte nun alle gesetzlichen Regelungen, die Behörden vor dem direkten Durchgriff des Weißen Hauses schützen, für unzulässig.

Für den transatlantischen Datenschutzrahmen könnte das gravierende Folgen haben. Seit dem Jahr 2000 stützt sich die EU-Kommission bei ihren Abkommen zum Datenexport mit den USA maßgeblich auf die FTC als kontrollierendes Organ. Das Problem dabei ist struktureller Natur: Das EU-Vertragsrecht und die Grundrechtecharta schreiben vor, dass die Überwachung des Datenschutzes durch unabhängige Behörden erfolgen muss. Da Drittstaaten ein „im Wesentlichen gleichwertiges“ Datenschutzniveau zu garantieren haben, galt diese Pflicht zur Unabhängigkeit auch für die US-Aufsicht.

Im aktuellen Angemessenheitsbeschluss der EU, dem heftig umstrittenen EU-US Data Privacy Framework von 2023, beruft sich die EU-Kommission sage und schreibe 259 Mal auf die Kontrollfunktion der FTC. Mit dem neuen Urteil untersteht diese Behörde jetzt jedoch prinzipiell direkt den politischen Weisungen des US-Präsidenten. Die mühsam konstruierte Argumentation, die USA böten unabhängige Aufsicht, dürfte damit über Nacht hinfällig geworden sein.

Max Schrems, Gründer der Datenschutzorganisation Noyb, sieht die Brüsseler Regierungsinstitution damit in der Pflicht. Da es in den USA schlicht keine unabhängigen Behörden mehr gebe, hat Noyb die Kommission formell aufgefordert, die Angemessenheitsentscheidung für die USA in einem geordneten Prozess aufzuheben. Sie habe unter dem Druck der Wirtschaft ein rechtliches Luftschloss gebaut, das nun in sich zusammenfalle. Es sei an der Zeit, Verantwortung zu übernehmen und einen koordinierten Ausstieg der europäischen Wirtschaft aus der US-Cloud-Infrastruktur einzuleiten. Schrems hat bereits zweimal vor dem Europäischen Gerichtshof (EuGH) Übereinkünfte zum EU-US-Datentransfer zu Fall gebracht.

Weiterlesen nach der Anzeige

Die juristische Tragweite des Urteils ist noch nicht ganz absehbar. Seine praktischen Auswirkungen gelten aber nicht als unbegrenzt. Zwar hat sich die faktische Basis des EU-Beschlusses offenbar aufgelöst. Formal bleibt das Abkommen aber so lange in Kraft, bis die EU-Kommission es selbst widerruft oder der schon mit dem Rahmenwerk beschäftigte EuGH es für nichtig erklärt. Firmen, die sich auf die Übereinkunft stützen, drohen also keine sofortigen Strafen.

Ferner betrifft die Datenschutzgrundverordnung (DSGVO) ausschließlich personenbezogene Daten. Rein geschäftliche oder nicht-personenbezogene Informationen dürfen weiter ungehindert fließen. Auch absolut notwendige Datenübermittlungen – etwa für eine Hotelbuchung im Ausland – bleiben über die Ausnahmeregelungen des Artikels 49 der DSGVO legal. Verboten ist indes das systematische und strukturelle Auslagern europäischer Datenbestände an US-Anbieter ohne zwingenden Grund.

Allerdings hängen auch Firmen in der Luft, die das Rahmenabkommen umgehen und auf alternative Instrumente wie Standardvertragsklauseln (SCCs) oder verbindliche Unternehmensregeln (BCRs) setzen. Diese Instrumente verlangen von Unternehmen eine interne Risikoanalyse. In diesen Folgenabschätzungen wird regelmäßig auf US-Prüfinstanzen wie den „Data Protection Review Court“ verwiesen. Doch dieses von der Biden-Regierung ins Leben gerufene Gremium ist kein echtes Gericht, sondern eine Behörde innerhalb des US-Justizministeriums. Ihre Unabhängigkeit beruht nur auf einer präsidialen Exekutivverordnung. Nach der Logik des Supreme Court könnte auch diese von Trump jederzeit kassiert werden.

Firmen, die mit Vertragsklauseln arbeiten, sollten ihre Risikoanalysen deshalb aktualisieren. Rein rechtlich dürften sie dabei kaum noch zu positiven Ergebnissen gelangen.

Anlass für das US-Verfahren war die Entlassung der beiden demokratischen FTC-Kommissare Rebecca Slaughter und Alvaro Bedoya durch Trump zu Beginn seiner zweiten Amtszeit 2025. Der Republikaner feuerte beide ohne Angabe gesetzlich vorgeschriebener Gründen wie Dienstvergehen oder Pflichtverletzung, weil ihre Arbeit nicht den Prioritäten seiner Regierung entsprach. Während die Vorinstanzen diese Entlassungen noch als rechtswidrig einstuften, vollzog der Supreme Court eine Kehrtwende und verwarf seine eigene, fast ein Jahrhundert alte Rechtsprechung zum Schutz unabhängiger Aufsichtsbehörden.

Die Fronten für den nächsten datenschutzrechtlichen Großkonflikt sind damit abgesteckt. Da ein geordneter Rückzug der EU-Kommission aus dem Abkommen unwahrscheinlich erscheint, bereitet Noyb bereits den Klageweg vor. Bis der EuGH in zwei bis drei Jahren endgültig entscheidet, droht der europäischen Digitalwirtschaft eine Phase der Rechtsunsicherheit.


(mki)



Source link

Weiterlesen

Künstliche Intelligenz

Supreme Court zu Epic v Apple: Hat Apple das Gericht missachtet?


Apple hat in seinem Spiel auf Zeit einen neuerlichen Etappensieg erzielt: Das US-Höchstgericht (Supreme Court of the United States, SCOTUS) nimmt einen Teilaspekt des Komplexes Epic v Apple zu Überprüfung an. Grundsätzlich geht es in dem seit fast sechs Jahren laufenden Rechtsstreit um wettbewerbsfeindliche Praktiken in Apples App Store für iOS und iPadOS. Der vom SCOTUS angenommene Teil dreht sich darum, dass Apple eine Entscheidung eines Bundesbezirksgerichts dem Geiste nach umgangen hat, indem es App-Anbietern prohibitive Gebühren verrechnet und andere nachteilige Auflagen macht.

Weiterlesen nach der Anzeige

Das hat das Bundesbezirksgericht für den Norden Kaliforniens als Missachtung des Gerichts eingestuft, was vom zuständigen Bundesberufungsgericht auch bestätigt worden ist. Doch Apple argumentiert, Missachtung sei nur bei Umgehung sehr konkreter Gerichtsbefehle möglich, nicht bei Umgehung des grundsätzlichen Tenors einer Gerichtsentscheidung. Mit diesem Vorbringen hat der Konzern das Interesse von mindestens vier der neun SCOTUS-Richter geweckt. Sie haben beschlossen, die Sache zu prüfen.

Damit gewinnt Apple weiter Zeit und kann seine Geschäftspraktiken fortführen. Frühester Termin für die mündliche Verhandlung wäre Oktober; bis zur Entscheidung könnte ein ganzes Jahr vergehen. Und dann geht die Sache womöglich zurück an ein untergeordnetes Gericht.

Apple hat in seinem App Store für iOS und iPadOS seit jeher hohe Gebühren verrechnet, typischerweise 30 Prozent aller Kundenzahlungen. Gleichzeitig untersagte Apple Umsätze außerhalb des App Store, direkte Kommunikation mit Kunden über andere Kanäle, und den Betrieb alternativer Appstores für die mobilen Apple-Betriebssysteme. Als Epic Games in seinem Spiel Fortnite Apples teures Bezahlsystem zu umgehen suchte, sperrte Apple Fortnite aus.

Daraufhin zog Epic im August 2020 vor das US-Bundesbezirksgericht für den Norden Kaliforniens. Dieses entschied im September 2021, dass Apples Bestimmungen zwar nicht gegen Monopolrecht des Bundes, wohl aber gegen ein kalifornisches Gesetz gegen Unlauteren Wettbewerb verstoßen. Das Gericht trug Apple auf, Hyperlinks aus Apps auf externe Webseiten mit unabhängigen Bezahlsystemen zu erlauben.

Apple berief erfolglos, und konnte auch den Supreme Court nicht zu einer weiteren Überprüfung gewinnen. Schließlich gelobte der Konzern, sich an die rechtskräftigen Auflagen zuhalten.

Weiterlesen nach der Anzeige

Tatsächlich legte Apple sein neues System jedoch so an, dass niemand es nutzen würde: Erlaubt ist darin nur ein einzelner Hyperlink, der nicht als solcher erkennbar sein darf. Die aufgerufene Seite darf keine Informationen über den Kunden oder sein Konto übernehmen, sondern muss das neu abfragen. Dazu kommen abschreckende Einblendungen und eine Gebühr von 27 Prozent aller Umsätze. Weil der Betrieb eines externen Bezahlsystems auch etwas kostet, und Finanzdienstleister Gebühren erheben, wäre der Umsatz außerhalb des App Store noch teurer als die 30 Prozent direkt im App Store.

Die Sache war also prohibitiv, was, wie sich später vor Gericht herausgestellt hat, Absicht war. Nebenbei schloss Apple alle Teilnehmer seines Video Partner Program und seines News Partner Program generell von externen Umsätzen aus. Eine sachliche Grundlage dafür ist nicht erkennbar.

Epic musste wieder das Bundesbezirksgericht anrufen. Dieses prüfte Apples Vorgehen ausführlich und hörte mehrfach Zeugen, bis es schließlich auf Missachtung des Gerichts entschied. Apples Argument, die ursprüngliche Gerichtsentscheidung hätte die gesetzten Maßnahmen nicht konkret verboten, zog nicht.

Das Bezirksgericht erließ diesmal detailliertere Auflagen, darunter ein absolutes Verbot von Gebühren für außerhalb des App Store anfallende Umsätze – nicht nur gegenüber Epic, sondern gegenüber allen App-Anbietern im US App Store. Apple berief erneut. Bundesberufungsgericht befand Ende 2025 (Az. 25-2935), dass Teile der neuen Auflagen zu streng seien: Beispielsweise dürfe Apple sehr wohl Gebühren für externe Umsätze berechnen, bloß nicht in prohibitiver Höhe.

Grundsätzlich habe das Bezirksgericht jedoch zulässig festgestellt, dass Apple durch sein Vorgehen das Gericht missachtet habe. Zwei Gerichtsauflagen habe Apple dem Buchstaben nach verletzt, zwei weitere dem Geiste nach.

Gegen diese Entscheidung des Bundesberufungsgerichts hat Apple den Supreme Court angerufen und ihm zwei Fragen zur Erörterung vorgeschlagen: Erstens, ob Missachtung des Gerichts überhaupt gegeben sein könne, wenn eine Entscheidung nur ihrem Geiste nach umgangen werden, nicht aber ihren Buchstaben nach. Diese Frage hat das Höchstgericht am Dienstag angenommen.

Zweitens wollte Apple diskutieren, ob das Bundesbezirksgericht überhaupt landesweite Verbote, gestützt auf das Recht eines US-Staates, aussprechen darf, die auch Personen betreffen, die am Verfahren gar nicht beteiligt sind (hier: alle Anbieter von Apps im App Store). Diese Frage hat das Höchstgericht nicht angenommen. Es begründet seine Entscheidungen über Annahme oder Nichtannahme generell nicht.

Das Verfahren vor dem Supreme Court heißt Apple v Epic Games und trägt das Az. 25-1311. Das US-Bundesbezirksgericht für den neunten US-Gerichtskreis führt Epic Games v Apple unter den Az. 21-16506 und 21-16695, während das Bundesbezirksgericht Epic Games v Apple unter 4:20-cv05640 veraktet.


(ds)



Source link

Weiterlesen

Künstliche Intelligenz

Interview zur Deutschland-App: Wie KI komplizierte Anträge entwirren soll


Im April wurde bekannt, dass das Bundesdigitalministerium (BMDS) die Telekom und SAP beauftragt hat, einen Prototyp einer Bürger-App für ganz Deutschland zu entwickeln. Im Interview mit c’t erläutert der zuständige Staatssekretär Markus Richter nun die Pläne im Detail: Wie die „Deutschland-App“ Bürger durch Anträge leiten soll und welche Rolle generative KI dabei spielt. Außerdem gibt Richter einen Ausblick auf die nächsten Schritte hin zur digitalen Brieftasche EUDI-Wallet und zum Deutschland-Stack, der Zukunfts-IT der öffentlichen Verwaltungen.

c’t: Herr Richter, ab 2027 wollen Sie mit der Deutschland-App den Staat schlanker, bürgernäher und verständlicher machen. Laut Ihrem Chef, Digitalminister Karsten Wildberger, wird die App „krass“. Aber wie soll sie konkret funktionieren?

Markus Richter: Ziel ist, dass die App mithilfe von künstlicher Intelligenz, einer Crawler-Technik und einem Assistenzsystem den Zugang zur Verwaltung erleichtert. Die App greift auf die bestehenden Dienste der Behörden zu. Die Bürger interagieren also nur mit der App und können leichter Verwaltungsleistungen beantragen. Wir sind gerade dabei, einen Prototyp zu erstellen.


Das war die Leseprobe unseres heise-Plus-Artikels „Interview zur Deutschland-App: Wie KI komplizierte Anträge entwirren soll“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Beliebt