Künstliche Intelligenz
KI-Müll in US-Urteilen aufgeflogen | heise online
Generative Künstliche Intelligenz neigt zu sogenannten Halluzinationen. Oft fällt das nicht auf, speziell dann, wenn das Ergebnis dem Nutzer zusagt. Von KI erfundene Behauptungen, Studien, Zitate oder Präzedenzfälle landen immer häufiger in Eingaben zu Gericht; dafür sind mehrfach sich selbst vertretende Parteien und Anwälte bestraft worden. Leider sind auch Richter nicht gegen die Versuchungen Künstlicher Intelligenz gefeit. In den USA sind jetzt zwei Fälle KI-verschmutzter Urteile aufgeflogen. Persönliche Verantwortung übernehmen die zuständigen Richter keine.
Weiterlesen nach der Anzeige
Die beiden US-Bundesbezirksrichter, Henry Wingate vom Bundesbezirksgericht für den Süden Mississippis, und Julien Neals vom Bundesbezirksgericht für New Jersey, haben Entscheidungen ausgefertigt, die so offensichtlich fehlerhaft waren, dass es den Verfahrensparteien gleich auffiel. Nach deren Rüge haben die beiden Richter ihre fehlerhaften Entscheidungen aus dem Akt gelöscht und durch verbesserte Versionen ersetzt.
Diese Vorfälle riefen US-Senator Charles Grassley auf den Plan, der sich um die Integrität der US-Justiz sorgt. Er richtete Fragen an die beiden Bundesrichter. Ihre nun vorliegenden Antwortschreiben zeigen, dass Verantwortungsbewusstsein bei den beiden Richtern gering ausgeprägt ist.
An keiner Stelle gestehen sie ein, selbst Schuld zu tragen. Richter Neals lässt Selbstmitleid durchblicken, wenn er schreibt, dass seine „Erfahrung“ in dem Fall „höchst unglücklich und unvorhersehbar“ gewesen sei.
Richter schiebt es auf den Praktikanten
Richter Wingate schiebt den Fehler auf einen juristischen Mitarbeiter, der das Große Sprachmodell Perplexity genutzt habe, „ausschließlich als Unterstützung für einen grundlegenden Entwurf, um im Akt öffentlich verfügbare Informationen zusammenzustellen.“
Laut Neals soll gar ein Rechtswissenschaften studierender Praktikant Schuld tragen. Dieser habe ChatGPT genutzt, „ohne Genehmigung, ohne Offenlegung, entgegen nicht nur der Gerichtsregeln, sondern auch anwendbarer Regeln (seiner) Universität“. Dazu verweist der Richter ausdrücklich auf eine Mitteilung der Uni, die ihm dies bestätige.
Beide Richter betonen, dass solche Entwürfe normalerweise einer mehrstufigen Prüfung unterzogen würden (unter anderem mit Software, die Verweise auf Präzedenzfälle prüft und dabei selbst KI einsetzt). In diesen Fällen seien die Prüfungen vor Veröffentlichung unterblieben. Sie geloben Besserung, verraten den Grund für das Unterlassen der Überprüfung aber nicht.
Weiterlesen nach der Anzeige
Die Löschung ihrer fehlerhaften Entscheidung aus dem Akt begründen beide Männer damit, vermeiden zu wollen, dass die fehlerhaften Entscheidungen später als Präzedenzfälle herangezogen würden. In Wingates Verfahren ist die zurückgezogene Entscheidung noch als Anhang zu einer Eingabe einer Partei im Akt erhalten.
Maue KI-Regeln bei Gericht
Ein verschriftlichtes Regelwerk zum Einsatz von KI hatten beide Gerichte offenbar nicht. Neals will KI-Einsatz mündlich untersagt haben; jetzt hat er einen schriftlichen Regelentwurf, wartet aber noch auf Vorgaben der Bundesgerichtsverwaltung.
Diese hat einen Arbeitskreis zum Thema eingerichtet, der im Sommer vorläufige Richtlinien für alle US-Bundesgerichte herausgegeben hat. Diese Richtlinien sind erstaunlich schwammig. Sie verbieten nicht etwa, das Fällen von Urteilen an Künstliche Intelligenz auszulagern, sondern regen lediglich „Vorsicht“ (caution) an. Besondere Vorsicht (extreme caution) wird „empfohlen“, wenn es um neue Rechtsfragen geht.
Nicht einmal die Offenlegung des Einsatzes Künstlicher Intelligenz ist demnach verpflichtend. Richtern und Justizbediensteten wird lediglich nahegelegt, darüber nachzudenken, ob KI-Nutzung offengelegt werden sollte.
Die Justizverwaltung sammelt auch ausdrücklich keine Daten darüber, ob und wie oft Richter Maßnahmen gegen Verfahrensparteien wegen irreführenden Einsatzes von KI ergreifen. Öffentlich konsultiert wird derzeit eine Novelle der Beweisregeln für Bundesgerichte. Laut Entwurf der Rule 707 sollen KI-erzeugte Beweise den gleichen Regeln unterliegen wie Aussagen Sachverständiger. Das bedeutet, dass Gerichte KI-Erzeugnisse als Beweise akzeptieren sollen, wenn die Wahrscheinlichkeit überwiegt (more likely than not), dass das Vorbringen Richter oder Geschworenen hilft und auf ausreichend Fakten oder Daten sowie auf verlässlichen Prinzipien und Methoden beruht, die auf die Fakten des Falles angewendet wurden.
Das betroffene Verfahren am US-Bundesbezirksgericht für New Jersey heißt In re CorMedix Inc. Securities Litigation, Az. 2:21-cv-14020. Das betroffene Verfahren am US-Bundesbezirksgericht für den Süden Mississippis heißt Jackson Federation of Teachers, et al v Lynn Fitch, et al, Az. No. 3:25-cv-00417.
(ds)
Künstliche Intelligenz
Kupferdiebe verursachen teils große Schäden im Norden
Mit dem Ausbau der Infrastruktur für E-Autos wächst vielerorts die Zahl der Kabeldiebstähle. Auch in Hamburg und Schleswig-Holstein kommt es regelmäßig vor, dass demolierte Ladesäulen das Aufladen eines Elektrofahrzeugs verhindern. Darüber ärgern sich nicht nur die betroffenen Autofahrerinnen und Autofahrer.
Weiterlesen nach der Anzeige
Trend zu mehr Kabel-Diebstählen in SH
Die Zahl der entwendeten Ladekabel an E-Ladesäulen in Schleswig-Holstein stieg zuletzt. Beim Landeskriminalamt wurden seit Jahresbeginn Fälle „im unteren zweistelligen Bereich“ bei Diebstählen von Ladekabeln an öffentlichen E-Ladesäulen bekannt, wie eine LKA-Sprecherin mitteilte. In der Kriminalstatistik der Polizei werden solche Fälle aber nicht gesondert erfasst.
Im vergangenen Jahr wurde laut LKA nur eine Tat an einer Ladesäule auf einem Pendlerparkplatz im Kreis Rendsburg-Eckernförde bekannt. Dort beschädigten Unbekannte eine Säule und entwendeten zwei Kabel, der Schaden betrug laut LKA rund 70.000 Euro.
Auch 2021 war ein Fall registriert worden: Auf einem Firmengelände im Kreis Stormarn wurden damals drei Ladestationen komplett entwendet. Weder der Fall von 2024 noch der von 2021 konnten aufgeklärt werden.
2023 und 2022 gab es laut LKA-Sprecherin keine angezeigten Fälle im nördlichsten Bundesland. „Aufgrund der hohen Schadenssummen ist davon auszugehen, dass die meisten Fälle auch angezeigt werden.“
Betreiber: Schaden in Millionenhöhe
Nach Angaben des E-Mobilitätsanbieters EnBW Energie mit Sitz in Karlsruhe mussten allein in diesem Jahr in Schleswig-Holstein 24 und in Hamburg 68 Kabel ersetzt werden. Wie eine Unternehmenssprecherin der dpa sagte, seien in den letzten Wochen aber keine neuen Fälle von Kabeldiebstählen an EnBW-Ladestationen in Hamburg und Schleswig-Holstein verzeichnet worden.
Weiterlesen nach der Anzeige
„Alleine die EnBW hat in diesem Jahr einen Schaden von über 1.000 gestohlenen Ladekabeln bei einer Schadensumme in mittlerer einstelliger Millionenhöhe zu verzeichnen“, teilte die Sprecherin mit. Das Unternehmen arbeite eng mit Partnern und den Ermittlungsbehörden zusammen, um die Ladestationen am Laufen zu halten und das Schnellladenetz zu schützen.
„Wo möglich, setzten wir auf abschreckende Maßnahmen wie verstärkte Beleuchtung oder Videoüberwachung und stehen im engen Austausch mit den Herstellern der Ladestationen.“ Weitere Maßnahmen würden aktuell getestet – um was genau es sich dabei handelt, wollte die Sprecherin nicht öffentlich machen.
Das Energieversorgungsunternehmen betreibt in ganz Deutschland mehr als 8000 Schnellladepunkte – in Schleswig-Holstein sind es derzeit 213 sowie 108 in Hamburg.
Hamburger Polizei: Keine besonderen Auffälligkeiten
Ein anderer Ladesäulen-Betreiber in Hamburg hat bisher keine Diebstähle verzeichnet: „Kupferdiebstähle oder vergleichbare Delikte sind bei uns bislang nicht aufgetreten“, teilte ein Sprecher der Hamburger Energiewerke der dpa mit. Vandalismus wie das Beschmieren oder Bekleben von Säulen und Displays sowie das Abreißen von Kabeln an Ladesäulen komme allerdings vereinzelt vor.
In Hamburg liegen nach aktueller Kenntnis der Hamburger Polizei keine besonderen Auffälligkeiten zu Diebstählen von Ladekabeln vor, teilte ein Polizeisprecher der dpa mit.
Was hilft gegen Kabeldiebe?
„Da öffentliche Ladesäulen leicht zugänglich sind und auch sein sollen, sind präventive Maßnahmen nur begrenzt umsetzbar“, teilte das LKA in Kiel mit. Möglich sei allerdings Videoüberwachung, gute Beleuchtung auch in der Nacht oder die Ausstattung der Ladesäulen mit Licht- oder Signal-Alarm, der ausgelöst wird, wenn ein Kabel durchgeschnitten wird. „Solche Lösungen liegen aber in der Verantwortung der Betreiber.“
Die Landespolizei rät Bürgerinnen und Bürgern, verdächtige Beobachtungen sofort der Polizei zu melden. Zudem informiert die Polizei potenzielle Ankäufer wie Metallhändler unter anderem mit Flyern über das Risiko, gestohlenes Metall angeboten zu bekommen.
Was machen die Diebe mit den Kabeln?
„Aufgrund der steigenden Preise auf dem Rohstoffmarkt – insbesondere bei den Kupferpreisen – bleiben die Kabel und das Buntmetall der Ladesäulen auch weiterhin für Täter interessant“, teilte die LKA-Sprecherin mit. Beides werde demnach unter anderem Metallhändlern oder Schrotthändlern zum Kauf angeboten.
(dmk)
Künstliche Intelligenz
Elekronischer Streichelzoo: Kinder streicheln „Booboo“-Roboter-Meerschweinchen
Sie schnurren, sind flauschig und erinnern an eine Art Meerschweinchen, Kaninchen oder Chinchilla. In ihnen steckt aber smarte Technologie. Die „Booboos“ reagieren auf Ansprache oder Klatschen. Die Roboter sind seit Kurzem in einem „Elektronischen Streichelzoo“ im Zentrum für Kunst und Medien (ZKM) Karlsruhe zu sehen. Kinder sollen an eine Frage herangeführt werden, die immer wichtiger werden dürfte: Ist es lebendig – oder tut es nur so?
Weiterlesen nach der Anzeige
Die eitle Coco und der penible Dieter
Die zehn Wesen haben Namen und sogar Charaktereigenschaften bekommen. So stellt das ZKM Milli – grau mit dunklen Ohren – als Professorin für Elektronik vor, die die Dunkelheit hasse. Dieter in Hellbraun mit umgebundener Fliege sei sehr penibel und liebe Ordnung. Sein heimliches Vorbild: Taylor Swift.
Die schläfrige Lola spiele gern Verstecken, während Coco mit Rentiergeweih manchmal ein bisschen eitel sei und sich oft stundenlang im Spiegel betrachte. Joshi wiederum trägt ein Sheriff-Hütchen auf dem plüschigen Kopf. Er liebe Süßigkeiten über alles: „Wenn jemand ihm heimlich ein paar Bonbons anbietet, glitzern seine Augen, und er vergisst für einen Moment sogar seine Pflichten.“
Auch Erwachsene dürfen die „Booboos“ streicheln
Den „Elektronischen Streichelzoo“ können Interessierte bis Anfang August kostenlos mittwochs bis freitags von 14.00 bis 18.00 Uhr sowie am Wochenende zwischen 11.00 und 18.00 Uhr für je eine halbe Stunde besuchen. Gerade Kinder im Vorschulalter sollen den Angaben nach mit den „Booboos“ spielen. Aber auch Erwachsenen bleiben die Roboter-Meerschweinchen nicht vorenthalten.
„Ich find’s schön, weil er sich auch ankuschelt“, sagt die elfjährige Mathilda über einen „Booboo“. Ihr echtes Haustier würde sie vorziehen. „Aber ich glaube, dass es sehr wichtig ist für Leute, die Allergien haben oder die sich einsam fühlen in Altersheimen oder so – ich glaub‘, da wär‘ es schon ganz praktisch.“ Mathildas Mutter Almut Werner sagt: „Ein künstliches Kuscheltier kann niemals ein echtes ersetzen.“ Ihre 16-jährige Tochter habe sogar kritisiert, die Roboter-Wesen machten das letzte Stück Fantasie kaputt.
Dominique Damian-Papi?, die mit der fünfjährigen Eleni im ZKM ist, geht auf die Unterschiede ein: „Um echte Tiere muss man sich auch gut kümmern.“ Die „Booboos“ hätten keine natürlichen Bewegungen von Tieren. Andererseits könne man mit ihnen ein bisschen ruppiger umgehen.
Weiterlesen nach der Anzeige
Mit Forschungsprojekt verknüpft
Ein Aspekt, den auch Projektleiterin Tina Lorenz vom ZKM-Hertzlab betont: „Wenn ich das Roboter-Meerschweinchen fallen lasse, dann ist es ein Versicherungsfall, dann ist eine Maschine kaputtgegangen. Wenn ich ein echtes Meerschweinchen fallen lassen, dann habe ich etwas verletzt oder vielleicht sogar getötet, das mal am Leben war. Das ist ein fundamentaler Unterschied.“ Ein Familienhund könne einem Menschen Zuneigung zeigen. „Ein Roboter-Meerschweinchen kann nur so tun, als wäre ich gemeint.“ Es sei nur ein Sensor.
Mit dem „Elektronischen Streichelzoo“ sollen gerade Kinder, die noch nicht lesen können, auch an das Thema Künstliche Intelligenz (KI) herangeführt werden. Das Prinzip sei bei den „Booboos“ das gleiche, erklärt Lorenz: „Sie sind eine Maschine und wollen aber so tun, als wären sie ein kleines echtes Meerschweinchen. Genauso wie eine KI eben ein Algorithmus ist, der sagt: Ich höre dir zu, ich versteh‘ dich, brauchst du überhaupt noch echte Freunde?“
Erste KI-Generation
Heutige Kinder seien die erste Generation, die aufwachse und zu kommunizieren lerne, ohne zu wissen, ob auf der anderen Seite ein Mensch oder eine Maschine sitze. KI-basierte Sprachmodelle würden zunehmend zum Ersatz für Freunde und Partner, sagt Lorenz. „Da müssen wir als Gesellschaft darüber sprechen. Und Kinder mit ihren Eltern müssen darüber sprechen.“
Begleitet wird das Angebot daher durch ein Forschungsprojekt des Karlsruher Instituts für Technologie (KIT). Die Wissenschaftlerinnen und Wissenschaftler wollen den Angaben nach unter anderem herausfinden, wie Menschen mit Gegenständen umgehen, die Lebewesen simulieren. Die Forscher gehen der Frage nach, ob und wie Kinder im Kindergartenalter den Unterschied zwischen lebendigen Tieren und künstlich belebten Objekten erkennen und erlernen können.
(olb)
Künstliche Intelligenz
Donnerstag: EU-Ermittlungen gegen Temu, Preismanipulation von Instacart per KI
Temus europäische Niederlassung ist kürzlich durchsucht worden. Anlass ist der Verdacht verbotener ausländischer Subventionen. Das würde gegen die EU-Verordnung über den Binnenmarkt verzerrende drittstaatliche Subventionen verstoßen, die verhindern soll, dass staatliche Gelder in der EU Preise manipulieren und den Wettbewerb beeinflussen. Um Preismanipulation ging es auch bei einer US-Untersuchung. Dabei stellte sich heraus, dass Instacart sogar bei Selbstabholung für bestellte Lebensmittel höhere und individuell unterschiedliche Preise ansetzt. Das dürfte auf KI-optimierte Preisgestaltung seitens Instacart zurückzuführen sein. Derweil könnte Nvidia-Software bald den Standort KI-fähiger Chips bestimmen, um Exporte in sanktionierte Länder zu verhindern. Das soll zunächst für Blackwell-GPUs geplant sein. China hatte Nvidia ein solches Tracking von KI-Chips bereits vor Monaten vorgeworfen, aber der Konzern hat dies bislang zurückgewiesen – die wichtigsten Meldungen im kurzen Überblick.
Weiterlesen nach der Anzeige
Temus Europaniederlassung ist vergangene Woche von Ermittlern im Auftrag der Europäischen Kommission durchsucht worden. Die EU-Kommission bestätigt das indirekt, ohne jedoch den Namen der chinesischen Einzelhandelsplattform zu nennen. Demnach hegt die EU-Kommission den Verdacht, Temu werde von der Volksrepublik China in unzulässiger Weise subventioniert. Solche Subventionen können einem Unternehmen Vorteile im Wettbewerb verschaffen. Beispielsweise könnten künstlich niedrige Preise andere Anbieter, die nicht subventioniert werden, aus dem Markt drängen. Staatliche Subventionen können auch direkt zur Beseitigung von Konkurrenten genutzt werden, indem sie die Übernahme anderer Unternehmen finanzieren: Europäische Temu-Büros durchsucht.
Die Preisgestaltung von Online-Angeboten wurde auch in den USA untersucht. Dabei zeigte sich, dass Kunden, die online Lebensmittel bestellen, womöglich draufzahlen, auch wenn sie die Ware dann selbst im Geschäft abholen. Das zeigt ein unabhängiger Test von Instacart, einem Liefer- und Abholdienst für Lebensmittel in den USA. Testkäufer legten zum selben Zeitpunkt dieselbe Ware in ihre Einkaufswägen – zur späteren Selbstabholung im selben Geschäft, um den Faktor etwaig unterschiedlicher Lieferkosten auszuschließen. Dennoch veranschlagte Instacart unterschiedliche Preise. Hintergrund ist offenbar eine „KI-getriebene Preisoptimierung“, die Instacart den angeschlossenen Händlern anbietet, die sogenannte „AI-Powered Price Optimization“: US-Zustelldienst Instacart manipuliert Preise.
Nvidia hat angeblich eine Technik zur Standortbestimmung von Chips entwickelt, die zeigen soll, in welchen Ländern diese betrieben werden. Durch ein solches Tracking könnte der Schmuggel von sanktionierten Chips wie Nvidias Blackwell-GPUs in Länder eingedämmt werden, die Exportbeschränkungen unterliegen. Das Tracking wird wohl über eine neue Funktion einer verbreiteten Software realisiert, die Kunden zur Überwachung der Computing-Leistung der Systeme nutzen. Nvidia will dabei die Verzögerung bei der Kommunikation mit anderen Servern nutzen, um einen ungefähren Standort des Chips zu ermitteln. Gleichzeitig würde Nvidia damit einem in den USA vorgelegten Gesetz entsprechen, das Geotracking in allen leistungsfähigen Chips fürs KI-Training fordert: Nvidia arbeitet an Tracking-Funktion für KI-Chips gegen Schmuggel.
Der in Notepad++ integrierte Updater hat sich Malware unterschieben lassen und diese auf einigen PCs installiert. Der Entwickler des mächtigen Open-Source-Texteditors reagiert mit einem Update auf Notepad++ v8.8.9. Nutzerinnen und Nutzer müssen die Aktualisierung derzeit manuell vornehmen. Der Entwickler erklärt, dass „einige Sicherheitsexperten von Vorfällen berichtet haben, bei denen Internetverkehr übernommen wurde, der Notepad++ betrifft“. Demnach haben Untersuchungen ergeben, dass Traffic des Notepad++-Updaters WinGUp „gelegentlich auf bösartige Server umgelenkt wurde, was im Herunterladen kompromittierter ausführbarer Dateien mündete“. Nutzer sollten mindestens auf Notepad++ v8.8.8 aktualisieren. Version 8.8.9 ist zwar noch weiter gehärtet, muss aber manuell heruntergeladen werden: Notepad++-Updater installierte Malware.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier eine externe Umfrage (Opinary GmbH) geladen.
In der heutigen Ausgabe der #heiseshow besprechen wir unter anderem die von der EU-Kommission verhängte Millionenstrafe gegen X wegen Verstößen gegen den Digital Services Act. Elon Musk reagiert heftig und fordert die Abschaffung der EU. Was steckt hinter dem Streit um den blauen Haken? Welche Konsequenzen drohen X in Europa? Derweil verabschiedet sich Schleswig-Holstein von Microsoft und setzt künftig auf Open-Source-Lösungen. Wie realistisch ist der komplette Umstieg? Welche Herausforderungen kommen auf die Verwaltung zu? Der Abschied von UKW in der Schweiz wurde dagegen auf unbestimmte Zeit verschoben. Offenbar ist DAB+ noch nicht so weitverbreitet, wie erhofft. Warum hängen die Schweizer am alten Standard? Was bedeutet das für die Digitalisierung des Radios? Das sind die Themen heute um 17 Uhr live in der #heiseshow: EU-Strafe für X, Open-Source im Norden, UKW für die Schweiz.
Weiterlesen nach der Anzeige
Auch noch wichtig:
(fds)
-
UX/UI & Webdesignvor 2 MonatenIllustrierte Reise nach New York City › PAGE online
-
Datenschutz & Sicherheitvor 3 MonatenJetzt patchen! Erneut Attacken auf SonicWall-Firewalls beobachtet
-
Künstliche Intelligenzvor 2 MonatenAus Softwarefehlern lernen – Teil 3: Eine Marssonde gerät außer Kontrolle
-
Künstliche Intelligenzvor 2 Monaten
Top 10: Die beste kabellose Überwachungskamera im Test
-
UX/UI & Webdesignvor 3 MonatenFake It Untlil You Make It? Trifft diese Kampagne den Nerv der Zeit? › PAGE online
-
UX/UI & Webdesignvor 2 MonatenSK Rapid Wien erneuert visuelle Identität
-
Entwicklung & Codevor 3 WochenKommandozeile adé: Praktische, grafische Git-Verwaltung für den Mac
-
Social Mediavor 3 MonatenSchluss mit FOMO im Social Media Marketing – Welche Trends und Features sind für Social Media Manager*innen wirklich relevant?
