Connect with us

Künstliche Intelligenz

KI-Halluzinationen vor Gericht | heise online


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Künstliche Intelligenz wird vermehrt in der Justiz genutzt. Das stellt Rechtssysteme vor Herausforderungen: Weltweit haben Gerichte mit Schriftsätzen zu kämpfen, die KI-Halluzinationen enthalten, berichtet der US-Radiosender NPR.

Weiterlesen nach der Anzeige

Dem Bericht zufolge nutzen immer mehr Anwälte KI für Schriftstücke in laufenden Verfahren. Das Problem: Die KI-Anwendungen zitieren nicht existierende Gerichtsurteile, verfälschen Aussagen oder geben Urteile falsch wieder. Das ist besonders problematisch für das anglo-amerikanische Fallrecht, das sich maßgeblich auf Präzedenzfälle stützt.

Damien Charlotin, Rechtswissenschaftler an der Wirtschaftshochschule HEC Paris, betreibt eine Online-Datenbank, die weltweit Verfahren erfasst, in denen Gerichte Personen wegen des Vorbringens von Dokumenten mit KI-Fehlern sanktioniert haben. Laut dieser Datenbank gab es bis April 2026 weltweit mehr als 1300 solcher Gerichtsverfahren. Allein 800 der Fälle entfielen auf US-Gerichte, erklärte Charlotin gegenüber NPR.

Dem Wissenschaftler zufolge hat die Menge an Gerichtsverfahren, in denen Dokumente mit Fehlern aus KI-Tools verwendet wurden, seit vergangenem Jahr erheblich zugenommen. Erst kürzlich wurden an einem Tag zehn Fälle an zehn verschiedenen Gerichten bekannt.

Auch die Strafen werden härter. Vergangenen Monat verhängte ein US-Bundesgericht in Oregon Sanktionen von insgesamt über 100.000 US-Dollar gegen einen Anwalt. Auch er hatte Dokumente eingereicht, die von KI-Modellen verursachte Fehler enthielten. Laut NPR sollen solche Fälle von halluzinierten Gerichtsentscheidungen oder falschen Zitaten in Prozessdokumenten bereits bei obersten Gerichten der US-Bundesstaaten aufgetreten sein.

Weiterlesen nach der Anzeige

NPR zufolge haben einige US-Gerichte bereits Kennzeichnungsvorschriften eingeführt. Demnach muss jedes Dokument, das mit KI erstellt oder bearbeitet wurde, detailliert gekennzeichnet werden. Ziel sei es, festzustellen, welches Dokument die Gerichte detailliert auf KI-Halluzinationen überprüfen müssen.

Ein von NPR zitierter Anwalt hält diese Praxis allerdings für wenig praktikabel. Da KI mittlerweile im standardmäßigen Funktionsumfang von Kanzleisoftware integriert ist, wäre nahezu jedes Dokument kennzeichnungspflichtig.


(rah)



Source link

Künstliche Intelligenz

KI-Zusammenfassungen: Google und Perplexity unterliegen gegen Medienanstalten


Das deutsche Medienrecht greift auch bei KI-Angeboten. In einer aktuellen Entscheidung hat die Kommission für Zulassung und Aufsicht (ZAK) der Medienanstalten erstmals regulatorische Bescheide gegen die Suchmaschinenbetreiber Google und Perplexity erlassen. Damit stellen die Medienwächter klar, dass KI-Suchmaschinen und Chatbots rechtlich keine neutralen Vermittler sind. Vielmehr seien sie als Inhalteanbieter einzustufen.

Weiterlesen nach der Anzeige

Die von den Medienanstalten Hamburg-Schleswig-Holstein und Berlin-Brandenburg geführten Verfahren zielen auf Googles AI Overviews, die über Suchergebnissen von KI erstellte Zusammenfassungen anzeigen, sowie auf den KI-Chatbot von Perplexity. Dieser verknüpft KI-Antworten mit einer eigenen Nachrichtenseite. Die ZAK stellt mit den Beschlüssen die Anwendbarkeit des nationalen Medienrechts auf KI-Suche und Chatbots fest.

Streitpunkt ist die Präsentation der Informationen. Bei Googles AI Overviews rücken die KI-Texte so prominent in den Blick, dass die herkömmliche Liste aus weiterführenden Links in den Hintergrund gerät. Laut der ZAK führt das zu einer unzulässigen Diskriminierung journalistischer Angebote, da die klassische Link-Übersicht schlechter auffindbar sei.

Perplexity bindet Drittinhalte als Quellen oder in Linklisten ein und bestimmt dadurch maßgeblich die Sichtbarkeit fremder Angebote. Damit erfülle Perplexity den Aufsehern zufolge die Kriterien eines Medienvermittlers und müsse daher entsprechende Pflichten erfüllen. Gegen die Bescheide können beide Anbieter Rechtsmittel einlegen. Eine einheitliche Rechtsprechung zu KI-Übersichten gibt es noch nicht.

Das ZAK-Vorgehen beruht auf einem Gutachten der Professoren Jan Oster und Christoph Busch. Sie legen dar, dass generative KI die Informationssuche im Internet strukturell verändere. Der Substitutionsprozess lasse den Traffic zu Verlagsseiten einbrechen. So verschiebe sich die Verhandlungsmacht zugunsten der KI-Konzerne, die die Schnittstelle zur Sichtbarkeit im Netz kontrollierten.

Weiterlesen nach der Anzeige

Laut der Studie sind KI-generierte Texte grundsätzlich als eigene Inhalte des jeweiligen Anbieters zu qualifizieren seien. Das gelte für fehlerhafte, halluzinierte Inhalte ebenso wie für die Verdichtung und Vermischung vorhandener Quellen. Eine Ausnahme greife nur, wenn für User klar erkennbar sei, dass allein fremde Inhalte unverändert wiedergegeben würden.


(wpl)



Source link

Weiterlesen

Künstliche Intelligenz

Microsoft macht Passkeys zum Standard in Entra ID


Microsoft macht Passkeys zur Standard-Anmeldemethode in Entra ID. Ab dem 1. September 2026 führt das Unternehmen die Änderung schrittweise ein: Nutzer, die sich bislang per SMS oder Sprachanruf authentifizieren, werden dann automatisch für Passkeys freigeschaltet und bei der nächsten MFA-Anmeldung zur Registrierung aufgefordert. Microsoft empfiehlt Unternehmen, möglichst früh auf Passkeys oder andere Phishing-resistente Verfahren umzusteigen.

Weiterlesen nach der Anzeige

Passkeys sind kryptografische Anmeldeschlüssel, die Passwörter ersetzen. Statt eines Kennworts authentifizieren sich Nutzer zum Beispiel per Fingerabdruck, Gesichtserkennung oder Geräte-PIN. Die Technik basiert auf den FIDO2- und WebAuthn-Standards und gilt als deutlich widerstandsfähiger gegen Phishing. Entra ID – früher Azure Active Directory – ist Microsofts Cloud-Dienst für Identitäts- und Zugriffsverwaltung.

Parallel baut Microsoft die Unterstützung für gerätegebundene und synchronisierte Passkeys aus und erweitert die Verwaltungsfunktionen für Administratoren. So sollen sich passwortlose Anmeldungen einfacher einführen und per Richtlinie steuern lassen.

Hintergrund ist nach Angaben des Unternehmens die wachsende Bedrohung durch KI-gestützte Phishing-Angriffe. Laut Microsoft erreichen solche Kampagnen Klickraten von bis zu 54 Prozent, während herkömmliche Phishing-Angriffe bei rund 12 Prozent liegen.

Im nächsten Schritt stellt Microsoft den eigenen SMS- und Sprachdienst für die Mehrfaktor-Authentifizierung ein. Ab dem 1. Februar 2027 werden diese Verfahren in Entra ID nicht mehr nativ angeboten. Unternehmen, die sie weiterhin benötigen, müssen dafür auf eigene Kosten einen Drittanbieter über den Microsoft Security Store einbinden.


(fo)



Source link

Weiterlesen

Künstliche Intelligenz

Video: Warum ihr bei Mini-PCs aus China vorsichtig sein solltet


Mini-PCs chinesischer Hersteller und Händler sind auf den großen Online-Marktplätzen längst allgegenwärtig. Etliche Portale preisen einzelne Modelle als günstige Alternative zu Geräten etablierter Marken an – und nehmen es mit der Prüfung offenbar nicht immer so genau. Wir haben den Bmax B6 Plus nach einem Leserhinweis bei Amazon gekauft und tiefer nachgeforscht.

Weiterlesen nach der Anzeige

Für rund 220 Euro wirkt der kleine Rechner zunächst wie ein echtes Schnäppchen. An Bord sind ein Core-i3-Prozessor, 12 GByte Arbeitsspeicher und eine 512 GByte große NVMe-SSD, dazu WLAN, Gigabit-Ethernet sowie drei Display-Anschlüsse. Obendrein liegt dem Kampfpreis Windows 11 Pro bei, für das im Handel sonst rund 150 Euro fällig werden. Doch der günstige Eindruck täuscht: Im Test stießen wir auf gleich mehrere Fallstricke – von Sicherheitslücken über eine ungültige Windows-Lizenz bis hin zu Schadsoftware, die direkt vom Hersteller stammt. Die gute Nachricht: Es gibt eine deutlich sinnvollere Alternative, die wir ebenfalls unter die Lupe genommen haben. Worin die Schwächen des Bmax B6 Plus genau liegen und welche Option wir stattdessen raten, seht ihr im Video:

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externes YouTube-Video (Google Ireland Limited) geladen.


(gho)



Source link

Weiterlesen

Beliebt