Fast alle Quellen erfunden: 10.000 Dollar Strafe für US-Anwalt nach KI-Nutzung

In Kalifornien muss ein Anwalt 10.000 US-Dollar Strafe bezahlen, weil einer seiner Anträge bei Gericht voller falscher Quellenangaben war, die eine KI generiert hatte. Das berichtet das Nachrichtenportal CalMatters und ergänzt, dass es sich um die höchste Strafe handelt, die in dem US-Bundesstaat wegen solch eines Vergehens gegen einen einzelnen Anwalt verhängt wurde. Laut dem Gericht waren 21 von 23 Zitaten, die der Anwalt aufgeführt hat, frei erfunden. Der wiederum habe eingestanden, dass er den generierten Text vor der Einreichung bei Gericht nicht gelesen hatte. ChatGPT habe ihm lediglich seinen Ausgangstext verbessern sollen. Er habe nicht gewusst, dass die Technik Dinge erfinden würde.

KI am Gericht ein immer größeres Problem

Ereignet hat sich der Vorfall laut CalMatters bereits im Sommer 2023, wenige Wochen nachdem die ChatGPT-Firma OpenAI erklärt hat, dass ihr KI-Modell sogar eine juristische Abschlussprüfung bestehen könnte. Der Anwalt habe versichert, dass er seinen Berufungsantrag selbst geschrieben habe, dann aber mithilfe von ChatGPT verbessern wollte. Obwohl ihn das nun ganz schön teuer zu stehen kommt, halte er es für unrealistisch, von Anwälten und Anwältinnen zu erwarten, dass sie keine KI einsetzen. Die Technik sei längst ein wichtiges Werkzeug, bei der Benutzung sollte man aber vorsichtig sein. Die Geldstrafe wurde jetzt wegen eines unseriösen Berufungsantrags, Verstößen gegen die Gerichtsregeln, dem Zitieren falscher Fälle und der Verschwendung von Zeit und Steuergeldern verhängt, zitiert CalMatters.

Der abschließend von einem Berufungsgericht entschiedene Fall ist bei weitem nicht der erste, in dem KI für Probleme vor einem Gericht gesorgt hat. Im Rahmen zweier unterschiedlicher Projekte wurden inzwischen jeweils schon hunderte Vorfälle zusammengetragen, in denen KI-Technik für erfundene Quellenverweise in Gerichtsdokumenten verantwortlich war. Der Rechtsexperte Mark McKenna von der University of California, Los Angeles gibt Universitäten und Anwaltskanzleien eine Mitschuld, denn dort werde man regelrecht bombardiert mit der Aufforderung, KI zu benutzen, ohne richtig darüber nachzudenken, zitiert ihn das Nachrichtenportal. Deshalb meint er, dass das Problem noch schlimmer werden wird, bevor irgendwann eine Besserung eintritt.

(mho)