Connect with us

Künstliche Intelligenz

Fast alle Quellen erfunden: 10.000 Dollar Strafe für US-Anwalt nach KI-Nutzung


In Kalifornien muss ein Anwalt 10.000 US-Dollar Strafe bezahlen, weil einer seiner Anträge bei Gericht voller falscher Quellenangaben war, die eine KI generiert hatte. Das berichtet das Nachrichtenportal CalMatters und ergänzt, dass es sich um die höchste Strafe handelt, die in dem US-Bundesstaat wegen solch eines Vergehens gegen einen einzelnen Anwalt verhängt wurde. Laut dem Gericht waren 21 von 23 Zitaten, die der Anwalt aufgeführt hat, frei erfunden. Der wiederum habe eingestanden, dass er den generierten Text vor der Einreichung bei Gericht nicht gelesen hatte. ChatGPT habe ihm lediglich seinen Ausgangstext verbessern sollen. Er habe nicht gewusst, dass die Technik Dinge erfinden würde.

Ereignet hat sich der Vorfall laut CalMatters bereits im Sommer 2023, wenige Wochen nachdem die ChatGPT-Firma OpenAI erklärt hat, dass ihr KI-Modell sogar eine juristische Abschlussprüfung bestehen könnte. Der Anwalt habe versichert, dass er seinen Berufungsantrag selbst geschrieben habe, dann aber mithilfe von ChatGPT verbessern wollte. Obwohl ihn das nun ganz schön teuer zu stehen kommt, halte er es für unrealistisch, von Anwälten und Anwältinnen zu erwarten, dass sie keine KI einsetzen. Die Technik sei längst ein wichtiges Werkzeug, bei der Benutzung sollte man aber vorsichtig sein. Die Geldstrafe wurde jetzt wegen eines unseriösen Berufungsantrags, Verstößen gegen die Gerichtsregeln, dem Zitieren falscher Fälle und der Verschwendung von Zeit und Steuergeldern verhängt, zitiert CalMatters.

Der abschließend von einem Berufungsgericht entschiedene Fall ist bei weitem nicht der erste, in dem KI für Probleme vor einem Gericht gesorgt hat. Im Rahmen zweier unterschiedlicher Projekte wurden inzwischen jeweils schon hunderte Vorfälle zusammengetragen, in denen KI-Technik für erfundene Quellenverweise in Gerichtsdokumenten verantwortlich war. Der Rechtsexperte Mark McKenna von der University of California, Los Angeles gibt Universitäten und Anwaltskanzleien eine Mitschuld, denn dort werde man regelrecht bombardiert mit der Aufforderung, KI zu benutzen, ohne richtig darüber nachzudenken, zitiert ihn das Nachrichtenportal. Deshalb meint er, dass das Problem noch schlimmer werden wird, bevor irgendwann eine Besserung eintritt.


(mho)



Source link

Künstliche Intelligenz

Analyse: Verbraucher haben mit dem Digital Markets Act größere Auswahl


Kaum ein gutes Haar lassen US-Tech-Riesen wie Apple und Google am Digital Markets Acts (DMA) der EU. Auch Nutzer und der Mittelstand gehörten zu den Verlierern, so ihre Einwände. Der Dachverband der europäischen Verbraucherorganisationen, Beuc, bricht dagegen nun eine Lanze für die neuen, seit 2024 geltenden Wettbewerbsregeln. In den vergangenen Jahrzehnten litten Verbraucher ihm zufolge unter missbräuchlichen Praktiken von Big-Tech-Unternehmen wie geschlossenen Ökosystemen (Walled Gardens), der Bindung an bestimmte Dienste (Lock-ins), eingeschränktem Zugang zu Alternativen und höheren Preisen. Der DMA sei entstanden, um diese unfairen Praktiken effektiver anzugehen und von vornherein zu verhindern.

Weiterlesen nach der Anzeige

Das traditionelle Wettbewerbsrecht habe sich auf den schnellen Technologiemärkten als zu langsam und wenig schlagkräftig erwiesen, schreibt Beuc in einem Bericht zu den „ersten Blüten“ der Wettbewerbsverordnung. Kartellverfahren dauerten oft Jahre und der Schaden sei in der Zwischenzeit längst eingetreten. Digitale Märkte seien parallel für das tägliche Leben der Konsumenten essenziell geworden – etwa für den Zugang zu Informationen, den Einkauf von Produkten oder die Kommunikation.

Achtzehn Monate nach Inkrafttreten des DMA ist es laut den Brüsseler Verbraucherschützern noch zu früh für eine abschließende Bilanz: Viele der erfassten Gatekeeper („Torwächter“) hielten sich noch nicht vollumfänglich an die Vorschriften. Dennoch hätten sich bereits konkrete Vorteile für die Verbraucher ergeben. Ein wichtiger Erfolg sei etwa, dass iOS-Nutzer nun einen Auswahlbildschirm erhalten, um ihren Standardbrowser festzulegen. Seit dem Apple-Update 18.2 im Oktober 2024 könnten Nutzer aus einer Liste der meistgeladenen Internet-Navigationswerkzeuge wählen. Darunter seien auch Wettbewerber wie Ecosia, DuckDuckGo, Opera und Brave. Das sei ein bedeutender Fortschritt im Vergleich zur Zeit vor dem DMA, als Nutzer zum vorinstallierten und -eingestellten Safari gedrängt wurden.

Ferner könnten Verbraucher auf iOS- und iPadOS-Geräten nun auch Standard-Apps für eine Vielzahl von Kategorien frei wählen, ist der Analyse zu entnehmen. Mit dem Update 18.4 seien Nutzer in der Lage, von Drittanbietern installierte Apps für Navigation, Übersetzung, E-Mail, Anrufe, Messaging, Kamera oder Fotos als Standard festzulegen und sogar vorinstallierte Apple-Apps zu entfernen. Zuvor seien eigene Anwendungen des iPhone-Bauers oder von ihm bevorzugte Drittanbieter-Apps voreingestellt gewesen.

Im Bereich der kontaktlosen Zahlungen auf iPhones sind Verbraucher ebenfalls nicht mehr gezwungen, Apple Pay zu nutzen, lobt Beuc. Alternative Zahlungsdienstleister konnten so seit Anfang 2025 erstmals ihre Dienste für iPhone-Nutzer einführen. Schließlich sei auch der Zwang zur Nutzung von Gmail für die Erstellung eines Google-Kontos etwa für den Einsatz der Mobilplattform Android Geschichte. User könnten nun stattdessen eine E-Mail-Adresse eines Drittanbieters verwenden. Hierzulande untersagte es das Landgericht Mainz Google vor wenigen Monaten ausdrücklich auf DMA-Basis, den eigenen E-Mailservice Gmail bei der Einrichtung eines Android-Smartphones zu bevorzugen.

Weiterlesen nach der Anzeige

Trotz dieser ersten Erfolge sieht Beuc noch Bereiche, in denen Gatekeeper mutmaßlich gegen den DMA verstoßen. Um die volle Einhaltung des Gesetzes zu gewährleisten, fordert der Verband die EU-Kommission dringend auf, die Durchsetzung der Vorschriften auf die nächste Stufe zu heben. Dies erfordere schnellere Verfahren, ausreichende Ressourcen und die formelle Eröffnung von Untersuchungen in den noch offenen Verdachtsfällen. Dabei soll die Kommission auf eine Kombination aus Dialog und entschiedenen Sanktionen setzen, um eine schnelle Einhaltung zu erzwingen.

Die Verbraucherschützer kritisieren, dass Torwächter unvollständige oder nicht konforme Lösungen einführten, bevor sie eine finale Einigung mit der Kommission erzielten. Das führe zu Frustration bei den Anwendern. Die Brüsseler Regierungsinstitution sollte daher die Befugnis erhalten, die Einführung neuer Compliance-Lösungen einzufrieren, bis sie von Dritten geprüft und freigegeben worden sind. Ferner müssten Gatekeeper verpflichtet werden, die Neutralität ihrer Lösungsansätze zu testen und die Ergebnisse der Kommission und Dritten zugänglich zu machen.

Zudem empfiehlt Beuc, den DMA an neue Technologien anzupassen. Dazu gehöre die Prüfung der Benennung von Cloud-Diensten wie iCloud und OneDrive als zentrale Plattformdienste, da diese oft standardmäßig auf neuen Geräten voreingestellt seien und Lock-in-Effekte erzeugen könnten. Auch Systeme für generative KI wie ChatGPT, Gemini, Meta AI und Copilot sollten als solche wichtigen Services eingestuft werden, möglicherweise unter der Kategorie der virtuellen Assistenten. Dies soll verhindern, dass Gatekeeper ihre bestehenden Dienste missbrauchen, um ihre eigenen Chatbots wettbewerbswidrig zu fördern. Nicht zuletzt unterstützt der Verband die Prüfung von Interoperabilitätsanforderungen für Social-Media-Dienste von Gatekeepern, um Netzwerkeffekte aufzubrechen, die Verbrauchern Wechsel erschweren.


(nen)



Source link

Weiterlesen

Künstliche Intelligenz

Digitale Souveränität: „Am Ende gilt für die US-Konzerne immer das US-Recht.“


Seit Donald Trumps Amtsantritt ist die IT-Welt in Deutschland und Europa eine andere. Die Sorge, dass der US-Präsident die digitale Vorherrschaft der US-Konzerne als Machthebel ausnutzt, liegt nahe. Der Fall des Internationalen Strafgerichtshofs, der sich wohl nicht zuletzt aus Furcht vor US-Sanktionen von Microsoft abgewandt und für openDesk entschieden hat, illustriert das eindrucksvoll. Im Interview erklärt CDU-Politiker Ralph Brinkhaus, was Digitalpolitik für mehr Souveränität tun kann. Das Interview fand via E-Mail statt.

Weiterlesen nach der Anzeige




(Bild: 

Tobias Koch

)

Ralph Brinkhaus ist seit 2009 als Mitglied des Deutschen Bundestags. Von 2018 bis 2022 war er Fraktionsvorsitzender der CDU/CSU-Bundestagsfraktion. Seit 2025 ist Brinkhaus Vorsitzender der Arbeitsgruppe für Digitales und Staatsmodernisierung der CDU/-CSU Bundestagsfraktion. Sein Kernthema ist dabei die Modernisierung des Staates.

Der erratische Stil von Trumps US-Regierung lässt viele Marktteilnehmer zweifeln, ob sie weiter IT der großen US-Konzerne nutzen sollten. Welche Chancen birgt das für deutsche Anbieter?

Darin liegen große Chancen für deutsche IT-Anbieter. Die kürzlich verkündete Entscheidung des Internationalen Strafgerichtshofs zur Nutzung von openDesk ist dafür ein Beispiel. Allerdings hoffe ich nicht nur auf Chancen für Open-Source-Modelle, sondern auch auf Chancen für europäische Anbieter proprietärer Software.

Welche Rolle spielt denn Open Source für die Souveränität und die heimische IT-Wirtschaft? Oder ist Herkunft entscheidender als die Quelloffenheit der Software?

Open Source ist ein Baustein für die Souveränität, aber nicht die abschließende Lösung für alle Fragen der digitalen Souveränität. Wir müssen auch an den deutschen IT-Mittelstand mit proprietären Angeboten denken. Und es geht mir bei der ganzen Souveränitätsdiskussion nicht darum, künftig zu 100 Prozent in allen Bereichen nur noch deutsche und europäische Lösungen zu haben. Es geht darum, einseitige Abhängigkeiten auf ein kontrollierbares Maß zu senken.

Was muss die deutsche Digitalpolitik jetzt dafür tun, um die hiesige IT-Wirtschaft voranzubringen?

Zunächst einmal muss die hiesige IT-Wirtschaft sich durch wettbewerbsfähige Produkte selbst voranbringen. Wir sind und bleiben eine soziale Marktwirtschaft. Gleichzeitig muss der Staat mit gutem Beispiel vorangehen – also sich selbst erstmal durchdigitalisieren. Daran arbeiten wir mit Hochdruck, von der Verwaltungsdigitalisierung bis zur Modernisierungsagenda. Und der Staat kann als Ankerkunde auftreten. Das kann und muss noch verstärkt werden. Derzeit ist beispielsweise das neue Vergaberechtsgesetz im Gesetzgebungsverfahren, und die Bundesregierung hat bereits im Entwurf vorgesehen, dass bei der Auftragsausführung künftig digitale Souveränität berücksichtigt werden kann.

Weiterlesen nach der Anzeige

Helfen Vergaberegeln, den EU-Anbietern mehr Chancen einzuräumen?

Ja, das kann ein großer Schritt sein. Mit dem Staat als Ankerkunden können Unternehmen Umsatz und Gewinn generieren und diesen wiederum in die Weiterentwicklung ihrer Produkte investieren. Ein international bekanntes Beispiel dafür ist SpaceX, das am Anfang vor allem Regierungsaufträge bekommen hat und dann auch auf dem kommerziellen Markt sehr erfolgreich expandiert ist.

Das Digitalministerium hat erst kürzlich festgestellt, dass Deutschland und seine Verwaltung in vielen Bereichen von US-Technik abhängig sind. Warum setzen gerade deutsche Behörden und Ministerien so sehr auf Microsoft und Co.?

Dies gilt nach meiner Kenntnis nicht nur für Behörden, sondern für Deutschland insgesamt. Microsoft hat den größten Marktanteil. Mir geht es darum, ob wir künftig zu große einseitige außereuropäische Abhängigkeiten reduzieren können – und damit meine ich nicht nur Software, sondern auch Rohstoffe etc. Es geht nicht darum, alles Außereuropäische auf null herunterzufahren. Wir sollten niemals versuchen, eine Insel in der Welt sein.

Die großen US-Konzerne reagieren auf die aktuelle Souveränitätsdebatte mit mehr oder minder vom US-Mutterschiff abgetrennten Clouds – womit man speziell auch die regulatorischen Vorgaben von Behörden bedienen will. Zementiert das nicht vorhandene Abhängigkeiten?

Ja, und außerdem glaube ich nicht an eine vollständige Abtrennung. Spätestens bei der Wartung sind sie doch wieder auf das Mutterschiff angewiesen. Und am Ende gilt für die US-Konzerne immer das US-Recht.

Welche internationalen IT-Partner außerhalb der EU werden auch in Zukunft einen guten Ruf genießen können?

Ich denke, dass wir beispielsweise mit Kanada, Südkorea und Japan durchaus sehr gute IT-Partner haben, und bin mir sicher, dass dies auch so bleiben wird.

Warum haben wir diese Debatte vor allem über die Abhängigkeit von US-Cloud-Anbietern, aber nicht bei chinesischen IT-Hardware-Herstellern?

Wir haben die Debatte bei chinesischen IT-Hardware-Herstellern von Anfang an geführt – denken Sie nur an die Umsetzung der NIS1-Richtlinie und die Huawei-Diskussionen noch unter der Regierung von Bundeskanzlerin Merkel. Derzeit ist das NIS2-Umsetzungsgesetz im parlamentarischen Verfahren.

Erleben wir gerade das Ende der Globalisierungs-Ära und stattdessen eine Neubesinnung auf nationale Champions?

Wir erleben in der derzeitigen geopolitischen Neuordnung und dem US-China-Handelskonflikt tatsächlich ein Stück weit ein Ende der sogenannten Globalisierungs-Ära. Das heißt aber nicht, dass wir uns nur noch auf nationale Champions fokussieren. Wir bleiben dem freien Handel auch im Digitalbereich verpflichtet, wir dürfen dabei aber nicht naiv sein. Sonst werden wir in Europa irgendwann am Ende der Wertschöpfungskette stehen.

Herr Brinkaus, vielen Dank für die Antworten!


(axk)



Source link

Weiterlesen

Künstliche Intelligenz

iX-Workshop: Nach dem Einbruch – Digital Forensics & Incident Response (DFIR)


Cyberattacken zielen darauf ab, durch böswillige Aktivitäten wie Phishing, Ransomware, Malware oder andere Cyberangriffe unberechtigten Zugriff auf IT-Systeme und Daten zu erlangen, um anschließend dem Unternehmen Schaden zuzufügen.

Weiterlesen nach der Anzeige

Im zweitägigen iX-Workshop Digital Forensics & Incident Response lernen Sie Tools und Techniken kennen, um Cyberangriffe schnell zu erkennen, betroffene Systeme zu identifizieren, Angriffsspuren zu sichern und geeignete Gegenmaßnahmen einzuleiten. Nach der Schulung sind Sie in der Lage, aktiv an der Reaktion auf Cybervorfälle mitzuwirken und die Rückkehr zum Normalbetrieb professionell zu unterstützen.

In diesem Sicherheitsworkshop arbeiten Sie mit einer virtuellen Windows-Maschine, an der Sie die vorgestellten Techniken und Strategien direkt und selbstständig in der Praxis ausprobieren können.

Durch den Workshop führt Sie Johann Rabbow. Als Head of Digital Forensics & Incident Response Spezialist beim Beratungsunternehmen Oneconsult unterstützt er Unternehmen bei der Bewältigung von Cyberattacken und untersucht die Methoden der Angreifer bis auf den letzten Befehl.


IT-Security-Workshops

IT-Security-Workshops


(ilk)



Source link

Weiterlesen

Beliebt