Das Landgericht Frankfurt hat klargestellt, dass KI-Fehler unter bestimmten Voraussetzungen als potenzielle Wettbewerbsbehinderung eingestuft werden können. Damit eröffnet sich für Unternehmen die Möglichkeit, sich auf Basis des Kartellrechts gegen falsche KI-Texte zur Wehr zu setzen. Hintergrund dieser Entwicklung ist die wachsende Sorge vor dem „Zero-Click“-Effekt, bei dem Nutzer ihre Antworten direkt in den KI-Zusammenfassungen von Google finden und die Webseiten der ursprünglichen Urheber nicht mehr besuchen.

In dem Eilverfahren ging es um die Darstellung einer medizinischen Prozedur zur Penisverlängerung (Az.: 2-06 O 271/25). Ein Ärzteverbund kritisierte eine KI-Übersicht, die fälschlicherweise behauptete, bei dem Eingriff werde ein verborgener Teil des Penis durchtrennt und nach außen verlagert. Die Kläger sahen darin eine geschäftliche Beeinträchtigung durch sinkende Klickzahlen und versuchten, Google die Verbreitung unter Berufung auf das Kartellrecht sowie den Digital Markets Act (DMA) untersagen zu lassen.

Der Antrag scheiterte in dem konkreten Fall zwar, trotzdem enthält das mittlerweile veröffentlichte Urteil vom 10. September Signale für Unternehmen, die vom Suchmaschinen-Traffic abhängen. Die Richter stellten so etwa fest, dass deutsche Gerichte international zuständig sind und hiesiges Recht anwendbar ist. Da das Bundeskartellamt Google bereits eine marktübergreifende Bedeutung bescheinigte, unterliegt der Konzern einer besonderen Missbrauchsaufsicht.

Google hat Glück gehabt

Betroffene können sich deshalb grundsätzlich auf das kartellrechtliche Missbrauchsverbot nach den Paragrafen 33 und 19 des 2021 reformierten Gesetzes gegen Wettbewerbsbeschränkungen (GWB) berufen. Das Gericht hielt es ausdrücklich für möglich, dass objektiv falsche Angaben in KI-Übersichten eine unbillige Behinderung des Wettbewerbs darstellen können. Dabei sieht es insbesondere bei gesundheitsbezogenen Informationen ein erhebliches Gefahrenpotenzial für das Gemeinwohl.

Eine der zentralen Rechtsfragen blieb jedoch vorerst ungeklärt: Die 6. Zivilkammer ließ offen, ob Google die KI-Texte als eigene Äußerungen zuzurechnen sind oder ob es sich lediglich um ein Aggregat von Drittinformationen handelt. Aus der Urteilsbegründung geht hervor: Es könne offenbleiben, ob Google erfolgreich einwenden kann, dass es sich nur um Informationen Dritter handelt. Genauso wenig wollten die Richter klären, ob die Übersicht als selbst generiertes „Konglomerat“ – vergleichbar einer Zusammenfassung im Sinne der Rechtsprechung des Bundesgerichtshofs etwa zu „Auto-Complete“ – zu begreifen ist. Wären die KI-Zusammenfassungen als eigene Informationen gewertet worden, hätte das die Haftung für Google deutlich verschärft.

Dass der Antrag der Mediziner keinen Erfolg hatte, lag an der hohen juristischen Hürde der „Unbilligkeit“. Das Gericht betonte, eine Haftung auf Unterlassung bestehe nur, wenn eine unbillige Behinderung vorliege. Daran sind hohe Anforderungen zu stellen, die nicht bei jeder Unrichtigkeit erfüllt werden. In einer Gesamtabwägung kam die Kammer zum Schluss: Die Falschaussage war im spezifischen Gesamtkontext für den Durchschnittsnutzer nicht so schwerwiegend, dass sie eine sofortige einstweilige Verfügung gerechtfertigt hätte. Google profitierte dabei von der Ansicht der Richter, dass der Fehler durch den Kontext quasi „geheilt“ werden konnte.

Fehlerquote unter Verschluss

Auch die Vorwürfe hinsichtlich des Digital Markets Acts blieben ohne Erfolg, da die Richter die KI-Übersicht lediglich als Teil des Suchergebnisses und nicht als separates Produkt im Sinne von Artikel 6 DMA einstuften. Für den IT-Anwalt Jens Ferner unterstreicht diese Interpretation, dass KI-generierte Zusammenfassungen nicht automatisch als eigenständige Dienstleistungen gelten, solange sie sich auf die Suchanfrage beziehen und keine externen Angebote verdrängen. Trotzdem bewertet die Kanzlei Plutte das Urteil als „gute Nachricht“: Denn das Landgericht halte es dem Grunde nach für möglich, dass falsche KI-Angaben andere Unternehmen unbillig behindern können.

Google selbst wollte sich auf Anfrage von heise online nicht zu dem Richterspruch äußern. Offizielle Statistiken zur Fehlerquote hält der US-Konzern unter Verschluss. Um Risiken zu minimieren, hat Google die Ausspielrate bei sensiblen Themen wie Medizin oder Finanzen auf teils unter einem Prozent gedrosselt. Google versucht sich rechtlich zudem durch den Hinweis „experimentell“ abzusichern.

Insgesamt bietet das Urteil Experten zufolge so einen ersten Orientierungsansatz. Es ist aber kein Schlusspunkt in der Haftungsfrage. Es gibt für Google keinen „Freifahrtschein“. Hinweise des Suchmaschinenbetreibers wie „KI-Antworten können Fehler enthalten“ reichen nicht aus, wenn systematisch Falschinformationen verbreitet werden. Für betroffene Unternehmen eröffnet das Urteil zwar den kartellrechtlichen Weg. Es setzt aber hohe Hürden, da die Falschheit im Gesamtkontext nachweisbar und die Behinderung unbillig sein muss. Der Erfolg künftiger Prozesse wird davon abhängen, ob andere Gerichte dieser suchmaschinenfreundlichen Sichtweise folgen oder eine strengere Zurechnung als eigene Äußerung wählen.

(dahe)

Das große graue Gerät piept beim Einstellen. Doch Ulrich Fehse kennt das schon, er macht das nicht zum ersten Mal. Routiniert beugt sich der 75-Jährige nach vorn, lehnt seine Stirn an die Vorrichtung und wartet, bis alles auf seine Augen eingestellt ist. „Können Sie da was lesen?“, fragt ihn die medizinische Fachangestellte vom Praxisteam. Der Patient legt los: „CNDT4.“

Ulrich Fehse ist in Salzwedel beim Augenarzt, obwohl kein Arzt da ist. Es kommt auch morgen keiner. Begleitet werden die Patienten vor Ort von fünf Frauen: Medizinische Fachangestellte, Optikermeisterinnen und Optikerinnen führen die Messungen durch. Im Anschluss werden die Daten von Augenärzten an anderen Orten ausgewertet. Die Patienten erhalten später eine Information über ihre Befundergebnisse, Folgetermine und bei Bedarf eine Überweisung zur weiterführenden Diagnostik.

Auf dem Land gehen die Fachärzte aus

Das Vorgehen in der Altmark könnte bald auch an anderen Orten in Sachsen-Anhalt Nachahmer finden. Besonders im ländlichen Raum gehen die Fachärzte aus. Immer wieder schließen Praxen, ohne dass es einen Nachfolger gibt.

Der Medizinermangel zeigt sich unter anderem in der Augenheilkunde. Aktuell sind sieben von 159,5 Stellen in Sachsen-Anhalt nicht besetzt. Die meisten offenen Stellen (3,5) gibt es im Altmarkkreis Salzwedel. Im Norden des Landes ist zudem jeder dritte Augenarzt älter als 60 Jahre, sodass die Versorgungssituation in den nächsten Jahren noch schwieriger werden könnte.

In Salzwedel ist es trotz finanzieller Anreize nicht gelungen, einen Augenarzt zu gewinnen. Hier habe es de facto eine „Nullversorgung“ gegeben, sagt der Vorstandsvorsitzende der Kassenärztliche Vereinigung, Jörg Böhme.

Feedback der Patienten ist positiv

Also musste die Kassenärztliche Vereinigung selbst aktiv werden. 2024 wurde das Modellprojekt „TEAS“ ins Leben gerufen – das steht für „Telemedizinische Einheit Augenheilkunde Salzwedel“. Das Feedback der Patienten sei bisher sehr positiv, sagt Böhme.

„Das ist eine gute Sache“, betont auch Patient Ulrich Fehse zwischen zwei Untersuchungen. Seine Augenärztin in Klötze sei in den Ruhestand gegangen. Durch „Mundpropaganda“ habe er schließlich von den Möglichkeiten in Salzwedel erfahren. Seine Hausärztin hat ihn dorthin überwiesen. „Man will ja wissen, was mit den Augen ist“, sagt der 75-Jährige. Er ist froh darüber, dass es in der Region ein augenärztliches Angebot gibt und er mit dem Auto nicht noch weitere Strecken zurücklegen muss.

Befunde werden an anderen Orten ausgewertet

Das Praxisteam prüft bei Ulrich Fehse die Sehschärfe, misst den Augeninnendruck und kontrolliert Hornhaut und Bindehaut. Das alles dauert keine halbe Stunde. Nun werden die Daten verschlüsselt digital übertragen. Jedes Gerät musste entsprechend an die Technik angebunden werden. Vier Augenärzte arbeiten aktuell mit der Einrichtung in Salzwedel zusammen und schauen sich die Befunde im Nachgang an – teilweise leben sie nicht einmal in Sachsen-Anhalt.

Einer der Ärzte ist Christian Heider. Etwa zwei bis drei Stunden pro Tag sitzt er an seinem Rechner. „Es ist praktikabel“, sagt der 70-Jährige, der seine Praxis nach 30 Jahren geschlossen hat und im Ruhestand noch ein wenig aktiv sein möchte. Im Bedarfsfall stellt er den Patienten Rezepte und Überweisungen für Operationen beim Spezialisten aus. Auch die Betreuung nach den Eingriffen kann er aus der Ferne übernehmen.

Alles, was organisatorisch mit den Patienten zu klären ist, erledigt das Praxisteam. Inzwischen kommen sogar einige Patienten aus Niedersachsen nach Salzwedel.

Ärzte werden entlastet

Das Land Sachsen-Anhalt fördert das Modellprojekt bis Ende 2026 mit rund zwei Millionen Euro. „Telemedizin trägt zu besseren Behandlungsergebnissen bei, da spezialisiertes Wissen unabhängig vom Standort verfügbar ist, Diagnosen schneller erfolgen und Therapien früher beginnen können“, sagt Gesundheitsministerin Petra Grimm-Benne (SPD). „Gleichzeitig entfallen für viele Patientinnen und Patienten lange Anfahrtswege.“

Und die Ministerin sieht noch einen weiteren Vorteil: Das Projekt belegt, dass bei der Diagnostik nicht immer zwingend Ärzte vor Ort erforderlich sind. Das Praxisteam könne zuarbeiten, betont die Ministerin. Das Thema Delegation von Leistungen werde immer wichtiger, auch um Fachärzte zu entlasten. Wobei auch Grimm-Benne und Böhme wissen: Das geht mit Telemedizin beim Augenarzt oder einer Kontrolle von Herzwerten einfacher als beim Orthopäden.

Welche Zukunft das Salzwedeler Projekt ab 2027 hat, ist noch offen. Ziel müsse es sein, dass das Modell in die Regelversorgung übergeht, sagt Jörg Böhme.

Darauf setzt auch Patient Ulrich Fehse. Zudem hat er einen Verbesserungsvorschlag. Es wäre schön, wenn auch ein persönlicher Kontakt zum Arzt möglich wäre, sagt der 75-Jährige. Böhme nickt. Dass ein Arzt in die Praxis kommt, ist zwar eher unwahrscheinlich. Aber eine Zuschaltung per Video hält der Chef der Kassenärztlichen Vereinigung für möglich.

Neue Plattform soll kommen

Das würde auch in die Gesamtstrategie des Landes passen. Denn Patienten in Sachsen-Anhalt sollen künftig noch stärker von telemedizinischen Leistungen profitieren. Die Universitätskliniken Halle und Magdeburg bauen gerade eine neue Plattform auf, die Telekonsultationen einfacher ermöglichen soll. Das Land fördert das Vorhaben mit rund zwölf Millionen Euro.

Ziel ist, Spezialisten digital dazuzuschalten und so in die Behandlung einzubinden. Die Patienten sparen so zusätzliche Wege. Mit der Plattform sollen auch fachliche Beratungen, die Fernüberwachung von Patienten oder der Austausch von Patientendaten vereinfacht werden.

Gesundheitsministerin Grimm-Benne sagt: „Angesichts des demografischen Wandels und des zunehmenden Fachkräftemangels müssen wir uns die Möglichkeiten der Digitalisierung zunutze machen.“

(mho)

Der Abschluss von Online-Abonnements, etwa für Nahverkehrstickets, ist oft mit Hürden verbunden. Insbesondere wenn Anbieter zusätzliche Identitätsprüfungen verlangen, können technische und rechtliche Probleme auftreten. Wir klären, welche Verfahren üblich sind, wo die Grenzen liegen und welche Besonderheiten bei Verträgen für Minderjährige gelten.

Identitätsprüfung im Netz

Um sich vor Betrug bei SEPA-Lastschriftverfahren zu schützen, setzen viele Unternehmen auf Online-Identifizierungsverfahren durch Dienstleister wie ID.Now. Damit soll sichergestellt werden, dass die Person, die den Vertrag abschließt, auch tatsächlich der Inhaber des angegebenen Bankkontos ist. Üblich sind dabei das Video-Ident-Verfahren, bei dem man seinen Ausweis in eine Kamera hält, oder alternativ die Verifizierung mittels der Online-Ausweisfunktion (eID) des Personalausweises. Die Nutzung der eID-Funktion ist dabei oft die schnellere und störungsärmere Alternative, da sie ohne Wartezeit auf einen menschlichen Mitarbeiter auskommt; sie setzt aber einen aktivierten Ausweis voraus.

Der Taschengeldparagraf

Beim Abschluss von Abos für Minderjährige entsteht oft ein praktisches Problem: Der Vertragsinhaber ist minderjährig, die Zahlungsdaten stammen aber von den Eltern. Diese Diskrepanz führt in vielen Buchungssystemen zu Fehlermeldungen, da automatische Prüfroutinen davon ausgehen, dass Kontoinhaber und Vertragspartner identisch sein müssen.

Grundsätzlich dürfen Minderjährige im Rahmen ihrer finanziellen Möglichkeiten selbst einkaufen. Für Dauerschuldverhältnisse wie Monatsabos oder Handyverträge gilt das jedoch nicht. Solche Verträge mit wiederkehrenden Zahlungen erfordern die Zustimmung der Erziehungsberechtigten, und die Eltern müssen sie für ihre minderjährigen Kinder abschließen. Dies regelt der sogenannte Taschengeldparagraf (§ 110 BGB). Der Gesetzgeber will junge Verbraucher damit vor langfristigen Zahlungsverpflichtungen schützen, deren Konsequenzen sie möglicherweise nicht vollständig absehen können.

Grenzen der Datensammlung

Fordert ein Unternehmen über die eigentliche Identitätsprüfung hinaus die dauerhafte Hinterlegung einer Ausweiskopie, ist dies aus datenschutzrechtlicher Sicht kritisch zu bewerten, erklärt Rechtsanwalt Niklas Mühleis im c’t-Podcast. Gemäß der Datenschutz-Grundverordnung (DSGVO) gilt der Grundsatz der Datenminimierung: Unternehmen dürfen nur die Daten erheben und speichern, die für die Vertragserfüllung zwingend notwendig sind. Eine einmalige Identifizierung kann notwendig sein, eine darüber hinausgehende Speicherung des Ausweisdokuments ist es in der Regel nicht.

Unternehmen sollten nach erfolgreicher Prüfung lediglich den Fakt der erfolgten Verifizierung vermerken und die sensiblen Ausweisdaten löschen. Dabei ist auch aus Unternehmenssicht Zurückhaltung geboten, da umfangreiche Datensammlungen das Risiko von Sicherheitsvorfällen erhöhen.

Was tun bei Problemen?

Scheitert der Online-Vertragsabschluss an technischen Hürden, sollten Betroffene zeitnah den Kundenservice kontaktieren. Manchmal verfügen die Mitarbeiter an der Hotline über erweiterte Systemmöglichkeiten, um Fehler zu beheben. Allerdings sitzen auch sie mitunter vor den gleichen Fehlermeldungen wie die Kunden.

Erhält man im Zuge der Bestellung eine E-Mail mit der Aufforderung zur Identifizierung, sollte man auf den Absender und den zeitlichen Zusammenhang achten. Kommt die Mail direkt vom Unternehmen, bei dem man gerade bestellt, ist sie in der Regel legitim.

Mehr zu Online-Abos, Identifizierungsverfahren und den Grenzen der Datensammlung besprechen wir in der aktuellen Folge des c’t-Verbraucherschutzpodcast „Vorsicht, Kunde!“.

Hier können Sie den c’t-Artikel zu dem im Podcast behandelten Streitfall nachlesen

Das c’t Magazin gibt es am Kiosk, im Browser und in der c’t-App für iOS und Android. Unsere c’t-Artikel finden Sie auch im digitalen Abo heise+. Wenn Sie dieses Angebot bisher nicht kennen, können Sie jetzt günstig reinschnuppern und uns damit unterstützen. Unter heiseplus.de/podcast bekommen Sie drei Monate heise+ zum Sonderpreis. Haben Sie Lust, weitere heise-Podcasts zu hören? Sie finden sie auf der Podcast-Seite.

c’t erreichen Sie online und auf vielen Social-Media-Kanälen

► c’t Magazin
► c’t bei WhatsApp
► c’t auf Mastodon
► c’t auf Instagram
► c’t auf Facebook
► c’t auf Bluesky

(uk)