KI-Halluzinationen: Google haftet, wenn der AI Overview Falsches behauptet

Kleber in Pizzakäse und eine Empfehlung für Steine essen waren zwei der abstrusen und populären Fehler, die Googles KI-Antwortsystem AI Overview zum Start im Frühjahr 2024 fabrizierte. Schon damals stellte sich die Frage, inwieweit Google für solche Fehler haftet. Das Landgericht München sagt nun, Google ist verantwortlich.

Noch handelt es sich um eine einstweilige Verfügung (Az. 26 O 869/26), die das Landgericht München I erlassen hat, berichtet Decoder. Google wird damit untersagt, falsche Behauptungen über zwei Verlage in den KI-Antworten zu verbreiten. Ein finales Urteil steht also noch aus.

Das Problem bei den Antworten war, dass Aussagen über die Verlage mit dubiosen Unternehmen vermischt worden sind. So entstanden falsche Behauptungen, die die Verlage im Zusammenhang mit Abofallen, Betrugsmaschen und unseriösen Geschäftspraktiken brachten, obwohl solche Inhalte in keiner der Quellen standen, berichtet Decoder.

Auf eine Abmahnung der Verlage hatte Google nicht reagiert. Daher kam es zur Klage.

Wer Antworten generiert, ist verantwortlich

Interessant ist vor allem, wie das Gericht die Entscheidung begründet. Wenn der AI Overview Antworten generiert, ist Google kein neutraler Vermittler von Informationen mehr. Aussagen werden mit der KI-Technologie des Unternehmens erzeugt, dementsprechend ist Google als Betreiber verantwortlich. Im Rechtsterminus wandelt sich das Unternehmen vom mittelbaren zum unmittelbaren Störer.

Das Kernargument des Gerichts ist: Der AI Overview erstellt eigenständig eine umfassende und strukturierte Antwort, die sich aus mehreren Quellen zusammensetzt und zusätzlichen Kontext bietet. Das gehe weit über das Anzeigen von Inhalten Dritter hinaus.

Haftungsprivileg gilt nicht mehr

Damit greift auch nicht mehr das Haftungsprivileg, auf das Suchmaschinen bislang verweisen können, wenn sie etwa bei Anreißertexten oder der Autovervollständigung die Inhalte von Verlagen nutzen. Klassische Suchmaschinen gelten nur als mittelbare Störer, sie machen lediglich auf Inhalte aufmerksam, die von Dritten stammen. Und die Rechtsprechung vom Bundesgerichtshof – auf die das Landgericht München laut dem Decoder-Bericht ausführlich Bezug nimmt – besagt, dass Suchmaschinen solche Inhalte nicht proaktiv prüfen müssen, da ansonsten die Funktionsfähigkeit von Suchmaschinen gefährdet sei.

Google selbst argumentiert, Nutzer könnten anhand der Quellen selbst prüfen, ob Inhalte korrekt sind. Ebenso wäre bekannt, dass per KI generierte Inhalte fehleranfällig sind. Beim Landgericht München hatte der Konzern mit dieser Verteidigung aber keinen Erfolg. Nur weil bekannt sei, dass man KI-Inhalten nicht blind trauen dürfe und diese prüfen kann, entbinde dieser Umstand Google nicht von der Verantwortung.

Stattdessen müsse Google sogar in der Pflicht stehen, weil ansonsten eine Schutzlücke drohe. Bei der klassischen Suchmaschine besteht zumindest die Möglichkeit, die Inhalte aus den Ergebnislisten anzupassen. Wenn der AI Overview Inhalte generiert, die über Aussagen in den Quellen hinausgehen, hätten Betroffene jedoch keine Möglichkeit, falsche Inhalte anpassen zu lassen.

Einstweilige Verfügung gilt international

In den meisten Klagepunkten bekamen die Kläger laut dem Decoder-Bericht Recht. Google muss daher 80 Prozent der Kosten tragen, die Kläger 10 Prozent.

Interessant ist noch: Laut dem Urteil ist die einstweilige Verfügung nicht auf das Gebiet der Bundesrepublik Deutschland beschränkt, sondern gilt international.

Eine Stellungnahme von Google steht noch aus.

Selbst kleine Fehlerraten sind bei der Google-Suche enorm

Noch ist das Urteil nicht final. Wenn sich die Rechtsprechung durchsetzt, dass KI-Anbieter für die Fehler in den Antworten haften, können die Konsequenzen weitreichend sein. Das gilt speziell für Google. Bei der Entwicklerkonferenz I/O 2026 erklärte der Konzern vor zwei Wochen, der AI Overview habe 2,5 Milliarden monatliche Nutzer und der KI-Modus komme auf 1 Milliarde monatliche Nutzer.

Dementsprechend groß ist die Anzahl der Antworten, die generiert wird. Das hat Konsequenzen auf die Fehlerrate. Laut einer Analyse der New York Times, die auf Zahlen des Startups Oumi basieren, lieferte die Google-Suche im Oktober mit dem Gemini-3-Modell im Benchmark SimpleQA in 91 Prozent der Fälle korrekte Antworten. Ein Wert, der über vergleichbaren KI-Assistenten zu dieser Zeit lag. Google zweifelt die Methodik dieser Analyse an.

Das Problem ist dennoch: Selbst eine einstellige Fehlerrate kann bei der Menge der Google-Anfragen zu einer kaum abschätzbaren Anzahl an Falschbehauptungen führen. Im Bericht der New York Times war von Hunderttausenden Fehlern pro Minute die Rede.