Justizministerium: So sollen Hersteller von Software und KI für Produkte haften

In Deutschland soll es zeitnah einen breiten Rahmen für Schadenersatzansprüche bei fehlerhaften Produkten auch im Bereich Soft- und Hardware geben. Das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) hat dazu am Donnerstag einen Gesetzentwurf zur Modernisierung des Produkthaftungsrechts veröffentlicht. Die neuen Regeln betreffen insbesondere Schäden, die durch fehlerhafte Computerprogramme – einschließlich von Software im Bereich Künstliche Intelligenz (KI) – verursacht wurden. Ein relevantes Beispiel hierfür sind Unfälle mit autonom fahrenden Fahrzeugen.

Künftig sollen Geschädigte, die durch ein fehlerhaftes Produkt einen Sachschaden oder eine Körperverletzung erleiden, laut dem Referentenentwurf auch einfacher Schadensersatz vom Hersteller erhalten können. Das BMJV will mit der Initiative die Vorgaben der neuen, Ende 2024 in Kraft getretenen EU-Produkthaftungsrichtlinie „1:1“ in deutsches Recht umsetzen. Das muss bis Anfang Dezember 2026 erfolgen. Ziel der EU-Vorgaben ist es, das Produkthaftungsrecht an die Anforderungen der Digitalisierung, der Kreislaufwirtschaft und globaler Wertschöpfungsketten anzupassen.

Der Entwurf, der noch das Bundeskabinett sowie Bundestag und Bundesrat passieren muss, sieht mehrere wesentliche Änderungen vor. Künftig soll Software – unabhängig von der Art ihrer Bereitstellung und Nutzung – generell in die Produkthaftung einbezogen werden. Auch KI-Systeme fallen unter diese Bestimmung, gerade wenn sie „lernfähig“ sind.

Open Source und Updates

Ausgenommen bleibt Open-Source-Software, die jenseits einer Geschäftstätigkeit entwickelt oder bereitgestellt wird. Das BMJV erläutert dazu in der Begründung: Würden solche Programme mit frei verfügbarem Quellcode von einem Hersteller im Rahmen einer Geschäftstätigkeit als Komponente in ein Produkt integriert, hafte letzterer für Schäden, die durch Softwarefehler verursacht werden. Die Bereitstellung von Open Source durch Non-Profit-Organisationen erfolge grundsätzlich nicht im Rahmen einer Geschäftstätigkeit. Würden Programme jedoch entgeltlich oder gegen personenbezogene Daten bereitgestellt, die auf andere Weise als ausschließlich zur Verbesserung der Sicherheit, Kompatibilität oder Interoperabilität der Software verwendet werden, liege eine kommerzielle Tätigkeit vor.

Hersteller können laut dem Plan künftig auch für Fehler haften, die durch Updates oder Upgrades verursacht werden. Gleiches gilt für das Fehlen solcher Softwareflicken, die zum Aufrechterhalten der Sicherheit erforderlich wären. Ferner sollen künftig auch verbundene digitale Dienste berücksichtigt werden, wie etwa Verkehrsdaten für das Navigationssystem eines autonomen Fahrzeugs. Wenn diese Steuerhilfe plötzlich ausfällt und das Robo-Auto daraufhin einen Unfall verursacht, „haften sowohl der Fahrzeughersteller als auch der Anbieter des Navigationsdienstes“, ist dem Entwurf zu entnehmen.

Voraussetzung ist, dass der Dienst mit Einverständnis des Fahrzeugherstellers mit dem Auto verbunden wurde und einen folgenschweren Fehler verursacht. Ersatzfähig sind Schäden, die aus Körper- oder Gesundheitsverletzungen oder Defekten von Sachen resultieren, die nicht ausschließlich für berufliche Zwecke verwendet werden und bei denen es sich nicht um das fehlerhafte Produkt selbst handelt. In diesem Fall soll die Haftung des Herstellers des autonomen Fahrzeugs sowie des Anbieters des verbundenen Dienstes neben der des Fahrzeughalters und des Fahrers nach dem Straßenverkehrsgesetz greifen.

Plattform-Betreiber sind eingeschlossen

Zugunsten der Kreislaufwirtschaft sieht das BMJV vor: Wird ein Produkt nach dem Inverkehrbringen etwa durch Upcycling wesentlich umgestaltet, soll der die Änderungen durchführende Hersteller künftig als haftbar gelten. Befindet sich der Produzent außerhalb der EU in globalen Wertschöpfungsketten und ist nicht greifbar, sollen unter bestimmten Umständen auch Importeure, Fulfilment-Dienstleister, Lieferanten und Anbieter von Online-Plattformen haften. Letzteres gilt, wenn Verbraucher davon ausgehen können, dass das Produkt entweder von einem Portal selbst oder von einem unter ihrer Aufsicht stehenden Nutzer bereitgestellt wird.

Wenn ein Produktfehler feststeht und die erlittene Verletzung typischerweise darauf zurückzuführen ist, wird dem Vorhaben nach der ursächliche Zusammenhang zwischen dem Fehler und dem Schaden grundsätzlich vermutet. Zudem könnten Gerichte Unternehmen anweisen, Beweismittel offenzulegen. Der Schutz von Geschäftsgeheimnissen soll dabei gewährleistet bleiben. Diese Anpassungen sind eine Reaktion auf die zunehmende Komplexität moderner Produkte wie vernetzter Geräte und Software.

Den Entwurf hat das BMJV an Länder und Verbände versandt. Interessierte Kreise können bis zum 10. Oktober Stellung beziehen. Justizministerin Stefanie Hubig (SPD) betonte: „Ob eine fehlerhafte KI einen Schaden verursacht oder eine lockere Schraube – das darf für die Ansprüche von Verbraucherinnen und Verbrauchern keinen Unterschied machen.“ Von der Reform profitierten letztlich auch Unternehmen, „die sichere Produkte auf den Markt bringen“.

(mho)