In Deutschland soll es zeitnah einen breiten Rahmen für Schadenersatzansprüche bei fehlerhaften Produkten auch im Bereich Soft- und Hardware geben. Das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) hat dazu am Donnerstag einen Gesetzentwurf zur Modernisierung des Produkthaftungsrechts veröffentlicht. Die neuen Regeln betreffen insbesondere Schäden, die durch fehlerhafte Computerprogramme – einschließlich von Software im Bereich Künstliche Intelligenz (KI) – verursacht wurden. Ein relevantes Beispiel hierfür sind Unfälle mit autonom fahrenden Fahrzeugen.

Künftig sollen Geschädigte, die durch ein fehlerhaftes Produkt einen Sachschaden oder eine Körperverletzung erleiden, laut dem Referentenentwurf auch einfacher Schadensersatz vom Hersteller erhalten können. Das BMJV will mit der Initiative die Vorgaben der neuen, Ende 2024 in Kraft getretenen EU-Produkthaftungsrichtlinie „1:1“ in deutsches Recht umsetzen. Das muss bis Anfang Dezember 2026 erfolgen. Ziel der EU-Vorgaben ist es, das Produkthaftungsrecht an die Anforderungen der Digitalisierung, der Kreislaufwirtschaft und globaler Wertschöpfungsketten anzupassen.

Der Entwurf, der noch das Bundeskabinett sowie Bundestag und Bundesrat passieren muss, sieht mehrere wesentliche Änderungen vor. Künftig soll Software – unabhängig von der Art ihrer Bereitstellung und Nutzung – generell in die Produkthaftung einbezogen werden. Auch KI-Systeme fallen unter diese Bestimmung, gerade wenn sie „lernfähig“ sind.

Open Source und Updates

Ausgenommen bleibt Open-Source-Software, die jenseits einer Geschäftstätigkeit entwickelt oder bereitgestellt wird. Das BMJV erläutert dazu in der Begründung: Würden solche Programme mit frei verfügbarem Quellcode von einem Hersteller im Rahmen einer Geschäftstätigkeit als Komponente in ein Produkt integriert, hafte letzterer für Schäden, die durch Softwarefehler verursacht werden. Die Bereitstellung von Open Source durch Non-Profit-Organisationen erfolge grundsätzlich nicht im Rahmen einer Geschäftstätigkeit. Würden Programme jedoch entgeltlich oder gegen personenbezogene Daten bereitgestellt, die auf andere Weise als ausschließlich zur Verbesserung der Sicherheit, Kompatibilität oder Interoperabilität der Software verwendet werden, liege eine kommerzielle Tätigkeit vor.

Hersteller können laut dem Plan künftig auch für Fehler haften, die durch Updates oder Upgrades verursacht werden. Gleiches gilt für das Fehlen solcher Softwareflicken, die zum Aufrechterhalten der Sicherheit erforderlich wären. Ferner sollen künftig auch verbundene digitale Dienste berücksichtigt werden, wie etwa Verkehrsdaten für das Navigationssystem eines autonomen Fahrzeugs. Wenn diese Steuerhilfe plötzlich ausfällt und das Robo-Auto daraufhin einen Unfall verursacht, „haften sowohl der Fahrzeughersteller als auch der Anbieter des Navigationsdienstes“, ist dem Entwurf zu entnehmen.

Voraussetzung ist, dass der Dienst mit Einverständnis des Fahrzeugherstellers mit dem Auto verbunden wurde und einen folgenschweren Fehler verursacht. Ersatzfähig sind Schäden, die aus Körper- oder Gesundheitsverletzungen oder Defekten von Sachen resultieren, die nicht ausschließlich für berufliche Zwecke verwendet werden und bei denen es sich nicht um das fehlerhafte Produkt selbst handelt. In diesem Fall soll die Haftung des Herstellers des autonomen Fahrzeugs sowie des Anbieters des verbundenen Dienstes neben der des Fahrzeughalters und des Fahrers nach dem Straßenverkehrsgesetz greifen.

Plattform-Betreiber sind eingeschlossen

Zugunsten der Kreislaufwirtschaft sieht das BMJV vor: Wird ein Produkt nach dem Inverkehrbringen etwa durch Upcycling wesentlich umgestaltet, soll der die Änderungen durchführende Hersteller künftig als haftbar gelten. Befindet sich der Produzent außerhalb der EU in globalen Wertschöpfungsketten und ist nicht greifbar, sollen unter bestimmten Umständen auch Importeure, Fulfilment-Dienstleister, Lieferanten und Anbieter von Online-Plattformen haften. Letzteres gilt, wenn Verbraucher davon ausgehen können, dass das Produkt entweder von einem Portal selbst oder von einem unter ihrer Aufsicht stehenden Nutzer bereitgestellt wird.

Wenn ein Produktfehler feststeht und die erlittene Verletzung typischerweise darauf zurückzuführen ist, wird dem Vorhaben nach der ursächliche Zusammenhang zwischen dem Fehler und dem Schaden grundsätzlich vermutet. Zudem könnten Gerichte Unternehmen anweisen, Beweismittel offenzulegen. Der Schutz von Geschäftsgeheimnissen soll dabei gewährleistet bleiben. Diese Anpassungen sind eine Reaktion auf die zunehmende Komplexität moderner Produkte wie vernetzter Geräte und Software.

Den Entwurf hat das BMJV an Länder und Verbände versandt. Interessierte Kreise können bis zum 10. Oktober Stellung beziehen. Justizministerin Stefanie Hubig (SPD) betonte: „Ob eine fehlerhafte KI einen Schaden verursacht oder eine lockere Schraube – das darf für die Ansprüche von Verbraucherinnen und Verbrauchern keinen Unterschied machen.“ Von der Reform profitierten letztlich auch Unternehmen, „die sichere Produkte auf den Markt bringen“.

(mho)

Aus dem Zusammenspiel von Mensch und KI-Technik könnte sich der nächste große evolutionäre Übergang der Erdgeschichte entwickeln, vergleichbar etwa mit dem Sprung von einzelligen zu mehrzelligen Organismen. Das ist die These eines Fachartikels zweier Evolutionsbiologen, die sie allerdings selbst als spekulativ bezeichnen. Doch gebe es bereits Mechanismen, die auf solch eine Entwicklung hinweisen. Möglich sei, dass Menschen künftig Fortpflanzung und Energie für ein wechselseitig abhängiges System mit KI bereitstellen, während letztere als Informationszentrum dient. Möglich seien aber auch unkontrollierbare Entwicklungen, wenn sich KI nach darwinistischen Prinzipien weiterentwickelt.

Sich selbst verstärkender Kreislauf

Als Künstliche Intelligenz (KI) bezeichnen die beiden Forscher „die Fähigkeit von gebauten Systemen, Aufgaben zu erledigen, für die Intelligenz nötig wäre, wenn Menschen sie machen“. Solche Technik sei immer stärker in die Infrastruktur des menschlichen Lebens integriert, von Empfehlungssystemen zu umfangreichen Frameworks für die Entscheidungsfindung. Die große Frage sei nun, ob wir damit an der Schwelle zu einer Veränderung stehen, die in der Biologie als „Große Evolutionäre Übergänge“ bekannt sind. Danach könnten Menschen und KI als „ein einziges evolutionäres Individuum“ funktionieren, „ähnlich wie einst die Verschmelzung zweier Mikroben zur Entstehung komplexer Zellen führte, auf denen alles vielzellige Leben basiert“.

Um ihre These zu untermauern, verweisen Paul Rainey vom Max-Planck-Institut für Evolutionsbiologie und Michael Hochberg von der Universität Montpellier auf Mechanismen des Zusammenwirkens, die sie bereits sehen. So würden KI-Systeme schon beeinflussen, wie Menschen ihre Partner auswählen, wie ihre Karriere voranschreitet und welchen Zugang sie zu Bildung bekommen. Weiterhin gebe es Rückkopplungsschleifen, in denen Menschen KI trainieren und die wiederum das Verhalten von Menschen prägen. Das sei ein sich selbst verstärkender Kreislauf. Weil Menschen KI zunehmend als Hilfe für ihr Gedächtnis, für Entscheidungen und zur Koordination benutzen, „könnte ein Leben ohne sie zunehmend schwierig werden“.

Prinzipiell wäre die Transformation „weder ungewöhnlich noch zwangsläufig bedrohlich“, versichert Hochberg. Zwar seien große Übergänge des Lebens häufig mit einem Verlust von Autonomie verbunden gewesen. Gleichzeitig führten sie aber zu „komplexeren und stabileren Organisationsformen“, etwa in Gesellschaften von Insekten. Als größere Herausforderung bezeichnen sie die Notwendigkeit, diesen Übergang zu formen. Geklärt werden müsse, wie KI mit Menschen interagiere, wie Verantwortungen verteilt werden und wie sie sich zusammen weiterentwickeln. Angesichts der enormen Geschwindigkeit, mit der KI weiterentwickelt werde, sei das schwierig. Es sei unklar, ob bestehende Werkzeuge dazu in der Lage sind. Ihre Arbeit haben sie im Fachmagazin PNAS veröffentlicht.

(mho)

Analoge Kameras sieht man nur noch selten, wenn überhaupt, dann in nostalgischen Filmen oder Serien und nicht im Urlaub. Doch gerade dieser passt mit Analogfotografie gut zusammen, denn beide sind etwas ganz Besonderes.

Reisen sind einmalige Erlebnisse. Man besucht Orte, die man noch nicht kennt, und hat plötzlich viel Zeit für sich selbst und seine Kamera. Spannung und Vorfreude begleiten die Planung und man lässt sich gerne auf Unerwartetes ein. Diese Abweichung vom Alltag verdient eine liebevolle Dokumentation, die sich durch Fotografie besonders gut umsetzen lässt. Wer die Spannung noch erhöhen, die Vorfreude über den Urlaub hinausstrecken oder besondere Momente im wahrsten Sinne des Wortes festhalten möchte, für den ist die analoge Fotografie ideal. Denn in einer immer schnelleren Welt kann es entschleunigend und beruhigend wirken, analoge Technik zu nutzen – Urlaub machen allemal! Im folgenden Artikel werde ich nicht nur romantisch begründen, weshalb jeder Fotointeressierte das einmal ausprobieren sollte, sondern auch auf mögliche Fallstricke und Schwierigkeiten hinweisen, um Sie bestmöglich auf Reisen mit analoger Ausrüstung vorzubereiten.

Die im Anschluss an den Urlaub entwickelten Fotos bewahren die Erinnerung an die schöne Zeit. Dabei sind sie oft tückisch: Schnell wünsche ich mich zurück an die besuchten Orte. Gleichzeitig betrachte ich die Bilder immer wieder und bin oft stolz auf das, was ich mit Ruhe, in einer ungewohnten Umgebung, mit Zeit und im besten Fall mit guter Stimmung auf den Film zaubern kann. Bei mir sind es häufig diese Bilder, die mir zeigen, wie viel ich gelernt habe: Wie schnell mein fotografischer Blick Situationen erfasst und wie gut mein Auge trainiert ist – vor allem, wenn neue Reize gesetzt werden. Das erste Anschauen der Urlaubsfotos ist elektrisierend und packend. Zunächst hoffe ich, dass die Motive, die noch in meinem Kopf präsent sind, auch auf den Fotos gut zu sehen sind. Gleichzeitig durchlaufe ich den eigenen Urlaub – oftmals chronologisch – noch einmal. Ich erinnere mich intensiv an Erlebtes und beginne, die Bilder vor dem inneren Auge mit dem gerade Gesehenen zu verknüpfen. Analoge Fotografie hat eben häufig den Charme, etwas verträumter zu wirken, als es der Moment in der Realität tatsächlich war – ein weiteres Argument für die Harmonie zwischen Urlaub und analoger Fotografie. Und so träumt man schon von zukünftigen Reisen oder sich zu bereits erlebten zurück. Der Look der Bilder erzeugt genau dieses Gefühl.

Das war die Leseprobe unseres heise-Plus-Artikels „Analogfotografie im Urlaub: Bewusstes Sehen, achtsames Auslösen“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.