EU schlägt neuen Haftungsrahmen für KI-Systeme vor

Bisherige nationale Haftungsvorschiften werden den Besonderheiten von KI-Systemen nicht gerecht. So stammt die gegenwärtige EU-Produkthaftungsrichtlinie noch aus dem Jahr 1985. Inzwischen sind fast vierzig Jahre vergangen. Neue Technologien haben sich entwickelt, deren Spezifika in den aktuellen nationalen haftungsrechtlichen Bestimmungen keinen Niederschlag finden.

Dies hat die EU-Kommission zum Anlass genommen, am 28. September 2022 sowohl eine neue Richtlinie über KI-Haftung als auch eine Aktualisierung der Produkthaftungsrichtlinie vorzuschlagen.

Richtlinie über KI-Haftung

Der Richtlinienvorschlag gilt für außervertragliche verschuldensabhängige zivilrechtliche Schadensersatzansprüche in Bezug auf solche Schäden, die von einem KI-System verursacht wurden. Primärer Zweck des Vorschlags für eine Richtlinie über KI-Haftung ist es, Rechtsunsicherheiten im Hinblick auf die Anwendung der bestehenden Haftungsvorschriften und die Bewertung eines eigenen Haftungsrisikos gerade für grenzüberschreitend tätige Unternehmen zu beseitigen.

Black-Box

Gerade der sog. Black-Box-Effekt der KI erschwert oft den Nachweis eines ursächlichen Zusammenhangs zwischen unrechtmäßiger Handlung oder Unterlassung einer Person und dem eingetretenen Schaden. Das Black-Box-Phänomen bezeichnet den Umstand, dass die algorithmische Logik der Entscheidungsfindung eines KI-Systems im Detail nicht nachvollziehbar und selbst für dessen Entwickler nicht erklärbar ist.

Der Richtlinienvorschlag enthält daher im Wesentlichen zwei wesentliche Elemente, die dem Umstand Rechnung tragen sollen, dass besondere Merkmale der KI potentiellen Opfern eine Schadensersatzklage erschweren.

Einführung einer Kausalitätsvermutung

Kernbestimmung des Vorschlags für eine Richtlinie über KI-Haftung ist die Vermutung eines ursächlichen Zusammenhangs zwischen einem Verschulden des Beklagten und dem Vorliegen bzw. Nichtvorliegen eines Ergebnisses des KI-Systems, wenn drei
Voraussetzungen vorliegen:

• Der Kläger weist einen Verstoß des Beklagten gegen eine im EU- oder nationalen Recht vorgesehene und für den Schaden relevante Sorgfaltspflicht nach.

• Nach vernünftigem Ermessen kann davon ausgegangen werden, dass dieses Verschulden das Ergebnis oder das Nichtvorliegen eines Ergebnisses des KI-Systems beeinflusst hat.

• Der Kläger weist nach, dass das Ergebnis des KI-Systems oder das Nichtvorliegen eines Ergebnisses zu dem Schaden geführt hat.

Damit soll potentiellen Klägern die Geltendmachung von Schadensansprüchen erleichtert werden.

Zugang zu Beweismitteln

Darüber hinaus sieht der Richtlinienvorschlag vor, dass potentielle Kläger die Offenlegung von einschlägigen Beweismitteln zu sog. Hochrisiko-KI-Systemen beantragen können, die vermutlich einen Schaden verursacht haben. Zuvor muss der Anspruchsteller den Anbieter bzw. Nutzer vergeblich zur Vorlage der Informationen aufgefordert haben. Zur Stützung seines Antrags muss der potentielle Kläger Tatsachen und Beweismittel vorlegen, die die Plausibilität seines Schadensersatzanspruchs belegen. Die Gerichte müssen dabei die Interessen aller Parteien, insbesondere in Bezug auf Geschäftsgeheimnisse, berücksichtigen.

Neue Produkthaftungsrichtlinie

Neben einem Vorschlag für eine Richtlinie über KI-Haftung hat die EU-Kommission auch einen Vorschlag für die Überarbeitung der Produkthaftungsrichtlinie aus dem Jahr 1985 (RL 1985/375 EEC) vorgelegt, der die aktuelle Produkthaftungsrichtlinie de facto durch eine neue Richtlinie ersetzt. Der Richtlinienvorschlag gilt für die verschuldensunabhängige Haftung von Herstellern für Schäden, die natürlichen Personen durch fehlerhafte Produkte entstehen.

Aktualisierung der Produktdefinition

Der aktuelle Entwurf sieht primär eine Neufassung der Produktdefinition vor. Bislang ist umstritten, inwiefern z.B. auch Software ein Produkt darstellt und damit dessen Hersteller verschuldensunabhängig haftet. Als Argument gegen die Anwendung des deutschen Produkthaftungsgesetzes, das die bisherige Produkthaftungsrichtlinie umsetzt, wurde bisher vorgebracht, dass es sich bei Software nicht um eine „bewegliche Sache“ i.S.d. Definition, sondern vielmehr um ein immaterielles Gut handle, das vom Produkthaftungsgesetz nicht geschützt werde. Klarheit schafft nun die im Richtlinienvorschlag enthaltene Definition, wonach nunmehr auch Software vom Produktbegriff umfasst sein soll. Damit fallen letztlich auch KI-Systeme in den vorgeschlagenen neuen Anwendungsbereich.

Zudem stellt der Entwurf ausweislich der erläuternden Kommentare im Richtlinienvorschlag sicher, dass Hersteller auch nach der Markteinführung ihres Produkts haften, z.B. für durch Software-Updates oder maschinelles Lernen ausgelöste Änderungen.

Schaden – Definition und Umfang

Der Begriff des Schadens soll nunmehr auch medizinisch anerkannte Schäden für die psychische Gesundheit umfassen sowie den Verlust oder die Beschädigung von Daten, die nicht ausschließlich zu beruflichen Zwecken verwendet werden. Zudem soll auch die Untergrenze von EUR 500 fallen, unterhalb derer bisher keine Schadensersatzansprüche nach dem Produkthaftungsgesetz geltend gemacht werden konnten.

Beweislast

Grundsätzlich muss der Kläger auch nach bisher geltendem Recht die Fehlerhaftigkeit des Produkts, den erlittenen Schaden sowie den ursächlichen Zusammenhang zwischen Fehlerhaftigkeit und Schaden nachweisen. Nach dem Vorschlag soll eine Fehlerhaftigkeit des Produkts jedoch zukünftig vermutet werden, wenn etwa das Produkt obligatorischen Sicherheitsanforderungen nach EU- oder nationalem Recht nicht entspricht. Gleiches gilt für den Kausalzusammenhang zwischen der Fehlerhaftigkeit des Produkts und dem eingetretenen Schaden. Auch dieser wird nach dem Vorschlag für eine neue Produkthaftungsrichtlinie vermutet, wenn feststeht, dass das Produkt fehlerhaft ist und der verursachte Schaden typischerweise mit dem betreffenden Fehler zusammenhängt.

Ausblick

Der KI-Richtlinienvorschlag sieht für die EU-Mitgliedstaaten einen Umsetzungszeitraum von zwei Jahren, für den Aktualisierungsvorschlag für die Produkthaftungsrichtlinie von einem Jahr vor. Insgesamt ist das EU-Vorhaben zu begrüßen, ist es doch neben dem Entwurf für eine KI-Verordnung nunmehr eine weitere gesetzgeberische Maßnahme, um bestehende Unsicherheiten auf Seiten von Rechtsanwendern zu beseitigen. Zuvor muss allerdings das europäische Gesetzgebungsverfahren durchlaufen werden, das insbesondere eine Annahme des Vorschlags durch EU-Kommission und EU-Mitgliedstaaten vorsieht.