Neue Produkthaftungsrichtlinie: Software und Chat-Assistenten

Seit 1985 regelt eine europäische Richtlinie, wer für fehlerhafte Produkte einsteht, und sie hatte bewegliche Sachen im Blick. Die Richtlinie (EU) 2024/2853 löst sie ab und nennt Software ausdrücklich als Produkt, gleich ob sie auf einem Gerät läuft oder als Dienst aus dem Netz kommt. Für Anbieter und Betreiber eines Chat-Assistenten stellt sich damit neben den bekannten Fragen aus Vertrags- und Wettbewerbsrecht eine neue: Kann ein Assistent ein fehlerhaftes Produkt sein, und wer haftet dann wofür? Dieser Beitrag ordnet die Richtlinie anhand ihres Wortlauts ein: Produktbegriff, Stichtage, Schadensarten, Fehlerbegriff, Updates, Beweisregeln und die Abgrenzung zu anderen Haftungsgrundlagen. Er erklärt die Rechtslage und ersetzt im Einzelfall keine fachliche Beratung.

Grafik vergrößern

Beschriftungen der Abbildung

• Bis 8.12.2026 in Verkehr gebracht
• bisheriges Recht gilt weiter (Art. 21)
• Ab 9.12.2026 in Verkehr gebracht: Richtlinie (EU) 2024/2853
• Art. 2 Abs. 1 in der berichtigten Fassung, Umsetzung bis 9.12.2026 (Art. 22)
• 1
• Inverkehrbringen
• Ausschlussfrist von
• zehn Jahren beginnt
• Art. 17 Abs. 1
• 2
• Betrieb mit Updates
• bleibt unter Kontrolle
• des Herstellers
• Art. 4 Nr. 5, ErwG 19
• 3
• Update fehlt
• ohne Sicherheitsupdate kein
• Einwand späterer Entstehung
• Art. 11 Abs. 2
• 4
• Wesentlich geändert
• gilt als neu bereitgestellt
• und Frist beginnt neu
• ErwG 40, Art. 17 Abs. 1
• Erfasste Schäden (Art. 6)
• Tod, Körperverletzung, psychische Gesundheit
• Sachen, nicht ausschließlich beruflich genutzt
• Daten in privater Nutzung, samt Wiederherstellung
• Für sich nicht erfasst (ErwG 24)
• Reine Vermögensschäden, etwa durch falsche Preise
• Verletzungen der Privatsphäre, Diskriminierung
• Dafür: Vertrag, UWG, DSGVO (Art. 2 Abs. 4)
• Ansprüche: drei Jahre ab Kenntnis (Art. 16), vertraglich nicht ausschließbar (Art. 15)

Produkthaftung im Lebenszyklus eines Chat-Assistenten

Software wird zum Produkt

Das deutsche Produkthaftungsgesetz setzt bisher die Richtlinie 85/374/EWG um und fasst den Produktbegriff eng. Nach seinem § 2 ist Produkt jede bewegliche Sache, auch wenn sie Teil einer anderen beweglichen oder einer unbeweglichen Sache ist, sowie Elektrizität. Software kommt in diesem Wortlaut nicht vor. Die neue Richtlinie hält es für nötig, im Interesse der Rechtssicherheit klarzustellen, dass Software ein Produkt ist (Erwägungsgrund 13), und nimmt sie in die Begriffsbestimmung auf:

Wie weit das reicht, erläutert derselbe Erwägungsgrund. Software ist danach unabhängig von der Art ihrer Bereitstellung oder Nutzung ein Produkt, gleich ob sie auf einem Gerät gespeichert, über ein Kommunikationsnetz oder Cloud-Technologien abgerufen oder durch ein Software-as-a-Service-Modell bereitgestellt wird. Als Beispiele nennt die Richtlinie Betriebssysteme, Firmware, Computerprogramme, Anwendungen und KI-Systeme. Entwickler oder Hersteller von Software, einschließlich der Anbieter von KI-Systemen im Sinne der KI-Verordnung, sollen als Hersteller gelten. Ein Chat-Assistent, der als Dienst auf einer Website läuft, fällt also nicht schon deshalb heraus, weil niemand eine Datei herunterlädt.

Stichtage: wann die neuen Regeln greifen

Die Richtlinie stammt vom 23. Oktober 2024 und richtet sich an die Mitgliedstaaten. Sie müssen ihre Vorschriften bis zum 9. Dezember 2026 (Richtlinie EU 2024/2853, Artikel 22) anpassen. Für welche Produkte die neuen Regeln gelten, bestimmt Artikel 2 Absatz 1, und dieser Absatz ist im Mai 2026 berichtigt worden: Erfasst sind Produkte, die nach dem 8. Dezember 2026 (Berichtigung zur Richtlinie EU 2024/2853) in Verkehr gebracht oder in Betrieb genommen werden. Die ursprüngliche Fassung nannte an dieser Stelle den 9. Dezember. Mit der Berichtigung passt der Anwendungsbereich zur Übergangsregel: Die alte Richtlinie 85/374/EWG wird mit Wirkung vom 9. Dezember 2026 aufgehoben und gilt weiter für Produkte, die vor diesem Zeitpunkt in Verkehr gebracht oder in Betrieb genommen wurden (Artikel 21).

Für einen Chat-Assistenten, der als Dienst betrieben und laufend verändert wird, ist der Zeitpunkt des Inverkehrbringens nicht immer leicht zu bestimmen. Die Richtlinie gibt einen Anhaltspunkt: Erfolgt eine wesentliche Änderung durch ein Software-Update oder aufgrund des kontinuierlichen Lernens eines KI-Systems, soll das veränderte Produkt als zum Zeitpunkt der tatsächlichen Änderung bereitgestellt oder in Betrieb genommen gelten (Erwägungsgrund 40). Wesentlich ist eine Änderung nach Artikel 4 Nummer 18, wenn die Vorschriften über die Produktsicherheit sie so einstufen oder, wo sie keinen Maßstab enthalten, wenn sie die ursprüngliche Leistung, den Zweck oder die Art des Produkts verändert, ohne dass das in der ursprünglichen Risikobewertung vorgesehen war, und sich dadurch die Art der Gefahr ändert, eine neue Gefahr entsteht oder das Risikoniveau steigt. Ein Assistent, der vor dem Stichtag am Markt war, kann so nach einer wesentlichen Änderung unter die neuen Regeln fallen.

Auch die Fristen hängen teils am Zeitpunkt des Inverkehrbringens. Ansprüche verjähren in drei Jahren (Richtlinie EU 2024/2853, Artikel 16), gerechnet ab dem Tag, an dem die geschädigte Person von Schaden, Fehlerhaftigkeit und haftendem Wirtschaftsakteur Kenntnis erlangt hat oder vernünftigerweise hätte erlangen müssen. Unabhängig davon besteht nach zehn Jahren (Richtlinie EU 2024/2853, Artikel 17) ab dem Inverkehrbringen in der Regel kein Anspruch mehr, sofern nicht bereits ein Verfahren läuft. Bei einem wesentlich veränderten Produkt beginnt diese Frist mit seiner erneuten Bereitstellung, und für Körperverletzungen mit Latenzzeit sieht Artikel 17 Absatz 2 eine längere Frist vor.

Wer bei einem Assistenten als Hersteller gilt

Haftbar ist in erster Linie der Hersteller des fehlerhaften Produkts (Artikel 8 Absatz 1). Hersteller ist nach Artikel 4 Nummer 10, wer ein Produkt entwickelt, herstellt oder produziert, wer es entwerfen oder herstellen lässt oder durch Anbringen seines Namens, seiner Marke oder eines anderen Erkennungszeichens als Hersteller auftritt, und wer es für den Eigenbedarf entwickelt. Daneben haftet der Hersteller einer fehlerhaften Komponente, wenn sie unter der Kontrolle des Herstellers in ein Produkt integriert wurde und dessen Fehlerhaftigkeit verursacht hat. Bei einem Chat-Assistenten wirken typischerweise mehrere Beteiligte zusammen, und die Richtlinie ordnet sie nicht namentlich zu. Die Übersicht zeigt, an welchen Merkmalen die Zuordnung ansetzt:

Ersatz gibt es nur für Schäden natürlicher Personen (Artikel 5). Ein Unternehmen, das einen Assistenten einsetzt, kann aus der Richtlinie also keinen Ersatz für eigene Schäden verlangen; das Verhältnis zum Softwareanbieter regelt der Vertrag. Für Menschen, die mit dem Assistenten arbeiten oder ihn nutzen, gilt dagegen: Tod und Körperverletzung sind ohne Rücksicht auf den Verwendungszweck erfasst, während Sachen, die ausschließlich beruflich genutzt werden, und beruflich genutzte Daten ausgenommen sind (Artikel 6 Absatz 1, Erwägungsgrund 22). Ob ein Betreiber im konkreten Aufbau als Hersteller, als Lieferant oder gar nicht als Wirtschaftsakteur gilt, hängt an Vertrag, Aufmachung und Kontrolle über die einzelnen Teile. Diese Zuordnung sollte vor Vertragsschluss mit fachlicher Beratung geklärt werden.

Welche Schäden erfasst sind

Die Richtlinie ersetzt nicht jeden Nachteil, den ein Produkt verursacht. Artikel 6 Absatz 1 zählt die Schadensarten abschließend auf, und für einen Chat-Assistenten ist diese Liste der erste Prüfpunkt:

• Tod oder Körperverletzung, einschließlich medizinisch anerkannter Beeinträchtigungen der psychischen Gesundheit.
• Beschädigung oder Zerstörung von Sachen; ausgenommen sind das fehlerhafte Produkt selbst, ein Produkt, das durch eine vom Hersteller oder unter seiner Kontrolle integrierte fehlerhafte Komponente beschädigt wurde, und Sachen, die ausschließlich für berufliche Zwecke verwendet werden.
• Vernichtung oder Beschädigung von Daten, die nicht für berufliche Zwecke verwendet werden; ersetzt werden dabei auch die Kosten für Rettung oder Wiederherstellung (Erwägungsgrund 20).
• Vermögensschäden, die sich aus diesen Schäden ergeben, sowie immaterielle Schäden, soweit das nationale Recht dafür eine Entschädigung vorsieht (Artikel 6 Absatz 2).

Für den Alltag eines Assistenten heißt das: Die meisten Fehler, die im Chat vorkommen können, sind keine Produkthaftungsfälle. Ein falsch genannter Preis, eine erfundene Lieferzusage oder eine unzutreffende Qualifikationsangabe führen, wenn überhaupt, zu einem Vermögensschaden oder zu einer Irreführung. Dafür gelten Vertrags- und Wettbewerbsrecht; wie das Wettbewerbsrecht hier greift, zeigt das Urteil zur Chatbot-Haftung nach dem OLG Hamm. Auch eine Datenschutzverletzung ist für sich kein Produkthaftungsfall; das Datenschutzrecht bleibt nach Artikel 2 Absatz 4 unberührt. Bedeutung gewinnt die Richtlinie dort, wo ein Assistent auf Körper, Sachen oder private Daten einwirken kann, etwa über Werkzeuge, die in einem Kundenkonto Daten verändern, oder über Auskünfte zur sicheren Verwendung eines Produkts.

Der Fehlerbegriff: welche Sicherheit man erwarten darf

Ein Produkt ist fehlerhaft, wenn es nicht die Sicherheit bietet, die eine Person erwarten darf oder die nach Unionsrecht oder nationalem Recht vorgeschrieben ist (Artikel 7 Absatz 1). Absatz 2 zählt die Umstände auf, die bei der Beurteilung zu berücksichtigen sind. Mehrere davon zielen unmittelbar auf Software, und für einen Chat-Assistenten lassen sie sich so lesen:

Zwei Klarstellungen sind für Betreiber besonders aufschlussreich. Erstens genügen Warnhinweise nicht, um ein ansonsten fehlerhaftes Produkt sicher zu machen; die Haftung lässt sich nicht einfach dadurch vermeiden, dass alle denkbaren Nebenwirkungen aufgeführt werden (Erwägungsgrund 31). Ein Satz wie „Der Assistent kann sich irren“ ist in diesem Sinn Teil der Aufmachung, aber kein Ersatz für einen sicheren Aufbau. Zweitens ist ein Produkt nicht allein deshalb fehlerhaft, weil es später ein besseres Produkt oder ein Update gibt (Artikel 7 Absatz 3). Wer seinen Assistenten verbessert, räumt damit für sich genommen keinen Fehler der früheren Fassung ein (Erwägungsgrund 35).

Der heikelste Grenzfall für Assistenten liegt bei Auskünften zur Verwendung von Produkten. Fragt jemand im Chat, wie ein Gerät angeschlossen oder ein Mittel dosiert wird, und folgt einer falschen Antwort, kann ein Körper- oder Sachschaden entstehen. Ob das als Fehler der Assistentensoftware gilt oder als bloße Information, die nach Erwägungsgrund 13 kein Produkt ist, beantwortet die Richtlinie nicht ausdrücklich. Wer Anwendungsfragen nach dem Kauf im Chat beantwortet, sollte sicherheitsrelevante Angaben deshalb nur aus geprüften Quellen wie der Bedienungsanleitung beantworten lassen und im Zweifel an einen Menschen verweisen.

Updates und Sicherheitsaktualisierungen

Neu ist, dass die Verantwortung eines Herstellers nicht mit der Auslieferung endet. Ein Produkt steht nach Artikel 4 Nummer 5 unter der Kontrolle des Herstellers, wenn er Software-Updates oder -Upgrades selbst bereitstellen oder durch einen Dritten bereitstellen lassen kann; Erwägungsgrund 19 stellt das ausdrücklich für die Zeit nach dem Inverkehrbringen klar. Bei einem Assistenten, der als Dienst betrieben wird, ist das der Regelfall, denn der Anbieter kann eine neue Fassung ausrollen, ohne dass beim Betreiber etwas installiert werden muss. Für solche Fälle schränkt Artikel 11 Absatz 2 einen wichtigen Entlastungsgrund ein:

Dahinter nennt die Vorschrift vier Ursachen: einen verbundenen Dienst, Software einschließlich Software-Updates oder -Upgrades, das Fehlen von Updates, die zur Aufrechterhaltung der Sicherheit erforderlich sind, und eine wesentliche Änderung des Produkts. Der Einwand, der Fehler sei erst nach dem Inverkehrbringen entstanden, trägt in diesen Fällen nicht. Erwägungsgrund 51 setzt zwei Grenzen: Die Richtlinie sieht keine Verpflichtung zur Bereitstellung von Updates vor, und die Haftung soll nicht gelten, wenn die Installation außerhalb der Kontrolle des Herstellers liegt, etwa weil der Eigentümer ein bereitgestelltes Update nicht installiert. Welche Cybersicherheitsanforderungen an Produkte mit digitalen Elementen gelten und welche Meldungen anfallen, regelt unabhängig davon die Cyberresilienz-Verordnung; dazu der Beitrag zur CRA-Meldepflicht für Chat-Assistenten.

Bei XICBOT laufen Aktualisierungen auf drei getrennten Ebenen: die Software über den Ausrollweg, das eingebettete Widget über Fassungsnamen ohne Zutun des Betreibers und das Wissen über die Auffrischfrist je Quelle. Das Änderungsprotokoll nennt bei jedem Eintrag die Ebene, damit erkennbar ist, ob der Betreiber etwas tun muss. Die Wissensbasis schreibt jeden Indexlauf in eine neue Fassung und schaltet erst am Ende um; frühere Fassungen bleiben für einen Rücksprung liegen. Wie sich ein Assistent aktualisieren lässt, ohne ihn abzuschalten, beschreibt der Beitrag zur Aktualisierung im laufenden Betrieb.

Offenlegung von Beweismitteln und Vermutungen

Den Fehler, den Schaden und den ursächlichen Zusammenhang muss weiterhin der Kläger beweisen (Artikel 10 Absatz 1). Die Richtlinie gleicht aber aus, dass Geschädigte selten wissen, wie ein Produkt intern arbeitet. Legt ein Kläger Tatsachen und Beweismittel vor, die seinen Anspruch plausibel stützen, ist der Beklagte auf Antrag verpflichtet, relevante Beweismittel in seiner Verfügungsgewalt offenzulegen (Artikel 9 Absatz 1). Die Offenlegung bleibt auf das erforderliche und verhältnismäßige Maß beschränkt, Geschäftsgeheimnisse sind zu schützen, und das Gericht kann eine leicht zugängliche und verständliche Form verlangen. Dazu kommen Vermutungen: Die Fehlerhaftigkeit wird unter anderem vermutet, wenn der Beklagte relevante Beweismittel nicht offenlegt (Artikel 10 Absatz 2). Ist der Beweis trotz der Offenlegung nach Artikel 9 insbesondere wegen technischer oder wissenschaftlicher Komplexität übermäßig schwierig, genügt es, wenn der Kläger nachweist, dass ein Fehler oder der Zusammenhang wahrscheinlich ist (Artikel 10 Absatz 4); der Beklagte kann jede Vermutung widerlegen. Für KI-Systeme hält die Richtlinie fest:

Für Anbieter eines Assistenten folgt daraus vor allem eine Frage der Nachvollziehbarkeit: Lässt sich im Nachhinein zeigen, welche Fassung zu einem Zeitpunkt aktiv war, aus welchen Quellen eine Antwort stammt und welche Regeln galten? Bei XICBOT ist die Bindung an Quellen die Kernmechanik: Der Assistent antwortet aus dem, was in den hinterlegten Quellen steht, statt frei zu formulieren; eine Fundstelle zählt erst als verwendet, wenn ihre Nummer im Antworttext steht, und eine fertige Antwort ohne eine einzige verwendete Fundstelle wird als Lücke vermerkt. Wie das arbeitet, beschreibt die Seite zur Wissensbasis. Welche Rechtsfolge eine solche Dokumentation im Streitfall hat, lässt sich daraus nicht ableiten; sie macht aber nachvollziehbar, worauf eine Antwort beruhte. Beweisbarkeit spricht für Protokolle, das Datenschutzrecht für Datensparsamkeit. Beides lässt sich häufig verbinden, indem Fassungen, Regeln und Quellen länger vorgehalten werden als einzelne Gesprächsverläufe; dazu der Beitrag zu Löschfristen für Chatprotokolle.

Abgrenzung: Vertrag, Wettbewerbsrecht und OLG-Hamm-Urteil

Die Produkthaftung tritt neben andere Haftungsgrundlagen, sie verdrängt sie nicht. Artikel 2 Absatz 4 lässt das Datenschutzrecht und Ansprüche nach nationalem Recht über die vertragliche oder außervertragliche Haftung aus anderen Gründen als der Fehlerhaftigkeit eines Produkts ausdrücklich unberührt. Für einen Chat-Assistenten ergeben sich so mehrere Ebenen, die unterschiedliche Fragen stellen und unterschiedliche Personen berechtigen:

Der Unterschied zum Urteil des OLG Hamm liegt im Gegenstand. Dort ging es um die wettbewerbsrechtliche Zurechnung irreführender Aussagen eines Chatbots an das Unternehmen, das ihn einsetzt. Die Produkthaftungsrichtlinie fragt dagegen verschuldensunabhängig nach der Sicherheit eines Produkts und nach Schäden natürlicher Personen. Eine Gemeinsamkeit haben beide: Wer den Rahmen eines Systems setzt und es steuern kann, kann sich schwer auf dessen Eigenständigkeit berufen. Wie Streitfälle um Mängel im Chat behandelt werden, beschreibt der Beitrag zu Reklamation und Gewährleistung.

Gegenüber Geschädigten lässt sich die Haftung nicht vertraglich begrenzen: Die Mitgliedstaaten stellen sicher, dass die Haftung eines Wirtschaftsakteurs nach der Richtlinie weder durch eine vertragliche Bestimmung noch durch nationales Recht beschränkt oder ausgeschlossen wird (Artikel 15). Erwägungsgrund 56 nennt dafür ausdrücklich auch finanzielle Obergrenzen. Haften mehrere Wirtschaftsakteure für denselben Schaden, kann einer, der Schadensersatz geleistet hat, nach nationalem Recht bei den anderen Rückgriff nehmen (Artikel 14). Zuständigkeiten und Mitwirkung zwischen Anbieter und Betreiber regelt dagegen der Vertrag. Für Kleinst- und Kleinunternehmen, die Software als Komponente liefern, lässt Artikel 12 Absatz 2 zudem einen vertraglichen Verzicht des integrierenden Herstellers auf den Rückgriff zu.

Was Anbieter und Betreiber jetzt prüfen können

Bis zum Stichtag bleibt Zeit, den eigenen Assistenten entlang der Richtlinie durchzugehen. Was davon im Gespräch trägt, zeigen Testfragen, die vor dem Livegang und nach jeder Änderung gestellt werden; wie eine solche Abnahme aufgebaut ist, beschreibt der Beitrag KI-Assistent abnehmen. Die folgenden Punkte ersetzen keine rechtliche Prüfung, ordnen aber die Fragen, die dabei gestellt werden:

• Geklärt ist, wer im eigenen Aufbau Software entwickelt, wer Komponenten liefert und unter wessen Namen der Assistent auftritt.
• Für jede Funktion ist festgehalten, ob sie auf Körper, Sachen oder private Daten einwirken kann, etwa über Werkzeuge im Kundenkonto.
• Sicherheitsrelevante Auskünfte, etwa zur Verwendung eines Produkts, kommen nur aus geprüften Quellen; sonst verweist der Assistent auf Anleitung oder Mensch.
• Updates und Sicherheitsaktualisierungen haben eine Zuständigkeit und werden mit Zeitpunkt dokumentiert.
• Fassungen von Regeln, Anweisungen und Wissensbasis lassen sich einem Zeitpunkt zuordnen.
• Verträge mit Anbietern regeln Rückgriff, Updatezuständigkeit und Mitwirkung bei einer Offenlegung von Beweismitteln.
• Aufbewahrungsfristen berücksichtigen Beweisinteresse und Datensparsamkeit zugleich.

Häufige Fragen