Der Einsatz von KI verändert nicht die Grundprinzipien des Haftungsrechts, aber er stellt sie auf die Probe. Klassische Haftungsregeln gehen davon aus, dass ein Schaden auf ein menschliches Verhalten oder einen erkennbaren Produktfehler zurückführbar ist. KI-Systeme – insbesondere lernende und generative Modelle – arbeiten dagegen mit einem gewissen Grad an Autonomie, ihre Ergebnisse sind nicht immer vollständig vorhersehbar, und die Kette aus Datenlieferant, Modellhersteller, Integrator und Betreiber ist oft lang und unübersichtlich. Genau diese Eigenschaften erschweren die Zurechnung eines Schadens und werfen neue Beweis- und Verantwortungsfragen auf.
Wichtig ist vorab eine nüchterne Feststellung: Es gibt keine eigene „KI-Haftung“ als geschlossenes Rechtsgebiet. Vielmehr wenden Gerichte die bestehenden Haftungsinstrumente – vertragliche Haftung, deliktische Haftung und die Produkthaftung – auf Sachverhalte mit KI-Bezug an. Diese Instrumente werden derzeit durch das EU-Recht ergänzt und angepasst, allen voran durch die überarbeitete Produkthaftungsrichtlinie. Der rechtliche Rahmen befindet sich also in einer Phase der Weiterentwicklung; vieles ist noch nicht abschließend geklärt.
Drei Eigenschaften moderner KI-Systeme machen die Haftungsfrage anspruchsvoller als bei klassischer Software. Erstens die Autonomie: KI leitet aus Eingaben eigenständig Ergebnisse ab, ohne dass jeder Einzelfall vorprogrammiert wäre. Zweitens die Komplexität und Intransparenz: Bei vielen Modellen ist im Nachhinein schwer nachzuvollziehen, warum ein bestimmtes Ergebnis entstanden ist – das erschwert den Nachweis eines Fehlers und der Ursächlichkeit. Drittens die Vernetzung vieler Beteiligter: Ein einziges eingesetztes System kann auf Basismodellen Dritter, auf zugekauften Daten und auf Anpassungen mehrerer Dienstleister beruhen. Wenn dann etwas schiefgeht, ist die Frage „Wer war es?“ oft nicht trivial zu beantworten.
Für geschädigte Personen kann das eine erhebliche Hürde bedeuten: Sie müssen im Zweifel beweisen, dass ein Fehler vorlag und dass gerade dieser Fehler den Schaden verursacht hat. Genau an dieser Beweisproblematik setzen die aktuellen EU-Reformbestrebungen an – sie versuchen, den Nachweis für Geschädigte in bestimmten Konstellationen zu erleichtern, ohne die Innovationsfähigkeit zu ersticken.
Dieser Artikel richtet sich an Verantwortliche im DACH-Mittelstand – Geschäftsführung, IT-Leitung, Compliance und Fachbereiche –, die KI-Systeme einsetzen oder einführen und wissen wollen, welche Haftungsrisiken damit verbunden sind und wie sich diese sinnvoll begrenzen lassen. Er ersetzt keine individuelle rechtliche Prüfung. Wo es konkret wird, gilt durchgehend: Die Anwendbarkeit im Einzelfall ist mit einer Fachanwältin oder einem Fachanwalt zu klären. Dieser Beitrag liefert die sachliche Orientierung, um solche Gespräche gut vorbereitet zu führen.
Die vertragliche Haftung ist im unternehmerischen Alltag der häufigste Anknüpfungspunkt. Wer eine Leistung erbringt – etwa eine Software bereitstellt, eine KI-gestützte Beratung anbietet oder ein KI-Ergebnis in ein eigenes Produkt einfließen lässt – schuldet dem Vertragspartner eine mangelfreie Leistung. Führt ein KI-Fehler dazu, dass die Leistung mangelhaft ist oder eine zugesicherte Eigenschaft fehlt, kommt eine Haftung gegenüber dem Vertragspartner in Betracht. Der große Vorteil dieser Säule: Sie ist in weiten Teilen vertraglich gestaltbar. Leistungsbeschreibungen, Haftungsbegrenzungen, Zusicherungen und Mitwirkungspflichten lassen sich – in den Grenzen des zulässigen Rechts – aushandeln. Genau darin liegt ein zentraler Hebel der Risikosteuerung, auf den Kapitel 08 ausführlich eingeht.
Die deliktische Haftung greift dort, wo kein Vertrag besteht – etwa wenn ein KI-System einen unbeteiligten Dritten schädigt. Klassischerweise setzt sie ein Verschulden voraus: Wer eine im Verkehr erforderliche Sorgfalt verletzt und dadurch rechtswidrig ein geschütztes Rechtsgut (Leben, Körper, Gesundheit, Eigentum) verletzt, haftet. Bei KI wird gerade der Sorgfaltsmaßstab zur Schlüsselfrage: Was durfte man von einem sorgfältig handelnden Anbieter oder Betreiber erwarten? Wer ein KI-System ohne angemessene Prüfung, Überwachung oder menschliche Aufsicht einsetzt, kann eine Sorgfaltspflicht verletzen. Umgekehrt kann eine sorgfältige, dokumentierte Vorgehensweise die Haftung entkräften. Auch Verkehrssicherungs- und Organisationspflichten spielen hier eine Rolle – etwa die Pflicht, eingesetzte Systeme angemessen auszuwählen, zu überwachen und Beschäftigte zu befähigen.
Die dritte Säule ist die Produkthaftung. Sie ist besonders bedeutsam, weil sie verschuldensunabhängig ist: Der Geschädigte muss dem Hersteller kein Fehlverhalten nachweisen, sondern „nur“, dass das Produkt fehlerhaft war, dass ein Schaden entstanden ist und dass der Fehler den Schaden verursacht hat. Ein Produkt ist – vereinfacht – dann fehlerhaft, wenn es nicht die Sicherheit bietet, die man berechtigterweise erwarten darf. Historisch war umstritten, ob und wann Software überhaupt ein „Produkt“ in diesem Sinne ist. Genau hier setzt die überarbeitete EU-Produkthaftungsrichtlinie an, die Software und KI ausdrücklich erfasst – dazu ausführlich in Kapitel 03.
Das bisherige EU-Produkthaftungsrecht stammt aus einer Zeit, in der Produkte greifbare, körperliche Gegenstände waren. Für rein digitale Erzeugnisse und für Systeme, die sich nach dem Inverkehrbringen noch verändern – etwa durch Updates oder fortlaufendes Lernen –, passte dieser Rahmen nur schlecht. Die überarbeitete Richtlinie schließt diese Lücke: Sie stellt nach aktuellem Stand klar, dass auch Software – einschließlich KI-Systemen – als Produkt im Sinne der Produkthaftung gelten kann. Damit können Schäden, die durch fehlerhafte KI verursacht werden, grundsätzlich unter das verschuldensunabhängige Produkthaftungsregime fallen.
Mehrere Neuerungen sind für KI-nutzende Unternehmen besonders relevant. Diese Punkte sind eine vereinfachte, nicht abschließende Zusammenfassung nach aktuellem Stand:
Der Kern dieser Reform lässt sich in einem Satz zusammenfassen: Sie senkt die Hürden für Geschädigte und erhöht damit spiegelbildlich das Haftungsrisiko für Anbieter fehlerhafter KI-Produkte. Für Unternehmen, die KI-Produkte herstellen oder unter eigenem Namen anbieten, ist das ein starkes Signal, Qualität, Sicherheit und Dokumentation ernst zu nehmen.
Die Produkthaftung erfasst nach aktuellem Stand typischerweise Schäden an Leben, Körper und Gesundheit sowie bestimmte Sachschäden – und in der modernisierten Fassung sollen auch bestimmte Datenschäden erfasst werden können. Reine Vermögensschäden ohne Verletzung eines geschützten Rechtsguts sind über die Produkthaftung dagegen typischerweise nicht ohne Weiteres abgedeckt; hier bleiben vertragliche und deliktische Ansprüche der zentrale Weg. Für viele B2B-Konstellationen im Mittelstand – etwa fehlerhafte KI-Empfehlungen mit rein wirtschaftlichem Folgeschaden – ist deshalb die vertragliche Ebene oft entscheidender als die Produkthaftung. Welche Ansprüche im konkreten Fall greifen, hängt vom Sachverhalt ab und ist mit einer Fachanwältin oder einem Fachanwalt zu klären.
Die EU hatte ursprünglich ein Paket aus zwei Richtlinien geplant: die modernisierte Produkthaftungsrichtlinie und eine eigenständige KI-Haftungsrichtlinie. Während die Produkthaftung die verschuldensunabhängige Herstellerhaftung modernisiert, sollte die KI-Haftungsrichtlinie die verschuldensabhängige (deliktische) Haftung für KI-Sachverhalte harmonisieren und Geschädigten den Nachweis erleichtern – etwa durch Offenlegungspflichten und widerlegbare Kausalitätsvermutungen, wenn eine Sorgfaltspflicht verletzt wurde und der Zusammenhang mit dem KI-Verhalten plausibel ist.
Nach aktuellem Stand wurde der Vorschlag für die KI-Haftungsrichtlinie nicht weiterverfolgt und aus der Planung genommen. Die Gründe dafür sind vielschichtig und liegen unter anderem in der Sorge, dass ein zusätzliches, komplexes Regelwerk neben AI Act und Produkthaftungsrichtlinie zu Überregulierung und Rechtsunsicherheit führen könnte, sowie in unterschiedlichen Auffassungen darüber, ob die bestehenden und bereits reformierten Instrumente ausreichen. Das Ergebnis: Für die deliktische KI-Haftung gibt es nach aktuellem Stand kein eigenes, EU-weit harmonisiertes Sonderregime.
Der Rückzug bedeutet ausdrücklich nicht, dass die zugrunde liegenden Probleme verschwunden wären. Die Beweisschwierigkeiten bei komplexen, intransparenten KI-Systemen bestehen fort. Sie werden nun aber nach den allgemeinen Regeln des jeweiligen nationalen Delikts- und Beweisrechts behandelt – ergänzt durch die Beweiserleichterungen der Produkthaftung, soweit deren Anwendungsbereich reicht. Das kann in der Praxis bedeuten:
Der EU AI Act unterscheidet vor allem zwischen dem Anbieter (Provider), der ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt, und dem Betreiber (Deployer), der ein KI-System in eigener beruflicher Verantwortung einsetzt. Diese Rollen bestimmen zunächst die öffentlich-rechtlichen Pflichten aus dem AI Act. Für die zivilrechtliche Haftung sind sie nicht unmittelbar deckungsgleich – aber sie geben eine sehr brauchbare Orientierung, wer typischerweise für welche Risiken einzustehen hat und wessen Sorgfaltspflichten in einem Haftungsprozess näher betrachtet würden.
Der AI Act selbst begründet in erster Linie behördlich durchsetzbare Pflichten, keine unmittelbaren Schadensersatzansprüche. Dennoch besteht eine wichtige mittelbare Verbindung: Die im AI Act geforderten Sorgfaltsmaßnahmen – Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht, Transparenz – konkretisieren, was von einem sorgfältig handelnden Anbieter oder Betreiber erwartet werden darf. Wer diese Pflichten erfüllt und dokumentiert, hat gute Argumente, sorgfältig gehandelt zu haben. Wer sie verletzt, riskiert, dass dies in einem Haftungsprozess als Indiz für eine Sorgfaltspflichtverletzung gewertet wird. Die AI-Act-Konformität ist damit kein Haftungsausschluss, aber ein wichtiger Baustein der Haftungsvorsorge.
Wie schon beim AI Act gilt auch für die Haftung eine wichtige Warnung: Ein Betreiber kann faktisch in eine anbieterähnliche Verantwortung rutschen. Das passiert typischerweise, wenn ein Unternehmen ein zugekauftes KI-System unter eigenem Namen weitervermarktet, es wesentlich verändert (etwa durch tiefgreifendes Fine-Tuning oder Umnutzung für einen ganz anderen Zweck) oder ein KI-Ergebnis so in ein eigenes Produkt integriert, dass es aus Sicht der Kund:innen zur eigenen Leistung wird. In solchen Fällen wächst die Verantwortung – und damit das Haftungsrisiko. Wo genau die Grenze verläuft, ist juristisch heikel und im Einzelfall mit einer Fachanwältin oder einem Fachanwalt zu klären.
Zwischen dem reinen Anbieter und dem reinen Betreiber liegt in der Praxis oft eine ganze Kette: Anbieter von Basismodellen (General-Purpose AI), Distributoren, Importeure, Systemintegratoren und Datenlieferanten. Jeder dieser Akteure kann je nach Beitrag zum Schaden eine eigene Verantwortung tragen. Für den Mittelstand ist die praktische Konsequenz zentral: Man sollte wissen, mit wem man es in der Lieferkette zu tun hat, welche Rolle man selbst einnimmt und wie die Verantwortlichkeiten vertraglich verteilt sind. Genau hier verbindet sich die Rollenklärung mit der Vertragsgestaltung aus Kapitel 08.
Generative Systeme bergen eigene Haftungsrisiken. Zum einen produzieren sie mitunter überzeugend klingende, aber falsche Aussagen (Halluzinationen). Wird eine solche Falschaussage ungeprüft in Kundenkommunikation, Angebote, Gutachten oder Beratung übernommen, kann daraus eine Haftung entstehen – sei es vertraglich gegenüber Kund:innen oder deliktisch gegenüber Dritten. Zum anderen können generative Ausgaben in fremde Urheber- oder Kennzeichenrechte eingreifen oder ehrverletzende Inhalte enthalten. Wer solche Ausgaben veröffentlicht oder verwertet, trägt dafür regelmäßig Verantwortung. Die urheberrechtliche Dimension ist dabei ein eigenes, komplexes Feld, das in einem gesonderten Beitrag der Kategorie vertieft wird.
Ein wiederkehrendes Muster in all diesen Szenarien: Die Frage, ob und wie ein Mensch das KI-Ergebnis geprüft hat, ist oft haftungsentscheidend. Wer ein KI-Ergebnis kritiklos übernimmt, obwohl eine Prüfung möglich und zumutbar gewesen wäre, verhält sich potenziell sorgfaltswidrig. Umgekehrt kann eine wirksame, dokumentierte menschliche Kontrolle – die sogenannte Human Oversight – die Haftung entlasten oder verlagern. Deshalb ist die menschliche Aufsicht nicht nur eine AI-Act-Pflicht, sondern ein zentrales Instrument der Haftungsvorsorge, auf das Kapitel 07 näher eingeht.
Der rote Faden jeder Haftungsvorsorge lautet: Sorgfalt zeigen und dokumentieren. In der deliktischen Haftung entlastet, wer die im Verkehr erforderliche Sorgfalt gewahrt hat. In der Produkthaftung zählt, ob ein Produkt die berechtigt erwartbare Sicherheit bot. Und in einem Streit zählt am Ende oft, was sich beweisen lässt. Deshalb ist gute Dokumentation kein Selbstzweck, sondern die praktische Übersetzung von Sorgfalt in Beweisbarkeit.
Sorgfalt beginnt vor dem ersten Einsatz. Wer ein KI-System auswählt, sollte prüfen, ob es für den vorgesehenen Zweck geeignet ist, welche bekannten Grenzen und Risiken es hat und ob der Anbieter belastbare Informationen, Konformitätsnachweise und Vorgaben zur Nutzung bereitstellt. Beim Einsatz gilt es, die Vorgaben des Anbieters einzuhalten, das System innerhalb seiner Zweckbestimmung zu betreiben und Beschäftigte angemessen zu befähigen. Diese KI-Kompetenz ist zugleich eine AI-Act-Pflicht und ein Haftungsschutz: Wer geschulte Menschen mit klaren Regeln arbeiten lässt, verringert das Risiko fahrlässiger Fehler.
Im Streitfall ist entscheidend, was nachweisbar ist. Eine gute Dokumentation umfasst typischerweise:
Diese Dokumentation lässt sich oft an bestehende Strukturen andocken – etwa an ein KI-Inventar, an DSGVO-Prozesse oder an ein Managementsystem nach ISO/IEC 42001. Der Aufwand entsteht weniger durch neue Bürokratie als durch das konsequente Festhalten dessen, was ohnehin getan wird.
Die menschliche Aufsicht ist das wohl wichtigste einzelne Instrument der Haftungsminderung. Wirksam ist sie aber nur, wenn sie mehr als ein Feigenblatt ist. Das bedeutet: Die aufsichtführende Person muss die nötige Kompetenz, die Zeit und die tatsächlichen Mittel haben, ein KI-Ergebnis zu hinterfragen und zu korrigieren – und sie muss dazu befugt sein, sich über die KI-Empfehlung hinwegzusetzen. Eine bloß formale „Bestätigung“ ohne echte Prüfmöglichkeit (bekannt als Automation Bias, also das unkritische Vertrauen in maschinelle Ausgaben) schützt weder die Betroffenen noch das Unternehmen. Je höher das Schadenspotenzial, desto tiefer sollte die menschliche Kontrolle greifen.
Anders als das gesetzliche Haftungsrecht lässt sich die vertragliche Ebene in weiten Teilen gestalten. Zwischen Unternehmen besteht ein erheblicher Spielraum, Verantwortlichkeiten zu verteilen, Haftung zu begrenzen und Nachweise zu verlangen. Dieser Spielraum ist aber nicht grenzenlos: Bestimmte Haftungsausschlüsse – etwa für Vorsatz, für Verletzungen von Leben, Körper und Gesundheit oder in der Produkthaftung gegenüber Verbraucher:innen – sind unzulässig oder eng begrenzt. Auch das Recht der Allgemeinen Geschäftsbedingungen setzt Grenzen. Deshalb gilt: Vertragsklauseln zur KI-Haftung sollten fachanwaltlich geprüft werden, statt Mustertexte ungeprüft zu übernehmen.
Freistellungsklauseln klingen beruhigend, sind aber nur so viel wert, wie der Freistellende zahlungsfähig und die Klausel durchsetzbar ist. Große Anbieter gewähren teils Zusagen, etwa für bestimmte urheberrechtliche Ansprüche im Zusammenhang mit generativer KI – oft aber unter Bedingungen und mit Ausnahmen. Wer sich auf eine Freistellung verlässt, sollte deren genaue Reichweite, die Voraussetzungen (etwa die Einhaltung von Nutzungsvorgaben) und mögliche Deckelungen sorgfältig prüfen. Eine Freistellung ersetzt weder Sorgfalt noch Versicherung, sondern ergänzt sie.
Wo Sorgfalt und Vertrag das Risiko nicht vollständig ausschließen, kommt die Versicherung ins Spiel. In Betracht kommen je nach Konstellation Betriebs- und Produkthaftpflicht, Berufshaftpflicht oder Vermögensschadenpolicen sowie Cyber-Versicherungen. Entscheidend ist die Frage, ob KI-bezogene Schäden vom bestehenden Versicherungsschutz überhaupt erfasst sind – das ist keineswegs selbstverständlich. Der Versicherungsmarkt für KI-Risiken befindet sich nach aktuellem Stand ebenfalls in Entwicklung. Ein Gespräch mit dem Versicherer oder einer spezialisierten Maklerin, in dem die KI-Nutzung offen dargelegt wird, hilft, Deckungslücken frühzeitig zu erkennen.
Für die meisten Mittelständler ist der Aufwand beherrschbar, wenn er sich auf das Wesentliche konzentriert. Der Großteil der eingesetzten KI trägt ein geringes Schadenspotenzial – hier genügen klare Regeln und Grundschulung. Die eigentliche Sorgfalt konzentriert sich auf wenige Anwendungen mit hohem Schadens- oder Diskriminierungspotenzial, etwa im Personalwesen, in der Kundenkommunikation mit Zusagecharakter oder in der Steuerung physischer Prozesse. Wer diese Fälle identifiziert und gezielt absichert, erreicht mit vertretbarem Einsatz einen großen Teil der möglichen Risikoreduktion.
Der teuerste Fehler ist, sich blind auf die Annahme zu verlassen, dass „im Zweifel der Hersteller haftet“. Diese Annahme trügt oft. Wer KI-Ergebnisse ungeprüft in eigene Leistungen einfließen lässt, macht sie zu seinen eigenen – mit allen Haftungsfolgen. Die Gegenmaßnahme ist unspektakulär, aber wirksam: die eigene Rolle kennen, sorgfältig und dokumentiert handeln, Verträge sauber führen und den Versicherungsschutz klären. Für die rechtssichere Ausgestaltung im Einzelfall gilt durchgehend: Klären Sie die konkrete Situation mit einer Fachanwältin oder einem Fachanwalt. Dies ist keine Rechtsberatung.
