Wer haftet, wenn der KI-Agent einen Fehler macht?

Der KI-Agent beantwortet nachts zwanzig Kundenanfragen, bucht Termine und legt Angebote an. Am Montagmorgen fällt auf: Eine Anfrage wurde falsch zugeordnet, ein Angebot mit dem falschen Preis verschickt. Für viele Mittelständler ist in diesem Moment die eigentliche Frage nicht technischer, sondern rechtlicher Natur: Wer trägt den Schaden, der Anbieter der Automatisierung oder das eigene Unternehmen?

Wer haftet grundsätzlich, wenn ein KI-Agent einen Fehler macht?

Der Einsatz von KI ändert an den vertragsrechtlichen Grundsätzen zunächst nichts: Es haftet, wer eine vertragliche oder gesetzliche Pflicht verletzt hat, unabhängig davon, ob ein Mensch oder ein KI-System den konkreten Fehler verursacht hat. Das bestätigt auch die Einordnung des Fachportals Legal Tribune Online zur Haftung bei KI-Einsatz. Für ein KMU heißt das praktisch: Wer den KI-Agenten betreibt und steuert, trägt gegenüber den eigenen Kunden zunächst die Verantwortung, unabhängig davon, ob die Ursache im eigenen Prozess oder in der eingesetzten Software liegt. Erst im zweiten Schritt stellt sich die Frage, ob und in welchem Umfang das Unternehmen den Schaden beim Automatisierungs- oder Softwareanbieter im Innenverhältnis weiterreichen kann, und genau das regelt der Vertrag mit diesem Anbieter.

Dienstvertrag oder Werkvertrag: Warum die Einordnung über die Haftung entscheidet

Ob ein Automatisierungsprojekt als Werkvertrag oder als Dienstvertrag einzuordnen ist, entscheidet maßgeblich darüber, wie streng die Haftung ausfällt. Beim Werkvertrag schuldet der Anbieter ein bestimmtes, mängelfreies Ergebnis: Liefert der KI-Agent wegen eines Konfigurations- oder Trainingsfehlers dauerhaft falsche Ergebnisse, ist das ein Mangel, für den unabhängig vom Verschulden Nacherfüllung, Minderung oder Schadensersatz verlangt werden kann. Beim Dienstvertrag schuldet der Anbieter dagegen nur sorgfältiges Bemühen, nicht einen bestimmten Erfolg, die Haftung setzt hier in der Regel ein nachweisbares Verschulden voraus. In vielen Automatisierungsprojekten ist das vertraglich nicht sauber getrennt, obwohl gerade diese Einordnung im Streitfall den Ausschlag gibt.

Was Haftungsausschluss-Klauseln in der Praxis wirklich leisten

Ein Haftungsausschluss für KI-Fehler ist nur dann belastbar, wenn er die technische Realität abbildet und für beide Vertragsseiten nachvollziehbar bleibt, wie die Kanzlei Herfurtner in ihrer Einordnung zum KI-Haftungsausschluss festhält. Ein vollständiger Haftungsausschluss ist in Allgemeinen Geschäftsbedingungen zudem regelmäßig unwirksam, sobald grobe Fahrlässigkeit, Vorsatz oder eine Verletzung wesentlicher Vertragspflichten im Raum steht. In der Praxis bewährt sich deshalb eine Haftungsbegrenzung statt eines Totalausschlusses: ein Haftungshöchstbetrag je Schadensfall, der Ausschluss mittelbarer Folgeschäden wie entgangenem Gewinn, und eine Staffelung nach Verschuldensgrad. Wer als Mittelständler einen Automatisierungsvertrag unterschreibt, sollte genau diese drei Punkte konkret benannt sehen, statt sich auf eine pauschale Klausel zu verlassen.

Warum ein Eskalationsmodell die Haftungsfrage in der Praxis entschärft

Ein KI-Agent, der bei Unsicherheit automatisch an einen Menschen eskaliert statt eigenständig zu entscheiden, senkt das Haftungsrisiko spürbar, weil die letzte Entscheidung nachweisbar bei einer Person bleibt. Genau nach diesem Prinzip bauen wir bei NordFlux KI-Agenten für Kunden: Grenzfälle, etwa ungewöhnlich hohe Rechnungsbeträge oder widersprüchliche Kundendaten, werden nicht automatisch durchgewunken, sondern landen zur Freigabe bei einem Menschen. Das ist keine juristische Formalie, sondern gelebte Sorgfalt: Ein lückenloses Protokoll, wer wann welche Entscheidung getroffen oder freigegeben hat, ist im Streitfall oft der entscheidende Nachweis, dass das Unternehmen seine Kontrollpflichten ernst genommen hat. Wer eine Automatisierung plant, sollte diese Eskalationsschwellen von Anfang an in der eigenen KI-Beratung festlegen, nicht erst, wenn der erste Fehler passiert ist.

Was mit der neuen Produkthaftung ab Ende 2026 wichtig wird

Mit der reformierten EU-Produkthaftungsrichtlinie gelten Software und KI-Systeme erstmals ausdrücklich als Produkte im haftungsrechtlichen Sinn, wie die Kanzlei Bird & Bird in ihrer Einordnung der neuen Richtlinie darlegt. Die Mitgliedstaaten müssen die Richtlinie bis zum 9. Dezember 2026 in nationales Recht umsetzen, für Produkte, die danach in Verkehr gebracht werden, gilt dann auch eine Beweislastumkehr bei komplexen KI-Systemen: Nicht mehr der Geschädigte muss die Fehlerhaftigkeit beweisen, sondern der Anbieter die Fehlerfreiheit. Parallel dazu greifen ab dem 2. August 2026 die vollen Pflichten des EU AI Act für Hochrisiko-Systeme, mit Bußgeldern bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. Für die meisten Automatisierungen im Mittelstand ist das, wie wir in unserem Beitrag zum EU AI Act für KMU gezeigt haben, nicht die maßgebliche Hürde, wohl aber ein zusätzlicher Grund, Verträge mit Automatisierungspartnern jetzt zu prüfen statt erst 2027.

Diese Einordnung ersetzt keine rechtliche Beratung im Einzelfall. Für die konkrete Vertragsgestaltung, insbesondere Haftungsklauseln und Eskalationsschwellen, empfiehlt sich der Blick eines Fachanwalts für IT-Recht auf den jeweiligen Vertrag.

Von Simon Glowik, veröffentlicht am 9. Juli 2026.

Häufige Fragen

Haftet mein Unternehmen für Fehler eines KI-Agenten, auch wenn der Fehler beim Softwareanbieter liegt?

Gegenüber dem eigenen Kunden haftet zunächst das Unternehmen, das den KI-Agenten einsetzt und steuert. Ob und in welchem Umfang der Schaden anschließend beim Automatisierungs- oder Softwareanbieter geltend gemacht werden kann, regelt der mit diesem Anbieter geschlossene Vertrag, insbesondere die dort vereinbarten Haftungsklauseln.

Was unterscheidet Werkvertrag und Dienstvertrag bei einem Automatisierungsprojekt?

Beim Werkvertrag schuldet der Anbieter ein konkretes, mängelfreies Ergebnis und haftet verschuldensunabhängig für Mängel. Beim Dienstvertrag schuldet er nur sorgfältiges Bemühen, Haftung setzt hier in der Regel nachweisbares Verschulden voraus.

Kann ich die Haftung für KI-Fehler in meinen AGB komplett ausschließen?

Nein, ein vollständiger Haftungsausschluss ist in AGB regelmäßig unwirksam, sobald grobe Fahrlässigkeit, Vorsatz oder wesentliche Vertragspflichten betroffen sind. Üblich und belastbarer ist eine Haftungsbegrenzung mit Höchstbetrag statt eines Totalausschlusses.

Ist ein Eskalationsmodell mit Human-in-the-loop rechtlich vorgeschrieben?

Für die meisten Automatisierungen im Mittelstand ist es keine explizite gesetzliche Pflicht, wohl aber ein wirksamer Nachweis von Sorgfalt. Ein dokumentiertes Eskalationsmodell zeigt im Streitfall, dass kritische Entscheidungen bei einem Menschen lagen.

Ändert der EU AI Act die vertragliche Haftung für KI-Agenten?

Der EU AI Act regelt vor allem aufsichtsrechtliche Pflichten je nach Risikoklasse, nicht die zivilrechtliche Haftung selbst. Die meisten Automatisierungen im Mittelstand fallen in eine niedrige Risikoklasse, wie unser Beitrag zum EU AI Act für KMU einordnet.