Wenn die KI einen Fehler macht: Haftungsfragen beim Sprachagenten (2026)

Die KI bucht einen Termin auf den falschen Tag. Sie nennt einen veralteten Preis. Sie stuft einen Anruf als Routine ein, der ein Notfall war. Solche Fehler sind selten, aber sie sind nicht ausgeschlossen — bei keiner Technik, und bei keinem Menschen. Die berechtigte Frage lautet: Wer trägt die Folgen?

Dieser Artikel ordnet die Haftungsfrage. Er ist eine Orientierung, keine Rechtsberatung — für den konkreten Fall sollten Sie eine Anwältin oder einen Anwalt hinzuziehen. Aber er zeigt die Linien, an denen sich die Verantwortung entscheidet, und was Sie als Betreiber tun können, um das Risiko klein zu halten.

Drei typische Fehlerfälle

Damit die Haftungsfrage greifbar wird, drei realistische Situationen:

• Der falsche Termin. Die KI bucht den Kunden auf Donnerstag, gemeint war Dienstag. Der Kunde erscheint umsonst, ärgert sich, der Slot war doppelt belegt
• Die falsche Auskunft. Die KI nennt einen Preis oder eine Öffnungszeit, die nicht mehr stimmt, weil die hinterlegte Information veraltet war. Der Kunde trifft eine Entscheidung auf falscher Grundlage
• Der verpasste Notfall. Ein Anrufer schildert ein dringendes Anliegen, die KI stuft es als Routine ein und eskaliert nicht. Es entsteht ein Schaden, weil zu spät reagiert wurde

Diese drei Fälle haben unterschiedliche Ursachen — und an der Ursache entscheidet sich oft, wer am Ende einsteht. Genau deshalb lohnt der genaue Blick.

Die Grundregel: die KI haftet nicht — der Betreiber steht ein

Der wichtigste Satz zuerst: Eine KI ist kein Rechtssubjekt. Sie kann keine Verträge schließen, keine Pflichten tragen und nicht haften. „Die KI war schuld“ ist juristisch keine Aussage, die irgendjemanden entlastet.

Wer haftet dann? Im Grundsatz der Betreiber — der Betrieb, der den Sprachagenten einsetzt und nach außen mit seinem Namen auftritt. Der Anrufer schließt seinen Termin oder bekommt seine Auskunft von „der Praxis Dr. Berger“, nicht von „einer KI“. Aus Sicht des Kunden ist der Betrieb sein Vertragspartner und Ansprechpartner.

Das entspricht einem vertrauten Prinzip: Ein Betrieb steht auch für die Fehler der Werkzeuge und Abläufe ein, die er einsetzt — und für die Fehler der Personen, die für ihn handeln. Wenn eine menschliche Empfangskraft einen Termin falsch einträgt, haftet nicht die Empfangskraft persönlich gegenüber dem Kunden, sondern der Betrieb. Bei der KI ist es im Grundsatz nicht anders: Sie ist ein Werkzeug im Dienst des Betriebs, und der Betrieb verantwortet, was mit diesem Werkzeug geschieht.

Das klingt zunächst unbequem. Tatsächlich ist es die gute Nachricht — denn was man verantwortet, kann man auch gestalten.

Die zweite Ebene: das Verhältnis zum Anbieter

Dass der Betreiber nach außen — gegenüber dem Kunden — einsteht, heißt nicht, dass er im Innenverhältnis jeden Schaden allein trägt. Hier kommt der KI-Sprachagent-Anbieter ins Spiel, und es lohnt sich, zwei Fehlertypen zu unterscheiden:

• Konfigurationsfehler. Die hinterlegten Preise waren veraltet, die Notfall-Schlüsselwörter unvollständig, die Eskalationsregel falsch gesetzt. Solche Fehler liegen in der Sphäre des Betreibers — er hat die Inhalte zu verantworten, mit denen der Agent gefüttert wurde
• Systemfehler. Der Agent funktioniert technisch nicht wie zugesichert — er versteht trotz korrekter Konfiguration systematisch falsch, fällt aus, verarbeitet Daten fehlerhaft. Solche Fehler liegen näher in der Sphäre des Anbieters

Wo genau die Grenze verläuft und wer im Innenverhältnis einsteht, regelt der Vertrag mit dem Anbieter — der Dienstleistungsvertrag und der Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO. Deshalb gehört der Blick in diese Verträge zur Sorgfalt: Welche Leistung wird zugesichert? Welche Haftung übernimmt der Anbieter? Wie sind Verfügbarkeit und Fehlerbehebung geregelt?

Ein seriöser Anbieter versteckt sich hier nicht hinter Pauschal-Ausschlüssen, sondern macht transparent, wofür er einsteht. Das ist ein wichtiges Auswahlkriterium — siehe unsere Anbieter-Checkliste.

Warum saubere Eskalation Haftungsschutz ist

Hier liegt der wirksamste Hebel — und er ist zugleich der, der die Qualität des Agenten ausmacht: die Eskalation an den Menschen.

Eine gute Eskalationslogik wirkt zweifach auf das Haftungsrisiko:

• Sie verhindert Schäden, bevor sie entstehen. Ein Agent, der bei Unsicherheit nicht rät, sondern an einen Menschen übergibt, bucht seltener falsch und verpasst seltener einen Notfall. Der verpasste Notfall aus Fall 3 ist meist kein KI-Versagen, sondern ein Eskalations-Versagen — und das lässt sich konfigurieren
• Sie belegt die Sorgfalt des Betreibers. Haftung knüpft im Kern an die Frage an, ob jemand die gebotene Sorgfalt eingehalten hat. Ein Betreiber, der den Agenten bewusst so eingerichtet hat, dass dringende, komplexe oder unklare Fälle an einen Menschen gehen, hat sichtbar sorgfältig gehandelt. Eine KI, die alles selbst entscheiden soll, auch was sie nicht beherrscht, ist dagegen ein vermeidbares Risiko

Anders gesagt: Die Eskalation ist nicht nur ein Qualitätsmerkmal, sondern ein Stück Risikomanagement. Wer die KI nur die Aufgaben erledigen lässt, die sie sicher beherrscht, und alles andere sauber an Menschen übergibt, hält das Haftungsrisiko strukturell klein. Wie eine gute Eskalation aussieht, zeigt unser Beitrag zur Eskalation an den Menschen.

Was den Betreiber schützt: die Sorgfalts-Checkliste

Konkret reduziert ein Betreiber sein Haftungsrisiko durch diese Maßnahmen:

1. Den Aufgabenbereich eng halten. Die KI bekommt nur Aufgaben, die sie zuverlässig beherrscht. Keine verbindlichen Zusagen, keine Beratung, keine Entscheidungen mit großer Tragweite ohne Menschen
2. Eskalation großzügig konfigurieren. Im Zweifel eskalieren: dringende, emotionale, unklare oder komplexe Fälle gehen an einen Menschen. Lieber eine Eskalation zu viel als eine zu wenig
3. Inhalte aktuell halten. Preise, Öffnungszeiten, Verfügbarkeiten — die hinterlegten Informationen müssen gepflegt werden. Veraltete Inhalte sind eine vermeidbare Fehlerquelle in der Sphäre des Betreibers
4. Konfiguration dokumentieren. Festhalten, wie der Agent eingerichtet wurde, welche Eskalationsregeln gelten, wann was geändert wurde. Diese Dokumentation belegt im Streitfall die Sorgfalt
5. Vor Inbetriebnahme testen. Den Agenten mit realistischen Testanrufen prüfen — gerade die kritischen Fälle wie Notfall-Erkennung
6. Den Betrieb beobachten. Die Gespräche und Kennzahlen regelmäßig sichten, damit sich Fehler nicht unbemerkt häufen. Welche Kennzahlen zählen, zeigt der Beitrag zu den Kennzahlen eines Sprachagenten
7. Transparenz herstellen. Die KI legt offen, dass sie eine KI ist (Pflicht nach AI Act Art. 50). Ein Anrufer, der weiß, mit wem er spricht, ordnet eine Auskunft realistischer ein
8. Verträge prüfen. Dienstleistungsvertrag und AVV mit dem Anbieter lesen — und im Zweifel anwaltlich prüfen lassen

Diese acht Punkte sind kein Mehraufwand neben dem guten Betrieb eines Sprachagenten — sie sind der gute Betrieb. Wer den Agenten ordentlich aufsetzt, betreibt damit zugleich Haftungsvorsorge.

Der faire Vergleich: KI-Fehler und Mensch-Fehler

Zum Schluss eine Einordnung, die in der Aufregung um KI-Haftung oft fehlt: Der Maßstab ist nicht „null Fehler“.

Auch eine menschliche Empfangskraft trägt einen Termin falsch ein, überhört eine Dringlichkeit, nennt versehentlich einen alten Preis. Das Recht verlangt von einem Betrieb nicht Fehlerfreiheit — das wäre unerfüllbar. Es verlangt angemessene Sorgfalt: dass man die Abläufe vernünftig einrichtet, bekannte Risiken adressiert und auf Fehler reagiert.

Für den KI-Sprachagenten heißt das: Die Frage ist nicht „Kann die KI einen Fehler machen?“ — natürlich kann sie das, wie jedes System und jeder Mensch. Die Frage ist: „Habe ich den Agenten mit angemessener Sorgfalt eingerichtet und betrieben?“ Wer den Aufgabenbereich eng hält, sauber eskaliert, Inhalte pflegt und alles dokumentiert, kann diese Frage mit Ja beantworten. Und das ist der entscheidende Unterschied.

Eine gut konfigurierte KI ist in einer Hinsicht sogar im Vorteil: Sie ist konsistent. Sie hat keine schlechten Tage, vergisst eine einmal richtig hinterlegte Information nicht und hält sich exakt an die Eskalationsregeln. Fehler entstehen dann fast nur dort, wo die Konfiguration nachlässig war — und das ist beeinflussbar.

Häufige Fragen

Dieser Beitrag ist eine allgemeine Orientierung und keine Rechtsberatung. Für den konkreten Fall ziehen Sie bitte anwaltlichen Rat hinzu. Quellen: allgemeine Grundsätze des Vertrags- und Schadenersatzrechts (ABGB / BGB), EU AI Act Betreiberpflichten, DSGVO Art. 28. Vollständige Quellen-Sammlung im Compliance-Hub.