EU-KI-Verordnung Art. 50 ab 2. August 2026: Was KI-Sprachagent-Betreiber jetzt umsetzen müssen

14 Minuten Lesezeit19. Mai 2026von Lisa-Team Confidelius

Die Zahlen vorab Am 2. August 2026 wird Artikel 50 der EU-KI-Verordnung wirksam. Wer einen KI-Sprachagenten betreibt, muss ab diesem Stichtag jeden Anrufer am Gesprächsbeginn über die KI-Natur informieren. Verstöße: bis zu 15 Mio Euro oder 3 % vom weltweiten Jahresumsatz. Eine wichtige Ausnahme (Art. 2 Abs. 10) schützt rein private Nutzer.

Das Thema klingt erst einmal trocken. Es ist aber für jedes Unternehmen, das einen KI-Sprachagenten einsetzt — sei es als KI-Sekretariat, als Anrufbeantworter-Ersatz oder als Aktiv-Anruf-Vertriebs-Agent — finanziell relevant. Mit Stichtag 2. August 2026 wird die KI-VO scharf, und Art. 50 trifft KI-Sprachagenten als Erstes.

Was steht im Gesetz? Der Wortlaut Art. 50 Abs. 1

Verbatim aus der deutschen Sprachfassung der VO (EU) 2024/1689 (Amtsblatt L vom 12.7.2024, S. 82):

Das ist die zentrale Pflicht. Die Norm enthält zudem in Abs. 5 die Form-Vorgabe:

Für KI-Sprachagenten bedeutet das: die Information muss akustisch erfolgen, zu Beginn des Gesprächs, in klarer und eindeutiger Form — kein versteckter Hinweis am Ende, kein Verweis auf eine Webseite.

Wer ist verpflichtet — Anbieter, Betreiber oder beide?

Art. 50 Abs. 1 spricht ausdrücklich von „Anbietern“ (engl. providers). Das ist eine wichtige Unterscheidung:

Anbieter sind die Hersteller / Inverkehrbringer eines KI-Systems (ElevenLabs, OpenAI, Confidelius mit Lisa als Plattform)
Betreiber (engl. deployers) sind die einsetzenden Unternehmen — also Sie als Kanzlei, Arztpraxis oder Handwerksbetrieb, der Lisa für eingehende Anrufe nutzt

Die Pflicht zum Hinweis trifft also primär den Anbieter — er muss das System so gestalten, dass der Hinweis möglich ist. Confidelius stellt sicher, dass jede Lisa-Konfiguration einen Eröffnungssatz mit KI-Hinweis enthält.

Aber Vorsicht: als Betreiber dürfen Sie diese Funktion nicht ausschalten oder umgehen. Wenn Sie Lisa konfigurieren und den Eröffnungssatz so abändern, dass der KI-Hinweis verschwindet, werden Sie zum Mit-Verantwortlichen — und damit ebenfalls haftbar.

Faustregel: Der Anbieter baut die Möglichkeit ein, der Betreiber nutzt sie konsequent.

Die „offensichtlich“-Ausnahme — eng auszulegen

Die größte Auslegungs-Hürde ist die Formulierung „aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person […] offensichtlich“. Wann ist es offensichtlich, dass man mit einer KI spricht?

Die EU-Kommission hat in ihren Entwurfs-Leitlinien vom Mai 2026 eine sehr enge Auslegung vertreten. Konkret:

KI-Sprachagenten mit natürlichem Sprecherwechsel, Pausen, Stimmungs-Anpassung und Barge-in sind per definitionem nicht offensichtlich — die Hinweispflicht greift
Maßstab ist die tatsächliche Zielgruppe, nicht KI-affine Tester. Wenn Ihre Praxis viele ältere Patienten hat oder Ihre Kanzlei einen B2B-Vertrieb mit nicht-technischen Käufern, gilt deren Wahrnehmung als Referenz
Je menschenähnlicher die Stimme (ElevenLabs, Cartesia), desto schwerer die Ausnahme zu tragen

Praktische Konsequenz: Verzichten Sie auf den Versuch, die Ausnahme zu nutzen. Das Risiko (15 Mio Euro Geldbuße bei Fehleinschätzung) übersteigt den minimalen Aufwand eines höflichen Hinweis-Satzes bei weitem.

Wie lautet ein rechtskonformer Hinweis-Satz?

Drei Beispiele für rechtskonforme Eröffnungen, gestaffelt nach Tonalität:

Variante 1 — höflich-gehoben (passt für Kanzleien, Arztpraxen):

Variante 2 — neutral-professionell (passt für KMU, Handwerk):

Variante 3 — explizit (für Branchen mit höherem Vertrauens-Bedarf):

Alle drei Varianten erfüllen Art. 50 Abs. 1, weil sie den KI-Charakter eindeutig benennen („digitale Assistentin“, „KI-Assistentin“). Was nicht ausreicht: ein Name allein („Lisa hier“) ohne den KI-Hinweis — auch wenn die Stimme synthetisch klingt.

Nachweisbarkeit: Sie sollten in den Protokollen Ihres Anbieters nachweisen können, dass der Hinweis-Satz bei jedem Anruf abgespielt wurde. Bei Lisa wird dies automatisch protokolliert.

Erfüllt Ihre Konfiguration den Wortlaut? Wir prüfen Ihren aktuellen Hinweis-Satz und Vertrags-Stack in 30 Minuten.

Compliance-Audit

Personal-Use-Carve-out: wann Art. 50 nicht greift

Eine wichtige, oft übersehene Ausnahme: Wer einen KI-Sprachagenten rein privat an seiner Heim-Festnetznummer betreibt, fällt unter Art. 2 Abs. 10 der KI-VO:

Doppelt abgesichert durch die Definition des „Betreibers“ in Art. 3 Nr. 4:

Konkret: Wer einen KI-Anrufbeantworter zuhause einsetzt, der ausschließlich private Anrufe entgegennimmt, ist von Art. 50 nicht erfasst. Sobald aber ein einziger Geschäfts-Anruf über dasselbe Setup läuft, kippt der private Charakter und die volle KI-VO-Pflicht greift.

Faustregel: Mischen Sie nicht. Geschäftliche und private KI-Sprachagenten brauchen klar getrennte Setups.

Sanktionen: 15 Mio Euro oder 3 % vom Umsatz

Art. 99 Abs. 4 der KI-VO regelt die Sanktionen für Art. 50-Verstöße. Verbatim:

Drei wichtige Klarstellungen:

Der höhere Betrag gilt. Bei einem Unternehmen mit 1 Mrd Euro Umsatz wären das 30 Mio Euro — nicht 15 Mio.
KMU-Begünstigung nach Art. 99 Abs. 6: Bei kleinen und mittleren Unternehmen, einschließlich Start-ups, gilt jeweils der niedrigere Betrag.
Andere Sanktions-Stufen: Die niedrigere Sanktionsstufe von 7,5 Mio Euro / 1,5 % gilt nur für falsche/irreführende Angaben gegenüber Behörden (Art. 99 Abs. 5).

Aufsichtsbehörden in DACH (RTR, BNetzA, DSB)

Österreich: Die KI-Servicestelle bei der RTR-GmbH (Rundfunk und Telekom Regulierungs-GmbH) ist seit 1. September 2024 operativ. Sektor-spezifische Behörden (FMA, BASG, DSB) bleiben für ihre jeweiligen Bereiche zuständig.

Deutschland: Die Bundesnetzagentur wurde im KI-MIG-Entwurf (Kabinett Februar 2026) als zentrale Marktüberwachungsbehörde benannt. Die Länder-Datenschutzbehörden und sektor-spezifische Aufseher (BaFin, BfArM) ergänzen das Gefüge.

Schweiz: kein EU-Mitglied, daher KI-VO nicht direkt anwendbar — aber bei Schweizer Unternehmen, die EU-Bürger als Anrufer haben, gilt das Marktortprinzip.

Umsetzungs-Checkliste in 7 Schritten

Häufige Fragen

Was passiert, wenn ich Art. 50 nicht erfülle?

Theoretisch Geldbußen bis 15 Mio Euro oder 3 % vom Umsatz. Praktisch werden die ersten Verfahren wahrscheinlich Verwarnungen sein, weil sich die Aufsichtsbehörden in die Vollziehung erst hineintasten müssen. Trotzdem: das Risiko ist real, die Korrektur ist trivial.

Reicht ein schriftlicher Hinweis auf der Webseite?

Nein. Art. 50 Abs. 5 verlangt die Information spätestens zum Zeitpunkt der ersten Interaktion — bei einem Telefonat ist das akustisch zu Gesprächsbeginn. Ein Hinweis auf der Webseite genügt nicht.

Was, wenn die Stimme der KI offensichtlich synthetisch klingt?

Auch dann gilt die Hinweispflicht, sofern die Synthese-Qualität nicht grob unnatürlich ist. Moderne Sprachsynthese-Stimmen sind aber gerade so überzeugend, dass die „offensichtlich“-Ausnahme nicht trägt.

Wie sind Aktiv-Anrufe (KI ruft an) geregelt?

Genauso. Art. 50 Abs. 1 erfasst die direkte Interaktion mit natürlichen Personen, unabhängig davon, wer den Anruf initiiert. Bei Aktiv-Anrufen muss die KI sich ebenfalls als solche zu erkennen geben.

Greift die Pflicht auch bei B2B-Anrufen?

Ja. Art. 50 unterscheidet nicht zwischen B2C und B2B. Jeder Anrufer ist eine natürliche Person, auch wenn er für ein Unternehmen anruft.

Was ist mit KI-Voicemail / Sprachbox-Funktionen?

Wenn die Sprachbox aktiv mit dem Anrufer interagiert (Anliegen abfragt, Termine bucht, antwortet), greift Art. 50. Wenn sie nur „Niemand erreichbar, hinterlassen Sie eine Nachricht“ sagt, ist das klassischer Anrufbeantworter und nicht erfasst.

Compliance-Check für Ihren KI-Sprachagenten

Wir prüfen Ihre bestehende Konfiguration auf Art. 50-Konformität, inkl. Hinweis-Wortlaut, Nachweisbarkeit, Vertrags-Stack.

Compliance-Audit anfragen Live-Demo buchen

Quellen: VO (EU) 2024/1689 Volltext (EUR-Lex DE-Sprachfassung), EU-Kommission Entwurfs-Leitlinien Art. 50 (Mai 2026), KI-Servicestelle RTR Österreich. Vollständige Quellen-Sammlung mit Verbatim-Wortlauten im Compliance-Hub.