EU AI Act und KI-Telefonie: Was Unternehmen ab August 2026 wissen müssen

Was ist der EU AI Act – und wen betrifft er?

Der EU AI Act (Verordnung (EU) 2024/1689) reguliert KI-Systeme nach einem risikobasierten Ansatz: Je höher das Risiko einer Anwendung, desto strenger die Auflagen. Die Verordnung ist seit August 2024 in Kraft und wird stufenweise wirksam – die für KI-Telefonie zentralen Transparenzpflichten aus Artikel 50 gelten ab dem 2. August 2026.

Wichtig: Der AI Act unterscheidet zwischen Anbietern (Provider – die das KI-System entwickeln und bereitstellen) und Betreibern (Deployer – die Unternehmen, die es einsetzen). Beide Rollen haben eigene Pflichten. Wer einen KI-Telefonassistenten für seine Kundenhotline nutzt, ist Betreiber im Sinne der Verordnung – und damit selbst in der Verantwortung.

Artikel 50: Die Transparenzpflicht für KI am Telefon

Artikel 50 des AI Act verlangt: Interagieren Menschen mit einem KI-System, müssen sie darüber informiert werden – es sei denn, es ist aus den Umständen offensichtlich. Am Telefon ist es das nicht: Eine natürlich klingende KI-Stimme ist für Anrufende nicht zwingend als solche erkennbar. Deshalb gilt für KI-Telefonie praktisch immer: Anrufende müssen erfahren, dass sie mit einer KI sprechen.

• ▸Die Information muss spätestens zu Beginn der Interaktion erfolgen – etwa durch eine kurze Vorstellung („Hier spricht der digitale Assistent von …")
• ▸Sie muss klar und verständlich sein, nicht im Kleingedruckten versteckt
• ▸Zusätzlich können DSGVO-Informationspflichten greifen, etwa bei Gesprächsaufzeichnung oder Transkription

Verantwortlich für die korrekte Umsetzung im laufenden Betrieb ist auch der Betreiber – also das Unternehmen, dessen Nummer angerufen wird. Es lohnt sich daher, bei der Anbieterauswahl darauf zu achten, dass sich der Assistent standardmäßig als KI vorstellt. Bei bitpull.ai werden Anrufende zu Beginn jeder Interaktion darüber informiert, dass sie mit einem KI-Assistenten sprechen.

Abgrenzung: Wann KI-Telefonie zum Hochrisiko-Fall wird

Die meisten Einsatzszenarien – Terminvereinbarung, FAQ-Beantwortung, Anrufannahme – sind kein Hochrisiko im Sinne von Annex III. Es gibt aber Grenzfälle, die Unternehmen kennen sollten:

• ▸Recruiting: KI-Systeme, die Bewerbende bewerten, ranken oder aussortieren, gelten als Hochrisiko. Ein Telefonassistent darf Erstgespräche koordinieren und Informationen aufnehmen – Auswahl- und Ablehnungsentscheidungen müssen bei Menschen bleiben.
• ▸Medizin: Systeme zur medizinischen Triage oder Diagnostik fallen unter Annex III 5(d). Ein Praxis-Telefonassistent sollte deshalb ausschließlich organisatorische Aufgaben übernehmen (Termine, Rezeptanfragen aufnehmen) – keine Diagnosen stellen und bei Notfällen konsequent an Praxisteam bzw. Notruf verweisen.
• ▸Behörden und kritische Infrastruktur: Hier gelten teils zusätzliche Deployer-Pflichten, etwa Grundrechte-Folgenabschätzungen.

bitpull.ai ist bewusst so konzipiert, dass der Assistent in diesen Bereichen unterstützend arbeitet, ohne Entscheidungsfunktionen zu übernehmen – die Verantwortung für die konkrete Konfiguration liegt beim einsetzenden Unternehmen.

Checkliste: So bereiten Sie sich als Betreiber vor

• ▸☑ KI-Offenlegung prüfen: Stellt sich Ihr Telefonassistent zu Gesprächsbeginn als KI vor?
• ▸☑ Anbieterrolle klären: Liefert Ihr Anbieter die nötigen Informationen und Dokumentation zu seinem System?
• ▸☑ DSGVO-Basis schaffen: AVV abschließen, EU-Hosting bevorzugen, Speicherfristen definieren
• ▸☑ Einsatzzweck dokumentieren: Wofür wird die KI genutzt – und wofür bewusst nicht (Hochrisiko-Abgrenzung)?
• ▸☑ Eskalationspfad einrichten: Anrufende sollten auf Wunsch einen Menschen erreichen können
• ▸☑ Mitarbeitende informieren: Wer betreut das System, wer prüft Transkripte und Ergebnisse?

Vertiefend zu Datenschutzfragen: DSGVO-konforme KI-Telefonie im DACH-Raum. Wie der Übergang von KI zu Mensch sauber funktioniert, zeigt der Artikel Human-in-the-Loop in der KI-Telefonie.

Fazit: Transparenz ist Pflicht – und Vertrauensvorteil

Der EU AI Act macht aus gutem Stil eine Rechtspflicht: Wer KI am Telefon einsetzt, muss das offenlegen. Unternehmen, die das sauber umsetzen, gewinnen doppelt – sie erfüllen die Anforderungen und bauen Vertrauen bei Kunden auf, die zunehmend wissen wollen, mit wem sie sprechen. Details zur Umsetzung bei bitpull.ai finden Sie auf unserer EU-AI-Act-Seite.