KI-Telefonassistenten sind mehr als nur Telefonie
Warum Voice AI zum Governance-Thema wird
KI-Telefonassistenten sind längst mehr als digitale Anrufbeantworter. Sie können Gespräche entgegennehmen, Anliegen erkennen, Kontaktdaten erfassen, Termine koordinieren und Informationen an CRM-, Kalender- oder Ticketsysteme weitergeben.
Damit wird aus einem Telefonie-Tool schnell ein KI-System, das in bestehende Geschäfts- und Datenprozesse eingebunden ist.
Für Unternehmen stellen sich deshalb mehrere Fragen gleichzeitig: Welche Anforderungen des EU AI Acts gelten? Welche personenbezogenen Daten werden verarbeitet? Wer trägt welche Verantwortung? Und wie sollte das System dokumentiert und kontrolliert werden?
Seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50 des EU AI Acts. Für interaktive KI-Systeme wie KI-Telefonassistenten ist insbesondere relevant, dass Menschen grundsätzlich darüber informiert werden müssen, wenn sie direkt mit einem KI-System interagieren.
Wichtig: Ein KI-Telefonassistent ist nicht automatisch ein Hochrisiko-KI-System. Entscheidend ist nicht allein die verwendete Technologie, sondern der konkrete Einsatzzweck.
Risikoklassifizierung nach dem tatsächlichen Einsatz
Nicht das Interface klassifizieren, sondern den Prozess
Zwei technisch ähnliche KI-Telefonassistenten können regulatorisch vollkommen unterschiedlich einzuordnen sein.
Ein System kann beispielsweise ausschließlich Öffnungszeiten nennen, Termine vereinbaren, Rückrufwünsche aufnehmen oder Anfragen an einen Mitarbeiter weiterleiten.
Ein anderes Voice-AI-System könnte dagegen Informationen über Personen analysieren und diese Analyse in einem sensiblen Entscheidungsprozess verwenden.
Für die Risikoklassifizierung ist deshalb nicht die Bezeichnung „KI-Telefonassistent“ ausschlaggebend. Entscheidend sind insbesondere Zweck, Funktion und konkreter Einsatzkontext.
Beispiel für das KI-Inventar: „Telefonische Erstannahme von Kundenanfragen, Erfassung des Anliegens, Terminvereinbarung und Übergabe relevanter Informationen an das CRM.“
Transparenzpflichten nach Artikel 50
Menschen müssen wissen, wenn sie mit einer KI interagieren
Artikel 50 Absatz 1 verpflichtet Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, grundsätzlich dazu, diese Systeme so zu gestalten und zu entwickeln, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren.
Eine Ausnahme besteht, wenn dies für eine angemessen informierte, aufmerksame und verständige Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist.
Die erforderliche Information muss spätestens bei der ersten Interaktion klar und eindeutig bereitgestellt werden.
Praxisbeispiel: „Hallo, Sie sprechen mit unserem KI-gestützten Telefonassistenten.“
Anbieter und Betreiber unterscheiden
Wer trägt welche Verantwortung?
Für die Compliance-Bewertung ist wichtig, die Rollen nach dem EU AI Act auseinanderzuhalten.
Der Anbieter entwickelt beziehungsweise stellt das KI-System unter den Voraussetzungen des AI Acts bereit.
Der Betreiber setzt das KI-System unter eigener Verantwortung ein.
Bei einer extern bezogenen Voice-AI-Lösung können daher unterschiedliche Pflichten bei unterschiedlichen Unternehmen liegen.
Für eine saubere AI Governance sollte dokumentiert werden, welche Rolle das eigene Unternehmen im konkreten Szenario einnimmt und welche Anforderungen sich daraus ergeben.
Wann kann Voice AI zum Hochrisiko-System werden?
Der Verwendungszweck entscheidet
Ein Telefonassistent wird nicht allein dadurch zum Hochrisiko-KI-System, dass er natürliche Sprache verarbeitet oder selbstständig Gespräche führt.
Relevant kann die Hochrisiko-Klassifizierung insbesondere dann werden, wenn das System in einem vom AI Act erfassten sensiblen Bereich für bestimmte Bewertungen oder Entscheidungen eingesetzt wird.
Denkbar sind beispielsweise bestimmte Einsatzformen in Beschäftigungsprozessen oder bei bestimmten wesentlichen privaten Dienstleistungen.
Merksatz: Nicht das Interface klassifizieren, sondern den tatsächlichen Prozess.
Datenschutz bei KI-Telefonassistenten
Welche Daten fließen durch das Gespräch?
Unabhängig von der AI-Act-Klassifizierung kann die DSGVO relevant sein.
Während eines Telefongesprächs können beispielsweise Name, Telefonnummer, E-Mail-Adresse, Kundennummer, Gesprächsinhalte, Transkripte, Gesprächszusammenfassungen oder strukturierte Informationen für CRM- und Ticketsysteme verarbeitet werden.
Je nach Einsatzbereich können außerdem besondere Kategorien personenbezogener Daten betroffen sein. Bei einem Telefonassistenten in einer Arztpraxis könnten Anrufer beispielsweise Gesundheitsinformationen nennen.
Datenminimierung beginnt schon im Gespräch
Nur erfassen, was wirklich benötigt wird
Datenschutz ist bei Voice AI nicht nur eine Frage der Datenschutzerklärung.
Auch die Gestaltung des Gesprächs beeinflusst, welche Daten überhaupt entstehen.
Wenn für einen Rückruf lediglich Name, Telefonnummer und Anliegen benötigt werden, sollte ein Telefonassistent nicht vorsorglich weitere personenbezogene Informationen abfragen.
Unser Tipp: Bewerten Sie Audio, Transkript, Zusammenfassung und strukturierte Ergebnisdaten getrennt. Für jede Stufe sollte klar sein, ob die Verarbeitung wirklich erforderlich ist und wie lange die Informationen gespeichert werden.
Was sollte dokumentiert werden?
Die wichtigsten Governance-Informationen an einem Ort
Ein Governance-Eintrag muss nicht zwangsläufig aus einem hundertseitigen Dokument bestehen.
Entscheidend ist vielmehr, dass wesentliche Informationen nachvollziehbar erfasst und bei Änderungen aktualisiert werden können.
1. System und Anbieter. Welcher KI-Telefonassistent wird eingesetzt?
2. Geschäftszweck. Welche konkrete Aufgabe übernimmt das System?
3. Verantwortlicher. Welcher Fachbereich und welche Person tragen intern Verantwortung?
4. AI-Act-Rolle. Ist das Unternehmen Anbieter, Betreiber oder in einer anderen Rolle beteiligt?
5. Betroffene Personen. Kunden, Patienten, Bewerber, Lieferanten oder andere Gruppen.
6. Datenkategorien. Welche personenbezogenen oder sonstigen Daten werden verarbeitet?
7. Integrationen. Welche CRM-, Kalender-, Ticket- oder sonstigen Systeme sind angebunden?
8. Speicherung und Löschung. Was wird wie lange gespeichert?
9. Transparenz. Wie werden Menschen über den KI-Einsatz informiert?
10. Eskalation. Wann übernimmt ein Mensch?
11. Risikoeinstufung. Welche AI-Act-Einordnung wurde vorgenommen und warum?
12. Review. Wann wurde die Bewertung zuletzt überprüft?
Menschliche Übernahme und Eskalation
Wann sollte der Telefonassistent an einen Menschen übergeben?
Nicht jedes Gespräch sollte vollständig automatisiert werden.
Gerade bei komplexen, sensiblen oder ungewöhnlichen Anliegen ist es sinnvoll, klare Grenzen für den Telefonassistenten festzulegen.
Mögliche Eskalationsfälle sind beispielsweise Beschwerden, sicherheitsrelevante Meldungen, rechtlich sensible Fragen, medizinisch sensible Anliegen oder Situationen, in denen der Assistent die Intention des Anrufers wiederholt nicht zuverlässig erkennt.
Unser Tipp: Definieren Sie typische Grenzfälle und testen Sie regelmäßig, ob Weiterleitung, Benachrichtigung und menschliche Übernahme tatsächlich wie vorgesehen funktionieren.
Praxisbeispiel Teloro
Wie ein konkreter KI-Telefonassistent dokumentiert werden kann
Ein Beispiel für den praktischen Einsatz solcher Systeme ist die Teloro GmbH aus Mannheim. Teloro entwickelt KI-Telefonassistenten für Unternehmen, die eingehende Anrufe entgegennehmen, Anliegen in natürlicher Sprache erfassen, gezielte Rückfragen stellen und Informationen strukturiert für weitere Prozesse aufbereiten können.
Je nach Einsatzfall können dabei beispielsweise Terminwünsche, Rückrufe, Weiterleitungen oder die Übergabe relevanter Informationen an Kalender-, CRM- oder andere nachgelagerte Systeme vorbereitet werden.
Teloro wird dabei insbesondere für die telefonische Erstannahme und strukturierte Qualifizierung von Anfragen eingesetzt. Für die Governance-Perspektive ist weniger der Produktname entscheidend als der konkrete Einsatz im jeweiligen Unternehmen.
Beispiel für das KI-Inventar: „Einsatz von Teloro als KI-Telefonassistent für automatisierte telefonische Erstannahme, Erfassung und Qualifizierung von Anliegen sowie Übergabe relevanter Informationen an nachgelagerte Systeme.“
Anschließend können Unternehmen strukturiert prüfen, welche Daten verarbeitet werden, welche Systeme angebunden sind, welche Transparenzmaßnahmen erforderlich sind und an welchen Stellen menschliche Verantwortung bestehen bleibt.
Voice AI sollte nicht isoliert als Telefonie betrachtet werden.
Sobald Informationen aus dem Gespräch in weitere Unternehmenssysteme gelangen, entsteht ein Prozess, der als Ganzes betrachtet werden sollte.
Weitere Informationen bietet der KI-Telefonassistent von Teloro.
Ein sinnvoller Rollout in sieben Schritten
Von der Auswahl bis zur laufenden Überwachung
1. Use Case definieren. Welche Aufgaben soll die KI übernehmen – und welche ausdrücklich nicht?
2. System erfassen. KI-System in das zentrale Inventar aufnehmen und Verantwortlichkeiten festlegen.
3. AI-Act-Einordnung durchführen. Rolle und Risikoklasse anhand des konkreten Verwendungszwecks prüfen.
4. Datenflüsse bewerten. Personenbezogene Daten, Empfänger, Anbieter, Integrationen, Speicherung und Löschung erfassen.
5. Transparenz und Eskalation festlegen. Hinweise und Grenzen des Systems definieren.
6. Testen. Normale Anwendungsfälle und Grenzfälle vor dem produktiven Einsatz prüfen.
7. Überwachen und neu bewerten. Änderungen am System und am Verwendungszweck nachvollziehen.
Warum die einmalige Prüfung nicht reicht
KI-Systeme verändern sich nach dem Go-live
Ein häufig unterschätztes Problem beginnt nach dem Go-live.
Eine neue CRM-Integration kommt hinzu. Der Telefonassistent darf plötzlich zusätzliche Daten erfassen. Eine Wissensbasis wird erweitert. Ein neues Modell wird eingesetzt. Der ursprüngliche Use Case wird auf weitere Abteilungen übertragen.
Damit können sich auch Compliance-relevante Rahmenbedingungen verändern.
Deshalb sollte AI Governance nicht nur eine einmalige Freigabe vor dem Go-live sein.
Änderungen an Zweck, Datenflüssen, Modellen, Integrationen und Verantwortlichkeiten sollten nachvollziehbar bleiben und gegebenenfalls eine erneute Bewertung auslösen.
Von der Dokumentation zur kontinuierlichen AI Governance
Warum ein strukturiertes KI-Inventar die Grundlage bildet
Unternehmen müssen nicht nur wissen, welche KI-Systeme existieren, sondern auch:
Was machen sie?
Wer ist verantwortlich?
Welche Daten verarbeiten sie?
Welche regulatorischen Anforderungen betreffen sie?
Wann wurden sie zuletzt bewertet?
Eine Plattform wie SimpleAct kann solche Informationen zentral zusammenführen und beispielsweise AI-Act-Klassifizierung, DSGVO-relevante Informationen, Verantwortlichkeiten, Nachweise und spätere Reassessments miteinander verbinden.
Das Ziel: Ein Unternehmen sollte auch sechs Monate nach Einführung noch nachvollziehen können, wie sein KI-System eingesetzt wird, warum es regulatorisch so eingeordnet wurde und was sich seitdem verändert hat.
Häufige Fragen zu KI-Telefonassistenten
EU AI Act und DSGVO kurz beantwortet
Muss ein KI-Telefonassistent sagen, dass er eine KI ist?
Für KI-Systeme, die zur direkten Interaktion mit natürlichen Personen bestimmt sind, sieht Art. 50 Abs. 1 grundsätzlich eine entsprechende Transparenzpflicht des Anbieters vor. Eine Ausnahme besteht, wenn die KI-Interaktion aufgrund der Umstände und des Kontexts offensichtlich ist.
Ist ein KI-Telefonassistent automatisch Hochrisiko-KI?
Nein. Entscheidend ist insbesondere der konkrete Verwendungszweck. Ein Assistent für Terminvereinbarung oder Routing wird nicht allein aufgrund der verwendeten KI-Technologie zum Hochrisiko-System.
Gilt zusätzlich die DSGVO?
Wenn personenbezogene Daten verarbeitet werden, ist die DSGVO zusätzlich zu berücksichtigen. Bei Voice-Systemen können unter anderem Kontaktdaten, Gesprächsinhalte, Transkripte, Zusammenfassungen oder besonders sensible Informationen betroffen sein.
Was sollte dokumentiert werden?
Insbesondere Zweck, Anbieter, Verantwortlichkeiten, Datenflüsse, Integrationen, betroffene Personen, Transparenzmaßnahmen, Eskalationswege sowie die durchgeführte AI-Act-Einordnung sollten nachvollziehbar erfasst werden.
Muss jedes Gespräch gespeichert oder transkribiert werden?
Nein. Ob Audio, Transkripte oder Zusammenfassungen gespeichert werden, hängt von der konkreten technischen Ausgestaltung und dem Zweck ab.
Fazit
Der Telefonassistent ist ein Prozess – kein isoliertes Tool
KI-Telefonassistenten können Erreichbarkeit verbessern und repetitive Kommunikationsprozesse automatisieren. Regulatorisch sollten Unternehmen sie trotzdem nicht lediglich als Telefonie-Software betrachten.
Seit dem 2. August 2026 sind insbesondere die Transparenzpflichten nach Artikel 50 des EU AI Acts relevant. Gleichzeitig kann die DSGVO greifen, sobald personenbezogene Daten verarbeitet werden.
Die entscheidende Frage ist deshalb nicht:
„Nutzen wir einen KI-Telefonassistenten?“
Sondern:
„Was genau macht dieses KI-System in unserem Unternehmen, welche Daten und Prozesse berührt es und wer trägt dafür Verantwortung?“
Wer diese Fragen von Beginn an beantworten und später aktualisieren kann, schafft die Grundlage für skalierbare AI Governance.
Genau hier setzt SimpleAct an: KI-Systeme erfassen, einordnen und dokumentieren – an einem Ort, nachvollziehbar und ohne Excel-Chaos.
Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar. Die konkrete rechtliche Einordnung hängt vom jeweiligen KI-System, dessen Zweck, Rollenverteilung und Datenverarbeitung ab. Bei Unsicherheiten empfehlen wir eine rechtliche Prüfung.
Über SimpleAct: SimpleAct ist eine deutsche Compliance-Plattform, die Unternehmen bei der strukturierten Erfassung, Bewertung und Dokumentation ihrer KI-Systeme sowie bei der Umsetzung relevanter Anforderungen aus EU AI Act und DSGVO unterstützt.
Tags
EU AI Act Compliance in Ihrem Unternehmen umsetzen?
SimpleAct hilft Ihnen, KI-Systeme zu erfassen, Risiken einzustufen und die geforderte Dokumentation automatisch zu erstellen.
Kamill Jarzebowski | SimpleAct
Autor · SimpleAct Team