Der EU AI Act und Sprach-KI-Agenten: Grundlagen der Transparenz
Was die Transparenzpflichten des EU AI Act für Sprachagenten bedeuten, die Anrufe annehmen oder tätigen – mit Checkliste, um Anrufende über KI zu informieren.
Sprachagenten sind inzwischen so gut, dass Anrufende ein Gespräch beenden können, ohne zu merken, dass niemand in der Leitung war. Das ist auch dem europäischen Gesetzgeber aufgefallen. Die KI-Verordnung der EU (Verordnung (EU) 2024/1689, „AI Act“) enthält Transparenzregeln, die genau auf Systeme zielen, die mit Menschen interagieren – und ein Telefonagent ist dafür ein Paradebeispiel.

Dieser Leitfaden erklärt die Grundlagen in einfacher Sprache: was die Transparenzpflicht besagt, wen sie trifft, was sie für ein- und ausgehende Anrufe bedeutet und wie Sie sie in Ihren Anrufablauf einbauen. Er ist ein Überblick für Betriebs- und Produktteams, kein Rechtsgutachten. Den größeren Zusammenhang zur Information von Anrufenden über KI finden Sie in Anrufenden sagen, dass sie mit einer KI sprechen.
Die Verordnung in einer Minute
Der AI Act ordnet KI-Systeme nach ihrem Risiko ein und knüpft an jede Stufe Pflichten. Einige wenige Praktiken sind verboten. Eine festgelegte Liste von Hochrisiko-Anwendungen bringt umfangreiche Pflichten mit sich. Systeme, die direkt mit Menschen interagieren oder synthetische Audio-, Bild- oder Videoinhalte erzeugen, unterliegen leichteren Transparenzpflichten. Die meisten allgemeinen Geschäftsanwendungen fallen nicht unter die Hochrisiko-Liste.
Ein Sprachagent im Kundenservice gehört in der Regel zur Transparenzstufe und nicht zur Hochrisiko-Stufe. Unreguliert ist er dadurch nicht: Andere Gesetze gelten weiterhin, etwa Datenschutz- und Verbraucherrecht. Die eigene Anforderung des AI Act an solche Systeme betrifft aber vor allem Ehrlichkeit.
Wo ein Sprachagent einzuordnen ist
- Verbotene PraktikenManipulative oder ausbeuterische Anwendungen sind schlicht verboten. Eine gewöhnliche Empfangs- oder Support-KI ist dafür nicht gedacht, doch Ihre Prompts und Skripte sollten sich nie in diese Richtung bewegen.
- Hochrisiko-SystemeEine feste Liste von Anwendungen, etwa bestimmte Entscheidungen über Beschäftigung, Kredite oder grundlegende Dienstleistungen. Prüfen Sie, ob Ihr Anrufablauf solche Entscheidungen trifft oder maßgeblich beeinflusst.
- TransparenzpflichtenDie Stufe, in die die meisten Telefonagenten fallen: Menschen müssen erfahren, dass sie mit einem KI-System interagieren, und synthetisches Audio sollte gekennzeichnet sein.
- Alles andereAndere Gesetze gelten weiterhin, darunter Datenschutz, Aufzeichnungsregeln und Verbraucherschutz.
Was die Transparenzpflicht besagt
Vereinfacht verlangt der Transparenzartikel der Verordnung, mit einigen Ausnahmen, Folgendes:
- Menschen sagen, dass sie mit einer KI sprechen. Anbieter von KI-Systemen, die direkt mit Menschen interagieren, müssen diese so gestalten, dass die Person informiert wird, sofern es für eine angemessen informierte Person nicht aus den Umständen offensichtlich ist.
- Synthetisches Audio kennzeichnen. Anbieter von Systemen, die synthetisches Audio, Bilder, Videos oder Text erzeugen, müssen sicherstellen, dass die Ausgabe in maschinenlesbarer Form gekennzeichnet und als künstlich erzeugt erkennbar ist, soweit technisch machbar.
- Deepfakes offenlegen. Wer Systeme einsetzt, die Inhalte erzeugen oder verändern, die realen Personen, Orten oder Ereignissen ähneln, muss offenlegen, dass sie künstlich sind.
- Über Emotionserkennung informieren. Betreiber von Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen die betroffenen Personen informieren.
Nach dem ursprünglichen Zeitplan sollen die Transparenzpflichten ab August 2026 gelten. Die Zeitpläne für Teile der Verordnung wurden auf EU-Ebene diskutiert, prüfen Sie daher, welche Termine gelten, wenn Sie dies lesen.
Ist es jemals offensichtlich?
Die Verordnung erlaubt eine Ausnahme, wenn es für eine angemessen informierte Person offensichtlich ist, dass sie es mit einer KI zu tun hat. Am Telefon sollten Sie sich darauf nicht stützen. Eine natürliche Stimme, ein menschlich klingender Name und ein freundlicher Ton machen es alles andere als offensichtlich. Im Zweifel: offenlegen.
Anbieter oder Betreiber: Wer hat welche Pflicht?
Die Verordnung unterscheidet Anbieter, die ein KI-System entwickeln oder entwickeln lassen und unter eigenem Namen in Verkehr bringen, von Betreibern, die ein System in eigener Verantwortung verwenden. Ein Unternehmen, das einen Sprachagenten auf einer Plattform konfiguriert und auf seine Telefonleitung schaltet, ist typischerweise Betreiber, während der Plattformanbieter eher Anbieter ist. Viele Pflichten liegen beim Anbieter, doch ein Betreiber muss das System bestimmungsgemäß verwenden, Menschen informieren, wo es verlangt ist, und darf die Schutzmechanismen nicht entfernen.
Anbieter und Betreiber im Vergleich
| Anbieter (baut oder verkauft das System) | Betreiber (setzt es ein) | |
|---|---|---|
| Typisches Beispiel | Ein Hersteller einer Sprachagenten-Plattform | Eine Praxis, ein Händler oder ein Servicedesk, der einen Sprachagenten auf seiner Leitung betreibt |
| Information der Menschen | Baut das System so, dass es Menschen mitteilen kann, dass sie es mit einer KI zu tun haben | Sorgt dafür, dass die Leitung Anrufende tatsächlich informiert, an der richtigen Stelle und mit den richtigen Worten |
| Kennzeichnung synthetischen Audios | Baut die Kennzeichnung ein, soweit technisch machbar | Entfernt oder deaktiviert sie nicht |
| Tägliche Steuerung | Dokumentation und Design | Skripte, Eskalation, Überwachung und Dokumentation |
Wenn Sie nicht sicher sind, welche Rolle Sie haben, gehen Sie davon aus, dass Sie mindestens die Betreiberpflichten tragen, und fragen Sie Ihren Anbieter, was die Plattform für Sie übernimmt.
Eingehende und ausgehende Anrufe
Eingehende Anrufe sind der einfachere Fall. Die anrufende Person hat sich entschieden, Sie anzurufen, und Sie können mit einem kurzen Hinweis beginnen, bevor der Agent übernimmt. Ausgehende Anrufe erfordern mehr Sorgfalt, weil die Person das Gespräch nicht gewählt hat. Der Hinweis sollte im ersten oder zweiten Satz kommen, zusammen mit der Angabe, wer anruft und warum.
Eine transparente Eröffnung für ein KI-geführtes Gespräch
- Das Unternehmen nennen„Guten Tag, hier ist die Terminleitung der Physiopraxis am Hafen.“
- Sagen, dass es eine KI ist„Ich bin ein automatischer Sprachassistent, kein Mensch.“
- Sagen, was sie kann„Ich kann eine Nachricht oder einen Terminwunsch aufnehmen.“
- Eine Person anbieten„Wenn Sie lieber mit jemandem sprechen möchten, sagen Sie es einfach.“
- Gegebenenfalls die Aufzeichnung erwähnen„Dieses Gespräch kann zur Qualitätssicherung aufgezeichnet werden.“
Diese Beispiele sind hypothetisch; passen Sie sie an Ihr eigenes Unternehmen an. Halten Sie bei ausgehenden Kampagnen zudem die gesonderten Regeln zu automatisierten Anrufen und Einwilligung ein, zusammengefasst in Automatisierte Anrufe: ein Überblick nach Ländern.
Synthetische und geklonte Stimmen
Text-to-Speech-Stimmen sind synthetisches Audio, und eine geklonte Stimme geht noch weiter, indem sie eine reale Person nachahmt. Kennzeichnungspflichten liegen vor allem beim Anbieter, doch als Betreiber sollten Sie verstehen, was Ihre Plattform tut, und niemals die geklonte Stimme einer realen Person ohne deren klare Erlaubnis verwenden. Spricht Ihr Agent mit der Stimme einer bekannten Mitarbeiterin oder eines bekannten Mitarbeiters, sagen Sie Anrufenden, dass es eine KI-Stimme ist und nicht diese Person.
- Geben Sie einem KI-Agenten keine menschliche Berufsbezeichnung oder keinen persönlichen Namen, der eine Person nahelegt, wenn Anrufende dadurch getäuscht werden könnten.
- Fragt jemand ernsthaft, ob er mit einem Menschen spricht, antworten Sie jedes Mal wahrheitsgemäß.
- Halten Sie schriftlich fest, welche Stimme und welche Formulierung jede Leitung verwendet.
Mehr zu Stimmen finden Sie in Stimmklonen im Unternehmen: Einwilligung und Grenzen.
Über die Offenlegung hinaus: was Sie noch einplanen sollten
Transparenz ist die Untergrenze, nicht die Obergrenze. Ein gut geführter Sprachagent braucht außerdem Folgendes:
Praktische Schutzmaßnahmen rund um den Hinweis
- Ein Weg zu einer PersonWer nach einem Menschen fragt, sollte einen erreichen oder ohne Umstände einen Rückruf oder eine Nachricht angeboten bekommen.
- Grenzen für das GesagteLeitplanken, die verhindern, dass der Agent Antworten erfindet oder Ratschläge außerhalb seines Aufgabenbereichs gibt.
- Sorgfalt mit DatenErheben Sie nur, was das Gespräch erfordert, und sagen Sie Anrufenden, wie Aufzeichnungen und Transkripte genutzt werden.
- Menschliche AufsichtJemand prüft Transkripte, bearbeitet Eskalationen und kann den Agenten abschalten.
Zur Gestaltungsseite siehe Leitplanken für Sprach-KI-Agenten und Datenschutz durch Technikgestaltung bei Sprach-KI.
Eine praktische Checkliste zur Vorbereitung
Bevor ein KI-Sprachagent Live-Anrufe annimmt
- Klären, ob Sie für dieses System Anbieter, Betreiber oder beides sind
- Den Hinweis in einfachen Worten formulieren und bei jeder Anrufart an den Anfang stellen
- Sicherstellen, dass Anrufende eine Person, einen Rückruf oder eine Nachricht erreichen können
- Mit dem Anbieter klären, wie synthetisches Audio gekennzeichnet wird
- Prüfen, dass auch Datenschutz- und Aufzeichnungshinweise vorhanden sind
- Die verwendeten Formulierungen und die Daten ihrer Änderung dokumentieren
- Wöchentlich eine Stichprobe echter Anrufe prüfen und jeden korrigieren, der die KI verschleiert hat
- Vor dem Start offizielle Quellen erneut auf Änderungen des Zeitplans prüfen
Umsetzung in Call
In Call kann ein Operator unter „Administrator“ › „Telefonie und KI“ Pflichthinweise hinterlegen: Sie vergeben eine Bezeichnung, die Worte, die als Erfüllung gelten, und die Zahl der Sekunden, bis zu der der Hinweis gesagt worden sein muss. Es zählt nur die Sprache des Agenten selbst, nicht eine Nachfrage der anrufenden Person. Für eine Telefonleitung können Sie außerdem wählen, ob Anrufende einen Hinweis auf Aufzeichnung und Mithören hören; bei KI-Anrufen kommt dieser Hinweis vor der Begrüßung. Anrufende können nach einer Person fragen, und KI-Agenten können einen Anruf übergeben; siehe „Anrufe in Call von einem KI-Agenten an eine Person übergeben“. Ob diese Einstellungen eine bestimmte rechtliche Pflicht erfüllen, entscheiden Sie gemeinsam mit Ihrer Beratung.
Häufig gestellte Fragen
Gilt der EU AI Act für mich, wenn mein Unternehmen außerhalb der EU sitzt?
Das kann sein. Die Verordnung erfasst Anbieter und Betreiber außerhalb der EU, wenn die Ausgabe ihres Systems in der EU verwendet wird, etwa von Anrufenden, die sich dort befinden. Holen Sie Rat ein, wenn Sie Anrufende in der EU haben.
Muss ein Sprachagent immer sagen, dass er eine KI ist?
Die Transparenzregel verlangt, dass Menschen informiert werden, dass sie mit einem KI-System interagieren, sofern das für eine angemessen informierte Person nicht offensichtlich ist. Am Telefon ist es selten offensichtlich, deshalb ist es die sichere Gewohnheit, es zu Beginn jedes Gesprächs zu sagen.
Ab wann gelten die Transparenzregeln?
Nach dem ursprünglichen Zeitplan sollen sie ab August 2026 gelten, doch die Zeitpläne für Teile der Verordnung wurden diskutiert. Prüfen Sie auf den Seiten der Europäischen Kommission, welche Termine gelten, wenn Sie dies lesen.
Ist eine Text-to-Speech-Begrüßung ein KI-System?
Eine feste aufgezeichnete oder synthetische Begrüßung ohne Interaktion ist etwas anderes als ein Agent, der ein Gespräch führt. Kennzeichnungspflichten für synthetisches Audio können dennoch relevant sein, fragen Sie daher Ihren Anbieter, wie er damit umgeht.
Legen Anrufende auf, wenn ich die KI offenlege?
Manche vielleicht, aber ehrliche Offenlegung schafft Vertrauen, und wer dranbleibt, sagt meist klarer, was er möchte. Eine freundliche Eröffnung und ein einfacher Weg zu einer Person verringern Abbrüche.
Ist der AI Act das einzige relevante Gesetz für Sprachagenten?
Nein. Datenschutz, Gesprächsaufzeichnung, Marketing- und Einwilligungsregeln sowie Branchenvorschriften gelten weiterhin. Der AI Act ergänzt sie, statt sie zu ersetzen.