Regels en compliance

De Europese AI-verordening en spraakagents: transparantie

Wat de transparantieplichten van de AI-verordening betekenen voor spraakagents die gesprekken aannemen of voeren, met een checklist om bellers over AI te informeren.

Redactie van Call · Gepubliceerd · 7 min leestijd

Spraakagents zijn inmiddels zo goed dat een beller een gesprek kan afronden zonder te beseffen dat er geen mens aan de lijn was. Europese wetgevers hebben dat opgemerkt. De Europese verordening artificiële intelligentie (Verordening (EU) 2024/1689) bevat transparantieregels die specifiek gericht zijn op systemen die met mensen interacteren, en een telefoonagent is daar een schoolvoorbeeld van.

Iemand aan een bureau met een headset, terwijl een gesprek op een laptopscherm wordt weergegeven
Illustratieve afbeelding

Deze gids legt de basis in gewone taal uit: wat de transparantieplicht zegt, bij wie die ligt, wat ze betekent voor inkomende en uitgaande gesprekken, en hoe u haar in uw gespreksflow inbouwt. Het is een overzicht voor operationele en productteams, geen juridisch advies. Voor het bredere beeld over bellers informeren over AI, zie Bellers vertellen dat ze met een AI praten.

De verordening in één minuut

De AI-verordening deelt AI-systemen in naar het risico dat ze vormen en verbindt plichten aan elke categorie. Een klein aantal praktijken is verboden. Een vastgestelde lijst van toepassingen met een hoog risico kent zware verplichtingen. Systemen die rechtstreeks met mensen interacteren, of die synthetische audio, beelden of video genereren, hebben lichtere transparantieverplichtingen. Het meeste algemene zakelijke gebruik valt buiten de lijst met hoog risico.

Een spraakagent voor klantenservice valt doorgaans in die transparantiecategorie en niet in de categorie hoog risico. Dat betekent niet dat hij ongereguleerd is: andere wetten blijven gelden, zoals regels voor gegevensbescherming en consumentenrecht. Maar de eigen eis van de AI-verordening voor dit soort systemen draait vooral om eerlijkheid.

Waar een spraakagent past

  • Verboden praktijkenManipulatief of uitbuitend gebruik is volledig verboden. Een gewone receptionist- of supportagent is daar niet voor ontworpen, maar uw prompts en scripts mogen daar nooit naartoe afdrijven.
  • Systemen met een hoog risicoEen vaste lijst van toepassingen, zoals bepaalde beslissingen over werkgelegenheid, krediet of essentiële diensten. Controleer of uw gespreksflow zulke beslissingen neemt of sterk beïnvloedt.
  • TransparantieplichtenDe categorie waarin de meeste telefoonagents vallen: mensen moeten te horen krijgen dat ze met een AI-systeem interacteren, en synthetische audio moet worden gemarkeerd.
  • Al het overigeAndere wetten blijven gelden, waaronder gegevensbescherming, regels voor opnames en consumentenbescherming.

Wat de transparantieplicht zegt

In gewone woorden vraagt het transparantieartikel van de verordening het volgende, met enkele uitzonderingen:

Volgens de oorspronkelijke tijdlijn gaan de transparantieverplichtingen gelden vanaf augustus 2026. Over de tijdlijnen voor delen van de verordening is op EU-niveau gesproken, dus controleer welke datums gelden op het moment dat u dit leest.

Is het ooit duidelijk?

De verordening maakt een uitzondering als het voor een redelijk geïnformeerd persoon duidelijk is dat die met een AI te maken heeft. Leun daar aan de telefoon niet op. Een natuurlijke stem, een menselijk klinkende naam en een vriendelijke toon maken het allesbehalve duidelijk. Twijfelt u, meld het dan.

Aanbieder of gebruiksverantwoordelijke: wie heeft welke plicht

De verordening onderscheidt aanbieders, die een AI-systeem ontwikkelen of laten ontwikkelen en het onder eigen naam in de handel brengen, van gebruiksverantwoordelijken, die een systeem onder hun eigen verantwoordelijkheid gebruiken. Een bedrijf dat een spraakagent op een platform configureert en op zijn telefoonlijn zet, is doorgaans gebruiksverantwoordelijke, terwijl de platformleverancier dichter bij een aanbieder staat. Veel plichten liggen bij de aanbieder, maar een gebruiksverantwoordelijke moet het systeem nog steeds gebruiken zoals bedoeld, mensen informeren waar dat vereist is en de waarborgen niet uitschakelen.

Aanbieder en gebruiksverantwoordelijke naast elkaar

Aanbieder (bouwt of verkoopt het systeem)Gebruiksverantwoordelijke (zet het in)
Typisch voorbeeldEen leverancier van een platform voor spraakagentsEen kliniek, winkel of servicedesk die een spraakagent op de eigen lijn inzet
Informeren van mensenBouwt het systeem zo dat het mensen kan vertellen dat ze met een AI te maken hebbenZorgt dat de lijn bellers dat ook echt vertelt, op de juiste plek en in de juiste woorden
Markering van synthetische audioBouwt markering in waar dat technisch haalbaar isVerwijdert of schakelt die niet uit
Dagelijkse controleDocumentatie en ontwerpScripts, escalatie, monitoring en administratie

Weet u niet zeker welke rol u heeft, ga er dan van uit dat u minstens de plichten van een gebruiksverantwoordelijke heeft, en vraag uw leverancier wat het platform voor u regelt.

Inkomende en uitgaande gesprekken

Inkomende gesprekken zijn het eenvoudigste geval. De beller koos ervoor u te bellen, en u kunt openen met een korte mededeling voordat de agent het overneemt. Uitgaande gesprekken vragen meer zorg, omdat de persoon niet voor het gesprek koos. De mededeling hoort in de eerste zin of twee, samen met wie er belt en waarom.

Een transparante opening voor een gesprek dat door AI wordt gevoerd

  1. Noem het bedrijf"Goedendag, u spreekt met de afsprakenlijn van Fysiotherapie De Haven."
  2. Zeg dat het een AI is"Ik ben een geautomatiseerde spraakassistent, geen mens."
  3. Zeg wat die kan"Ik kan een bericht of een verzoek voor een afspraak aannemen."
  4. Bied een mens aan"Spreekt u liever iemand, zeg het dan gerust."
  5. Noem opname indien relevant"Dit gesprek kan worden opgenomen voor kwaliteitsdoeleinden."

Deze voorbeelden zijn denkbeeldig; pas ze aan uw eigen bedrijf aan. Houd u bij uitgaande campagnes ook aan de aparte regels voor geautomatiseerde gesprekken en toestemming, samengevat in Geautomatiseerde gesprekken: een overzicht per land.

Synthetische en gekloonde stemmen

Tekst-naar-spraakstemmen zijn synthetische audio, en een gekloonde stem gaat verder door een echt persoon te imiteren. Markeringsplichten liggen vooral bij de aanbieder, maar als gebruiksverantwoordelijke moet u begrijpen wat uw platform doet, en u mag nooit een gekloonde stem van een echt persoon gebruiken zonder diens duidelijke toestemming. Spreekt uw agent met de stem van een bekende medewerker, vertel bellers dan dat het een AI-stem is en niet die medewerker.

Meer over stemmen leest u in Stemklonen voor bedrijven: toestemming en grenzen.

Meer dan een mededeling: wat u verder inbouwt

Transparantie is de ondergrens, niet het plafond. Een goed beheerde spraakagent heeft ook het volgende nodig:

Praktische waarborgen rond de mededeling

  • Een weg naar een mensBellers die om een mens vragen, moeten er zonder strijd een bereiken, of terugbellen of een bericht aangeboden krijgen.
  • Grenzen aan wat de agent zegtVangrails die voorkomen dat de agent antwoorden verzint of advies geeft buiten zijn taak.
  • Zorgvuldig met gegevensVerzamel alleen wat het gesprek nodig heeft, en vertel bellers hoe opnames en transcripties worden gebruikt.
  • Menselijk toezichtIemand bekijkt transcripties, handelt escalaties af en kan de agent uitschakelen.

Zie Vangrails voor voice-AI-agents en Privacy by design voor voice-AI voor de ontwerpkant.

Een praktische checklist voor paraatheid

Voordat een AI-spraakagent live gesprekken aanneemt

  • Bepaal of u voor dit systeem aanbieder, gebruiksverantwoordelijke of beide bent
  • Schrijf de mededeling in eenvoudige woorden en plaats haar vooraan bij elk type gesprek
  • Zorg dat een beller een mens, terugbellen of een bericht kan bereiken
  • Ga bij uw leverancier na hoe synthetische audio wordt gemarkeerd
  • Controleer dat ook de meldingen over gegevensbescherming en opnames op hun plaats zijn
  • Leg vast welke tekst werd gebruikt en wanneer die veranderde
  • Bekijk elke week een steekproef van echte gesprekken en verbeter gesprekken waarin de AI verborgen bleef
  • Controleer vóór de lancering opnieuw officiële bronnen op wijzigingen in de tijdlijn

Zo doet u het in Call

In Call kan de platformbeheerder verplichte mededelingen vastleggen onder Beheer, Telefonie en AI: u geeft een label op, de woorden die gelden als het uitspreken ervan, en het aantal seconden waarbinnen het gezegd moet zijn. Alleen de eigen spraak van de agent telt, niet een beller die ernaar vraagt. Op een telefoonlijn kunt u ook kiezen of bellers een melding over opnemen en meeluisteren horen, en bij AI-gesprekken komt die melding vóór de begroeting. Een beller kan om een mens vragen, en AI-agents kunnen een gesprek overdragen; zie Gesprekken van een AI-agent overdragen aan een mens in Call. Of die instellingen voldoen aan een bepaalde wettelijke plicht, beoordeelt u samen met uw adviseur.

Veelgestelde vragen

Geldt de AI-verordening voor mij als mijn bedrijf buiten de EU zit?

Dat kan. De verordening reikt tot aanbieders en gebruiksverantwoordelijken buiten de EU wanneer de output van hun systeem in de EU wordt gebruikt, bijvoorbeeld door bellers die zich daar bevinden. Win advies in als u bellers in de EU heeft.

Moet een spraakagent altijd zeggen dat het een AI is?

De transparantieregel vraagt dat mensen worden geïnformeerd dat ze met een AI-systeem interacteren, tenzij dat voor een redelijk geïnformeerd persoon duidelijk is. Op een telefoonlijn is het zelden duidelijk, dus de veilige gewoonte is het aan het begin van elk gesprek te zeggen.

Wanneer gaan de transparantieregels gelden?

Volgens de oorspronkelijke tijdlijn vanaf augustus 2026, maar over de tijdlijnen voor delen van de verordening is gesproken. Raadpleeg de pagina's van de Europese Commissie voor de datums die gelden op het moment dat u dit leest.

Is een begroeting met tekst-naar-spraak een AI-systeem?

Een vaste opgenomen of synthetische begroeting zonder interactie is iets anders dan een agent die een gesprek voert. Markeringsplichten voor synthetische audio kunnen toch relevant zijn, dus vraag uw leverancier hoe die ermee omgaat.

Betekent een AI-mededeling dat bellers ophangen?

Sommigen misschien, maar een eerlijke mededeling wekt vertrouwen, en bellers die blijven, zijn vaak duidelijker over wat ze willen. Een vriendelijke opening en een eenvoudige route naar een mens verminderen het aantal afhakers.

Is de AI-verordening de enige wet die ertoe doet voor spraakagents?

Nee. Regels voor gegevensbescherming, gespreksopname, marketing en toestemming, en sectorregels blijven gelden. De AI-verordening komt erbij en vervangt ze niet.

Stel in Call een duidelijke AI-mededeling in voor uw telefoonlijn

In de democonsole probeert u inkomende gesprekken uit in een simulatie.

Gerelateerde gidsen