Regler og compliance

EU's AI-forordning og stemmeagenter: grundlæggende om gennemsigtighed

Hvad AI-forordningens krav om gennemsigtighed betyder for stemmeagenter, der besvarer eller foretager opkald, med en tjekliste til at oplyse om AI.

Calls redaktion · Udgivet · 6 min. læsetid

Stemmeagenter er nu så gode, at en opkalder kan gennemføre en samtale uden at opdage, at der ikke var et menneske i den anden ende. Det har de europæiske lovgivere bemærket. EU's forordning om kunstig intelligens (forordning (EU) 2024/1689) indeholder regler om gennemsigtighed, der er rettet direkte mod systemer, der interagerer med mennesker, og en telefonagent er et skoleeksempel.

En person ved et skrivebord med headset, mens et opkald vises på en bærbar computers skærm
Illustrativt billede

Denne guide forklarer det grundlæggende i et enkelt sprog: hvad kravet om gennemsigtighed siger, hvem det påhviler, hvad det betyder for indgående og udgående opkald, og hvordan du bygger det ind i dit opkaldsflow. Den er et overblik for drifts- og produktteams, ikke en juridisk vurdering. Det bredere billede af at fortælle opkaldere om AI finder du i Bør du oplyse, at en AI svarer i telefonen?.

Forordningen på ét minut

AI-forordningen inddeler AI-systemer efter den risiko, de udgør, og knytter pligter til hvert niveau. Et lille antal praksisser er forbudt. En fastlagt liste over højrisikoanvendelser medfører tunge forpligtelser. Systemer, der interagerer direkte med mennesker, eller som genererer syntetisk lyd, billeder eller video, har lettere krav om gennemsigtighed. De fleste almindelige forretningsanvendelser falder uden for højrisikolisten.

En stemmeagent i kundeservice hører som regel til i gennemsigtighedsniveauet og ikke i højrisikoniveauet. Det betyder ikke, at den er ureguleret: andre love gælder stadig, fx databeskyttelsesregler og forbrugerlovgivning. Men AI-forordningens eget krav til denne type system handler primært om ærlighed.

Hvor en stemmeagent hører hjemme

  • Forbudte praksisserManipulerende eller udnyttende anvendelser er helt forbudt. En almindelig receptionist- eller supportagent er ikke designet til det, men dine prompter og manuskripter må aldrig glide i den retning.
  • HøjrisikosystemerEn fast liste over anvendelser, fx visse beslutninger om beskæftigelse, kredit eller væsentlige tjenester. Tjek, om dit opkaldsflow træffer eller i høj grad påvirker sådanne beslutninger.
  • Krav om gennemsigtighedDet niveau, de fleste telefonagenter hører til: folk skal have at vide, at de interagerer med et AI-system, og syntetisk lyd skal mærkes.
  • Alt andetAndre love gælder stadig, herunder databeskyttelse, regler om optagelse og forbrugerbeskyttelse.

Hvad kravet om gennemsigtighed siger

Kort sagt kræver forordningens artikel om gennemsigtighed følgende, med visse undtagelser:

Efter den oprindelige tidsplan skal kravene om gennemsigtighed gælde fra august 2026. Tidsplanerne for dele af forordningen har været til drøftelse på EU-niveau, så bekræft de gældende datoer, når du læser dette.

Er det nogensinde åbenlyst?

Forordningen giver en undtagelse, når det er åbenlyst for en rimeligt velinformeret person, at vedkommende har med en AI at gøre. I telefonen bør du ikke støtte dig til det. En naturlig stemme, et menneskeligt klingende navn og en venlig tone gør det langtfra åbenlyst. Er du i tvivl, så oplys det.

Udbyder eller idriftsætter: hvem har hvilken pligt?

Forordningen skelner mellem udbydere, der udvikler et AI-system eller får et udviklet og bringer det i omsætning under eget navn, og idriftsættere, der bruger et system under deres myndighed. En virksomhed, der konfigurerer en stemmeagent fra en platform og sætter den på sin telefonlinje, er typisk idriftsætter, mens platformleverandøren er tættere på at være udbyder. Mange pligter ligger hos udbyderen, men en idriftsætter skal stadig bruge systemet efter hensigten, holde mennesker informeret, hvor det kræves, og ikke fjerne sikkerhedsforanstaltningerne.

Udbyder og idriftsætter side om side

Udbyder (bygger eller sælger systemet)Idriftsætter (tager det i brug)
Typisk eksempelEn leverandør af en platform til stemmeagenterEn klinik, en butik eller en servicedesk, der kører en stemmeagent på sin linje
Oplysning til menneskerBygger systemet, så det kan fortælle folk, at de har med en AI at gøreSørger for, at linjen faktisk fortæller det til opkalderne, det rigtige sted og med de rigtige ord
Mærkning af syntetisk lydIndbygger mærkning, hvor det er teknisk muligtFjerner eller deaktiverer den ikke
Daglig styringDokumentation og designManuskripter, eskalering, overvågning og dokumentation

Hvis du ikke er sikker på, hvilken rolle du har, så gå ud fra, at du som minimum har idriftsætterens pligter, og spørg din leverandør, hvad platformen gør for dig.

Indgående og udgående opkald

Indgående opkald er det enkleste tilfælde. Opkalderen har selv valgt at ringe til jer, og I kan indlede med en kort oplysning, før agenten tager over. Udgående opkald kræver mere omtanke, fordi personen ikke selv har valgt samtalen. Oplysningen skal komme i den første eller anden sætning sammen med, hvem der ringer, og hvorfor.

En gennemsigtig indledning til et opkald, som en AI håndterer

  1. Nævn virksomheden"Hej, du taler med bookinglinjen hos Havnens Fysioterapi."
  2. Sig, at det er en AI"Jeg er en automatisk stemmeassistent, ikke et menneske."
  3. Sig, hvad den kan"Jeg kan tage imod en besked eller en anmodning om en tid."
  4. Tilbyd et menneske"Hvis du hellere vil tale med en person, så sig det bare."
  5. Nævn optagelse, hvis det er relevant"Opkaldet kan blive optaget af hensyn til kvaliteten."

Eksemplerne er tænkte. Tilpas dem til din egen virksomhed. Ved udgående kampagner skal du også overholde de separate regler om automatiske opkald og samtykke, som er opsummeret i Automatiske opkald: et overblik land for land.

Syntetiske og klonede stemmer

Tekst til tale-stemmer er syntetisk lyd, og en klonet stemme går videre ved at efterligne en virkelig person. Mærkningspligterne ligger primært hos udbyderen, men som idriftsætter bør du forstå, hvad din platform gør, og du må aldrig bruge en klonet stemme af en virkelig person uden personens klare tilladelse. Hvis din agent taler med stemmen fra en kendt medarbejder, så fortæl opkalderne, at det er en AI-stemme og ikke den medarbejder.

Mere om stemmer finder du i Stemmekloning i virksomheder: samtykke og grænser.

Ud over oplysningen: hvad du ellers bør designe ind

Gennemsigtighed er gulvet, ikke loftet. En velfungerende stemmeagent har også brug for følgende:

Praktiske sikkerhedsforanstaltninger omkring oplysningen

  • En vej til et menneskeOpkaldere, der beder om et menneske, skal kunne nå et eller få tilbudt et tilbagekald eller en besked uden besvær.
  • Grænser for, hvad den sigerSikkerhedsrammer, der forhindrer agenten i at opfinde svar eller give råd uden for sit område.
  • Omhu med dataIndsaml kun det, opkaldet kræver, og fortæl opkalderne, hvordan optagelser og transskriptioner bruges.
  • Menneskeligt tilsynNogen gennemgår transskriptioner, håndterer eskaleringer og kan slå agenten fra.

Se Sikkerhedsrammer for stemme-AI og Indbygget privatliv i stemme-AI for designsiden.

En praktisk tjekliste før start

Før en AI-stemmeagent tager rigtige opkald

  • Afgør, om I er udbyder, idriftsætter eller begge dele for dette system
  • Skriv oplysningen i et enkelt sprog, og placér den først i alle typer opkald
  • Sørg for, at en opkalder kan nå et menneske, et tilbagekald eller en besked
  • Bekræft med jeres leverandør, hvordan syntetisk lyd mærkes
  • Tjek, at oplysninger om databeskyttelse og optagelse også er på plads
  • Før dokumentation for den anvendte ordlyd og datoerne for ændringer
  • Gennemgå et udsnit af rigtige opkald hver uge, og ret dem, hvor AI'en blev skjult
  • Tjek de officielle kilder igen for ændringer i tidsplanen før lancering

Sådan gør du i Call

I Call kan en operatør opliste påkrævede oplysninger under Administrator › Telefoni og AI: du angiver en betegnelse, de ord, der tæller som at have sagt det, og det antal sekunder, inden for hvilket det skal være sagt. Kun agentens egen tale tæller, ikke en opkalder, der spørger om det. På en telefonlinje kan du også vælge, om opkalderne hører en besked om optagelse og medlytning, og ved AI-opkald kommer den besked før velkomsten. En opkalder kan bede om et menneske, og AI-agenter kan stille et opkald videre. Se vores guide om at overdrage opkald fra en AI-agent til et menneske i Call. Om disse indstillinger opfylder en bestemt juridisk pligt, er op til dig og din rådgiver at vurdere.

Ofte stillede spørgsmål

Gælder EU's AI-forordning for mig, hvis min virksomhed ligger uden for EU?

Det kan den. Forordningen omfatter udbydere og idriftsættere uden for EU, når deres systems output bruges i EU, fx af opkaldere, der befinder sig der. Søg rådgivning, hvis du har opkaldere i EU.

Skal en stemmeagent altid sige, at den er en AI?

Reglen om gennemsigtighed kræver, at folk informeres om, at de interagerer med et AI-system, medmindre det er åbenlyst for en rimeligt velinformeret person. I en telefonlinje er det sjældent åbenlyst, så den sikre vane er at sige det tæt på starten af hvert opkald.

Hvornår begynder reglerne om gennemsigtighed at gælde?

Efter den oprindelige tidsplan skal de gælde fra august 2026, men tidsplanerne for dele af forordningen har været til drøftelse. Tjek Europa-Kommissionens sider for de datoer, der gælder, når du læser dette.

Er en velkomst med tekst til tale et AI-system?

En fast indspillet eller syntetisk velkomst, der ikke interagerer, er noget andet end en agent, der fører en samtale. Mærkningspligter for syntetisk lyd kan stadig være relevante, så spørg din leverandør, hvordan den håndterer dem.

Betyder en oplysning om AI, at opkalderne lægger på?

Nogle gør måske, men ærlig oplysning skaber tillid, og de opkaldere, der bliver, er ofte mere klare i, hvad de vil. En venlig indledning og en nem vej til et menneske mindsker frafaldet.

Er AI-forordningen den eneste lov, der har betydning for stemmeagenter?

Nej. Regler om databeskyttelse, optagelse af opkald, markedsføring og samtykke samt branchespecifikke regler gælder stadig. AI-forordningen supplerer dem i stedet for at erstatte dem.

Opsæt en tydelig AI-oplysning på din telefonlinje i Call

I demokonsollen kan du afprøve indgående opkald i en simulering.

Relaterede guides