EU's AI-forordning og stemmeagenter: grundlæggende om gennemsigtighed
Hvad AI-forordningens krav om gennemsigtighed betyder for stemmeagenter, der besvarer eller foretager opkald, med en tjekliste til at oplyse om AI.
Stemmeagenter er nu så gode, at en opkalder kan gennemføre en samtale uden at opdage, at der ikke var et menneske i den anden ende. Det har de europæiske lovgivere bemærket. EU's forordning om kunstig intelligens (forordning (EU) 2024/1689) indeholder regler om gennemsigtighed, der er rettet direkte mod systemer, der interagerer med mennesker, og en telefonagent er et skoleeksempel.

Denne guide forklarer det grundlæggende i et enkelt sprog: hvad kravet om gennemsigtighed siger, hvem det påhviler, hvad det betyder for indgående og udgående opkald, og hvordan du bygger det ind i dit opkaldsflow. Den er et overblik for drifts- og produktteams, ikke en juridisk vurdering. Det bredere billede af at fortælle opkaldere om AI finder du i Bør du oplyse, at en AI svarer i telefonen?.
Forordningen på ét minut
AI-forordningen inddeler AI-systemer efter den risiko, de udgør, og knytter pligter til hvert niveau. Et lille antal praksisser er forbudt. En fastlagt liste over højrisikoanvendelser medfører tunge forpligtelser. Systemer, der interagerer direkte med mennesker, eller som genererer syntetisk lyd, billeder eller video, har lettere krav om gennemsigtighed. De fleste almindelige forretningsanvendelser falder uden for højrisikolisten.
En stemmeagent i kundeservice hører som regel til i gennemsigtighedsniveauet og ikke i højrisikoniveauet. Det betyder ikke, at den er ureguleret: andre love gælder stadig, fx databeskyttelsesregler og forbrugerlovgivning. Men AI-forordningens eget krav til denne type system handler primært om ærlighed.
Hvor en stemmeagent hører hjemme
- Forbudte praksisserManipulerende eller udnyttende anvendelser er helt forbudt. En almindelig receptionist- eller supportagent er ikke designet til det, men dine prompter og manuskripter må aldrig glide i den retning.
- HøjrisikosystemerEn fast liste over anvendelser, fx visse beslutninger om beskæftigelse, kredit eller væsentlige tjenester. Tjek, om dit opkaldsflow træffer eller i høj grad påvirker sådanne beslutninger.
- Krav om gennemsigtighedDet niveau, de fleste telefonagenter hører til: folk skal have at vide, at de interagerer med et AI-system, og syntetisk lyd skal mærkes.
- Alt andetAndre love gælder stadig, herunder databeskyttelse, regler om optagelse og forbrugerbeskyttelse.
Hvad kravet om gennemsigtighed siger
Kort sagt kræver forordningens artikel om gennemsigtighed følgende, med visse undtagelser:
- Fortæl folk, at de taler med en AI. Udbydere af AI-systemer, der interagerer direkte med mennesker, skal designe dem, så personen bliver informeret, medmindre det er åbenlyst ud fra omstændighederne for en rimeligt velinformeret person.
- Mærk syntetisk lyd. Udbydere af systemer, der genererer syntetisk lyd, billeder, video eller tekst, skal sikre, at outputtet er mærket i et maskinlæsbart format og kan genkendes som kunstigt genereret, hvor det er teknisk muligt.
- Oplys om deepfakes. De, der anvender systemer, som skaber eller ændrer indhold, der ligner virkelige personer, steder eller begivenheder, skal oplyse, at det er kunstigt.
- Informér folk om følelsesgenkendelse. Idriftsættere af systemer til følelsesgenkendelse eller biometrisk kategorisering skal fortælle det til de personer, der udsættes for dem.
Efter den oprindelige tidsplan skal kravene om gennemsigtighed gælde fra august 2026. Tidsplanerne for dele af forordningen har været til drøftelse på EU-niveau, så bekræft de gældende datoer, når du læser dette.
Er det nogensinde åbenlyst?
Forordningen giver en undtagelse, når det er åbenlyst for en rimeligt velinformeret person, at vedkommende har med en AI at gøre. I telefonen bør du ikke støtte dig til det. En naturlig stemme, et menneskeligt klingende navn og en venlig tone gør det langtfra åbenlyst. Er du i tvivl, så oplys det.
Udbyder eller idriftsætter: hvem har hvilken pligt?
Forordningen skelner mellem udbydere, der udvikler et AI-system eller får et udviklet og bringer det i omsætning under eget navn, og idriftsættere, der bruger et system under deres myndighed. En virksomhed, der konfigurerer en stemmeagent fra en platform og sætter den på sin telefonlinje, er typisk idriftsætter, mens platformleverandøren er tættere på at være udbyder. Mange pligter ligger hos udbyderen, men en idriftsætter skal stadig bruge systemet efter hensigten, holde mennesker informeret, hvor det kræves, og ikke fjerne sikkerhedsforanstaltningerne.
Udbyder og idriftsætter side om side
| Udbyder (bygger eller sælger systemet) | Idriftsætter (tager det i brug) | |
|---|---|---|
| Typisk eksempel | En leverandør af en platform til stemmeagenter | En klinik, en butik eller en servicedesk, der kører en stemmeagent på sin linje |
| Oplysning til mennesker | Bygger systemet, så det kan fortælle folk, at de har med en AI at gøre | Sørger for, at linjen faktisk fortæller det til opkalderne, det rigtige sted og med de rigtige ord |
| Mærkning af syntetisk lyd | Indbygger mærkning, hvor det er teknisk muligt | Fjerner eller deaktiverer den ikke |
| Daglig styring | Dokumentation og design | Manuskripter, eskalering, overvågning og dokumentation |
Hvis du ikke er sikker på, hvilken rolle du har, så gå ud fra, at du som minimum har idriftsætterens pligter, og spørg din leverandør, hvad platformen gør for dig.
Indgående og udgående opkald
Indgående opkald er det enkleste tilfælde. Opkalderen har selv valgt at ringe til jer, og I kan indlede med en kort oplysning, før agenten tager over. Udgående opkald kræver mere omtanke, fordi personen ikke selv har valgt samtalen. Oplysningen skal komme i den første eller anden sætning sammen med, hvem der ringer, og hvorfor.
En gennemsigtig indledning til et opkald, som en AI håndterer
- Nævn virksomheden"Hej, du taler med bookinglinjen hos Havnens Fysioterapi."
- Sig, at det er en AI"Jeg er en automatisk stemmeassistent, ikke et menneske."
- Sig, hvad den kan"Jeg kan tage imod en besked eller en anmodning om en tid."
- Tilbyd et menneske"Hvis du hellere vil tale med en person, så sig det bare."
- Nævn optagelse, hvis det er relevant"Opkaldet kan blive optaget af hensyn til kvaliteten."
Eksemplerne er tænkte. Tilpas dem til din egen virksomhed. Ved udgående kampagner skal du også overholde de separate regler om automatiske opkald og samtykke, som er opsummeret i Automatiske opkald: et overblik land for land.
Syntetiske og klonede stemmer
Tekst til tale-stemmer er syntetisk lyd, og en klonet stemme går videre ved at efterligne en virkelig person. Mærkningspligterne ligger primært hos udbyderen, men som idriftsætter bør du forstå, hvad din platform gør, og du må aldrig bruge en klonet stemme af en virkelig person uden personens klare tilladelse. Hvis din agent taler med stemmen fra en kendt medarbejder, så fortæl opkalderne, at det er en AI-stemme og ikke den medarbejder.
- Giv ikke en AI-agent en menneskelig jobtitel eller et personnavn, der antyder et menneske, hvis opkaldere kan blive vildledt.
- Hvis en opkalder oprigtigt spørger, om de taler med et menneske, så svar ærligt hver gang.
- Før skriftlig dokumentation for, hvilken stemme og ordlyd hver linje bruger.
Mere om stemmer finder du i Stemmekloning i virksomheder: samtykke og grænser.
Ud over oplysningen: hvad du ellers bør designe ind
Gennemsigtighed er gulvet, ikke loftet. En velfungerende stemmeagent har også brug for følgende:
Praktiske sikkerhedsforanstaltninger omkring oplysningen
- En vej til et menneskeOpkaldere, der beder om et menneske, skal kunne nå et eller få tilbudt et tilbagekald eller en besked uden besvær.
- Grænser for, hvad den sigerSikkerhedsrammer, der forhindrer agenten i at opfinde svar eller give råd uden for sit område.
- Omhu med dataIndsaml kun det, opkaldet kræver, og fortæl opkalderne, hvordan optagelser og transskriptioner bruges.
- Menneskeligt tilsynNogen gennemgår transskriptioner, håndterer eskaleringer og kan slå agenten fra.
Se Sikkerhedsrammer for stemme-AI og Indbygget privatliv i stemme-AI for designsiden.
En praktisk tjekliste før start
Før en AI-stemmeagent tager rigtige opkald
- Afgør, om I er udbyder, idriftsætter eller begge dele for dette system
- Skriv oplysningen i et enkelt sprog, og placér den først i alle typer opkald
- Sørg for, at en opkalder kan nå et menneske, et tilbagekald eller en besked
- Bekræft med jeres leverandør, hvordan syntetisk lyd mærkes
- Tjek, at oplysninger om databeskyttelse og optagelse også er på plads
- Før dokumentation for den anvendte ordlyd og datoerne for ændringer
- Gennemgå et udsnit af rigtige opkald hver uge, og ret dem, hvor AI'en blev skjult
- Tjek de officielle kilder igen for ændringer i tidsplanen før lancering
Sådan gør du i Call
I Call kan en operatør opliste påkrævede oplysninger under Administrator › Telefoni og AI: du angiver en betegnelse, de ord, der tæller som at have sagt det, og det antal sekunder, inden for hvilket det skal være sagt. Kun agentens egen tale tæller, ikke en opkalder, der spørger om det. På en telefonlinje kan du også vælge, om opkalderne hører en besked om optagelse og medlytning, og ved AI-opkald kommer den besked før velkomsten. En opkalder kan bede om et menneske, og AI-agenter kan stille et opkald videre. Se vores guide om at overdrage opkald fra en AI-agent til et menneske i Call. Om disse indstillinger opfylder en bestemt juridisk pligt, er op til dig og din rådgiver at vurdere.
Ofte stillede spørgsmål
Gælder EU's AI-forordning for mig, hvis min virksomhed ligger uden for EU?
Det kan den. Forordningen omfatter udbydere og idriftsættere uden for EU, når deres systems output bruges i EU, fx af opkaldere, der befinder sig der. Søg rådgivning, hvis du har opkaldere i EU.
Skal en stemmeagent altid sige, at den er en AI?
Reglen om gennemsigtighed kræver, at folk informeres om, at de interagerer med et AI-system, medmindre det er åbenlyst for en rimeligt velinformeret person. I en telefonlinje er det sjældent åbenlyst, så den sikre vane er at sige det tæt på starten af hvert opkald.
Hvornår begynder reglerne om gennemsigtighed at gælde?
Efter den oprindelige tidsplan skal de gælde fra august 2026, men tidsplanerne for dele af forordningen har været til drøftelse. Tjek Europa-Kommissionens sider for de datoer, der gælder, når du læser dette.
Er en velkomst med tekst til tale et AI-system?
En fast indspillet eller syntetisk velkomst, der ikke interagerer, er noget andet end en agent, der fører en samtale. Mærkningspligter for syntetisk lyd kan stadig være relevante, så spørg din leverandør, hvordan den håndterer dem.
Betyder en oplysning om AI, at opkalderne lægger på?
Nogle gør måske, men ærlig oplysning skaber tillid, og de opkaldere, der bliver, er ofte mere klare i, hvad de vil. En venlig indledning og en nem vej til et menneske mindsker frafaldet.
Er AI-forordningen den eneste lov, der har betydning for stemmeagenter?
Nej. Regler om databeskyttelse, optagelse af opkald, markedsføring og samtykke samt branchespecifikke regler gælder stadig. AI-forordningen supplerer dem i stedet for at erstatte dem.