EU:s AI-förordning och röstagenter: grunderna i transparens
Vad AI-förordningens transparenskrav betyder för röstagenter som tar emot eller ringer samtal, med en checklista för att berätta att uppringaren talar med en AI.
Röstagenter är nu så bra att en uppringare kan avsluta ett samtal utan att inse att det inte fanns någon människa i luren. Det har EU:s lagstiftare uppmärksammat. EU:s förordning om artificiell intelligens (förordning (EU) 2024/1689) innehåller regler om transparens som riktar sig direkt mot system som interagerar med människor, och en telefonagent är ett skolboksexempel.

Den här guiden förklarar grunderna på ett enkelt sätt: vad transparenskravet säger, vem det gäller, vad det innebär för inkommande och utgående samtal och hur du bygger in det i samtalsflödet. Den är en översikt för drift- och produktteam, inte ett juridiskt utlåtande. För en bredare bild av hur du berättar för uppringare om AI, se Ska du berätta att en AI svarar i telefon?.
Förordningen på en minut
AI-förordningen delar in AI-system efter den risk de medför och knyter skyldigheter till varje nivå. Ett litet antal metoder är förbjudna. En fastställd lista över högriskanvändningar medför tunga skyldigheter. System som interagerar direkt med människor, eller som genererar syntetiskt ljud, bild eller video, har lättare krav på transparens. De flesta vanliga affärsanvändningar faller utanför högrisklistan.
En röstagent för kundservice hamnar oftast på transparensnivån snarare än högrisknivån. Det betyder inte att den är oreglerad: andra lagar gäller fortfarande, till exempel dataskyddsregler och konsumentlagstiftning. Men AI-förordningens eget krav på den här typen av system handlar främst om ärlighet.
Var en röstagent hamnar
- Förbjudna metoderManipulativa eller utnyttjande användningar är helt förbjudna. En vanlig receptionist- eller supportagent är inte utformad för sådant, men dina instruktioner och manus får aldrig glida åt det hållet.
- HögrisksystemEn fast lista över användningar, till exempel vissa beslut om anställning, kredit eller samhällsviktiga tjänster. Kontrollera om ditt samtalsflöde fattar eller kraftigt påverkar sådana beslut.
- Krav på transparensNivån där de flesta telefonagenter hamnar: människor ska få veta att de interagerar med ett AI-system, och syntetiskt ljud ska märkas.
- Allt annatAndra lagar gäller fortfarande, bland annat dataskydd, regler för inspelning och konsumentskydd.
Vad transparenskravet säger
Enkelt uttryckt kräver förordningens artikel om transparens följande, med vissa undantag:
- Berätta för människor att de talar med en AI. Leverantörer av AI-system som interagerar direkt med människor ska utforma dem så att personen informeras, om det inte är uppenbart av omständigheterna för en rimligt informerad person.
- Märk syntetiskt ljud. Leverantörer av system som genererar syntetiskt ljud, bilder, video eller text ska se till att resultatet märks maskinläsbart och kan upptäckas som artificiellt genererat, där det är tekniskt möjligt.
- Upplys om deepfakes. Den som använder system som skapar eller ändrar innehåll som liknar verkliga personer, platser eller händelser ska upplysa om att det är artificiellt.
- Informera om känsloigenkänning. Den som använder system för känsloigenkänning eller biometrisk kategorisering ska informera de personer som utsätts för dem.
Enligt den ursprungliga tidplanen ska transparenskraven börja gälla från augusti 2026. Tidplanerna för delar av förordningen har diskuterats på EU-nivå, så kontrollera vilka datum som gäller när du läser detta.
Är det någonsin uppenbart?
Förordningen tillåter ett undantag när det är uppenbart för en rimligt informerad person att hen har att göra med en AI. I telefon ska du inte luta dig mot det. En naturlig röst, ett mänskligt klingande namn och en vänlig ton gör det långt ifrån uppenbart. Är du osäker, berätta det.
Leverantör eller tillhandahållare: vem som har vilken skyldighet
Förordningen skiljer mellan leverantörer, som utvecklar ett AI-system eller låter utveckla ett och släpper ut det på marknaden i eget namn, och tillhandahållare, som använder ett system under sin egen behörighet. Ett företag som konfigurerar en röstagent från en plattform och kopplar den till sin telefonlinje är normalt en tillhandahållare, medan plattformsleverantören ligger närmare rollen som leverantör. Många skyldigheter ligger på leverantören, men en tillhandahållare måste ändå använda systemet som avsett, hålla människor informerade där det krävs och inte ta bort skyddsåtgärderna.
Leverantör och tillhandahållare sida vid sida
| Leverantör (bygger eller säljer systemet) | Tillhandahållare (använder det) | |
|---|---|---|
| Typiskt exempel | En leverantör av en plattform för röstagenter | En klinik, butik eller servicedesk som kör en röstagent på sin linje |
| Information till människor | Bygger systemet så att det kan berätta för människor att de har att göra med en AI | Ser till att linjen faktiskt berättar det för uppringarna, på rätt ställe och med rätt ord |
| Märkning av syntetiskt ljud | Bygger in märkning där det är tekniskt möjligt | Tar inte bort eller stänger av den |
| Daglig kontroll | Dokumentation och utformning | Manus, eskalering, övervakning och dokumentation |
Om du är osäker på vilken roll du har, utgå från att du har åtminstone tillhandahållarens skyldigheter och fråga din leverantör vad plattformen gör åt dig.
Inkommande och utgående samtal
Inkommande samtal är det enklare fallet. Uppringaren valde att ringa dig, och du kan inleda med ett kort besked innan agenten tar över. Utgående samtal kräver mer omsorg eftersom personen inte valde samtalet. Upplysningen ska komma i första eller andra meningen, tillsammans med vem som ringer och varför.
En öppen inledning på ett samtal som hanteras av AI
- Nämn företaget"Hej, du har kommit till bokningslinjen hos Hamnens Fysio."
- Säg att det är en AI"Jag är en automatisk röstassistent, inte en människa."
- Säg vad den kan göra"Jag kan ta emot ett meddelande eller en önskan om tid."
- Erbjud en person"Om du hellre vill prata med någon, säg bara det."
- Nämn inspelning om det är relevant"Samtalet kan komma att spelas in i kvalitetssyfte."
Exemplen är påhittade; anpassa dem till ditt eget företag. För utgående kampanjer gäller också de separata reglerna om automatiska samtal och samtycke, sammanfattade i Automatiska samtal: en översikt land för land.
Syntetiska och klonade röster
Röster från text till tal är syntetiskt ljud, och en klonad röst går längre genom att imitera en verklig person. Märkningskraven ligger främst på leverantören, men som tillhandahållare bör du förstå vad din plattform gör, och du ska aldrig använda en klonad röst av en verklig person utan personens tydliga tillstånd. Om din agent talar med en känd medarbetares röst, berätta för uppringarna att det är en AI-röst och inte den medarbetaren.
- Ge inte en AI-agent en mänsklig yrkestitel eller ett personnamn som antyder en människa om uppringarna kan bli vilseledda.
- Om en uppringare uppriktigt frågar om hen talar med en människa, svara sanningsenligt varje gång.
- För skriftligt register över vilken röst och vilka formuleringar varje linje använder.
Mer om röster finns i Röstkloning i företag.
Mer än upplysningen: vad du mer ska bygga in
Transparens är golvet, inte taket. En välskött röstagent behöver också följande:
Praktiska skyddsåtgärder kring upplysningen
- En väg till en personUppringare som ber om en människa ska nå en, eller erbjudas återuppringning eller meddelande, utan strid.
- Gränser för vad den sägerSkyddsräcken som hindrar agenten från att hitta på svar eller ge råd utanför sitt område.
- Varsamhet med dataSamla bara in det samtalet kräver, och berätta för uppringarna hur inspelningar och transkriptioner används.
- Mänsklig tillsynNågon granskar transkriptioner, hanterar eskaleringar och kan stänga av agenten.
Se Skyddsräcken för röst-AI och Inbyggt integritetsskydd för röst-AI för utformningen.
En praktisk checklista inför start
Innan en AI-röstagent tar skarpa samtal
- Avgör om du är leverantör, tillhandahållare eller båda för systemet
- Skriv upplysningen med enkla ord och lägg den först i varje samtalstyp
- Se till att en uppringare kan nå en person, en återuppringning eller ett meddelande
- Bekräfta med din leverantör hur syntetiskt ljud märks
- Kontrollera att information om dataskydd och inspelning också finns på plats
- För register över använda formuleringar och datum då de ändrades
- Gå igenom ett urval av verkliga samtal varje vecka och åtgärda dem där AI:n doldes
- Kontrollera officiella källor igen för ändringar i tidplanen före lansering
Så gör du i Call
I Call kan en operatör lägga upp obligatoriska upplysningar under Administration, Telefoni och AI: du anger en etikett, de ord som räknas som att upplysningen har sagts och det antal sekunder inom vilket den måste ha sagts. Bara agentens eget tal räknas, inte att en uppringare frågar om det. På en telefonlinje kan du också välja om uppringarna ska höra ett meddelande om inspelning och medlyssning, och i AI-samtal kommer det meddelandet före hälsningen. En uppringare kan be om en person, och AI-agenter kan lämna över ett samtal; se Lämna över ett samtal från AI-agenten till en person. Om inställningarna uppfyller en viss rättslig skyldighet är något du och din rådgivare får avgöra.
Vanliga frågor
Gäller EU:s AI-förordning mig om mitt företag ligger utanför EU?
Det kan den göra. Förordningen når leverantörer och tillhandahållare utanför EU när systemets resultat används i EU, till exempel av uppringare som befinner sig där. Ta råd om du har uppringare i EU.
Måste en röstagent alltid säga att den är en AI?
Transparensregeln kräver att människor informeras om att de interagerar med ett AI-system, om det inte är uppenbart för en rimligt informerad person. På en telefonlinje är det sällan uppenbart, så den säkra vanan är att säga det i början av varje samtal.
När börjar transparensreglerna gälla?
Enligt den ursprungliga tidplanen ska de gälla från augusti 2026, men tidplanerna för delar av förordningen har diskuterats. Kontrollera Europeiska kommissionens sidor för de datum som gäller när du läser detta.
Är en hälsning med text till tal ett AI-system?
En fast inspelad eller syntetisk hälsning som inte interagerar skiljer sig från en agent som för ett samtal. Krav på märkning av syntetiskt ljud kan ändå vara relevanta, så fråga din leverantör hur den hanterar dem.
Innebär en AI-upplysning att uppringarna lägger på?
En del kanske gör det, men en ärlig upplysning bygger förtroende, och de som stannar kvar är ofta tydligare med vad de vill. En vänlig inledning och en enkel väg till en person minskar avhoppen.
Är AI-förordningen den enda lagen som spelar roll för röstagenter?
Nej. Regler om dataskydd, samtalsinspelning, marknadsföring och samtycke samt branschregler gäller fortfarande. AI-förordningen kompletterar dem i stället för att ersätta dem.