Regler och efterlevnad

EU:s AI-förordning och röstagenter: grunderna i transparens

Vad AI-förordningens transparenskrav betyder för röstagenter som tar emot eller ringer samtal, med en checklista för att berätta att uppringaren talar med en AI.

Redaktionen för Call · Publicerad · 6 min läsning

Röstagenter är nu så bra att en uppringare kan avsluta ett samtal utan att inse att det inte fanns någon människa i luren. Det har EU:s lagstiftare uppmärksammat. EU:s förordning om artificiell intelligens (förordning (EU) 2024/1689) innehåller regler om transparens som riktar sig direkt mot system som interagerar med människor, och en telefonagent är ett skolboksexempel.

En person vid ett skrivbord med headset medan ett samtal visas på en laptopskärm
Illustrationsbild

Den här guiden förklarar grunderna på ett enkelt sätt: vad transparenskravet säger, vem det gäller, vad det innebär för inkommande och utgående samtal och hur du bygger in det i samtalsflödet. Den är en översikt för drift- och produktteam, inte ett juridiskt utlåtande. För en bredare bild av hur du berättar för uppringare om AI, se Ska du berätta att en AI svarar i telefon?.

Förordningen på en minut

AI-förordningen delar in AI-system efter den risk de medför och knyter skyldigheter till varje nivå. Ett litet antal metoder är förbjudna. En fastställd lista över högriskanvändningar medför tunga skyldigheter. System som interagerar direkt med människor, eller som genererar syntetiskt ljud, bild eller video, har lättare krav på transparens. De flesta vanliga affärsanvändningar faller utanför högrisklistan.

En röstagent för kundservice hamnar oftast på transparensnivån snarare än högrisknivån. Det betyder inte att den är oreglerad: andra lagar gäller fortfarande, till exempel dataskyddsregler och konsumentlagstiftning. Men AI-förordningens eget krav på den här typen av system handlar främst om ärlighet.

Var en röstagent hamnar

  • Förbjudna metoderManipulativa eller utnyttjande användningar är helt förbjudna. En vanlig receptionist- eller supportagent är inte utformad för sådant, men dina instruktioner och manus får aldrig glida åt det hållet.
  • HögrisksystemEn fast lista över användningar, till exempel vissa beslut om anställning, kredit eller samhällsviktiga tjänster. Kontrollera om ditt samtalsflöde fattar eller kraftigt påverkar sådana beslut.
  • Krav på transparensNivån där de flesta telefonagenter hamnar: människor ska få veta att de interagerar med ett AI-system, och syntetiskt ljud ska märkas.
  • Allt annatAndra lagar gäller fortfarande, bland annat dataskydd, regler för inspelning och konsumentskydd.

Vad transparenskravet säger

Enkelt uttryckt kräver förordningens artikel om transparens följande, med vissa undantag:

Enligt den ursprungliga tidplanen ska transparenskraven börja gälla från augusti 2026. Tidplanerna för delar av förordningen har diskuterats på EU-nivå, så kontrollera vilka datum som gäller när du läser detta.

Är det någonsin uppenbart?

Förordningen tillåter ett undantag när det är uppenbart för en rimligt informerad person att hen har att göra med en AI. I telefon ska du inte luta dig mot det. En naturlig röst, ett mänskligt klingande namn och en vänlig ton gör det långt ifrån uppenbart. Är du osäker, berätta det.

Leverantör eller tillhandahållare: vem som har vilken skyldighet

Förordningen skiljer mellan leverantörer, som utvecklar ett AI-system eller låter utveckla ett och släpper ut det på marknaden i eget namn, och tillhandahållare, som använder ett system under sin egen behörighet. Ett företag som konfigurerar en röstagent från en plattform och kopplar den till sin telefonlinje är normalt en tillhandahållare, medan plattformsleverantören ligger närmare rollen som leverantör. Många skyldigheter ligger på leverantören, men en tillhandahållare måste ändå använda systemet som avsett, hålla människor informerade där det krävs och inte ta bort skyddsåtgärderna.

Leverantör och tillhandahållare sida vid sida

Leverantör (bygger eller säljer systemet)Tillhandahållare (använder det)
Typiskt exempelEn leverantör av en plattform för röstagenterEn klinik, butik eller servicedesk som kör en röstagent på sin linje
Information till människorBygger systemet så att det kan berätta för människor att de har att göra med en AISer till att linjen faktiskt berättar det för uppringarna, på rätt ställe och med rätt ord
Märkning av syntetiskt ljudBygger in märkning där det är tekniskt möjligtTar inte bort eller stänger av den
Daglig kontrollDokumentation och utformningManus, eskalering, övervakning och dokumentation

Om du är osäker på vilken roll du har, utgå från att du har åtminstone tillhandahållarens skyldigheter och fråga din leverantör vad plattformen gör åt dig.

Inkommande och utgående samtal

Inkommande samtal är det enklare fallet. Uppringaren valde att ringa dig, och du kan inleda med ett kort besked innan agenten tar över. Utgående samtal kräver mer omsorg eftersom personen inte valde samtalet. Upplysningen ska komma i första eller andra meningen, tillsammans med vem som ringer och varför.

En öppen inledning på ett samtal som hanteras av AI

  1. Nämn företaget"Hej, du har kommit till bokningslinjen hos Hamnens Fysio."
  2. Säg att det är en AI"Jag är en automatisk röstassistent, inte en människa."
  3. Säg vad den kan göra"Jag kan ta emot ett meddelande eller en önskan om tid."
  4. Erbjud en person"Om du hellre vill prata med någon, säg bara det."
  5. Nämn inspelning om det är relevant"Samtalet kan komma att spelas in i kvalitetssyfte."

Exemplen är påhittade; anpassa dem till ditt eget företag. För utgående kampanjer gäller också de separata reglerna om automatiska samtal och samtycke, sammanfattade i Automatiska samtal: en översikt land för land.

Syntetiska och klonade röster

Röster från text till tal är syntetiskt ljud, och en klonad röst går längre genom att imitera en verklig person. Märkningskraven ligger främst på leverantören, men som tillhandahållare bör du förstå vad din plattform gör, och du ska aldrig använda en klonad röst av en verklig person utan personens tydliga tillstånd. Om din agent talar med en känd medarbetares röst, berätta för uppringarna att det är en AI-röst och inte den medarbetaren.

Mer om röster finns i Röstkloning i företag.

Mer än upplysningen: vad du mer ska bygga in

Transparens är golvet, inte taket. En välskött röstagent behöver också följande:

Praktiska skyddsåtgärder kring upplysningen

  • En väg till en personUppringare som ber om en människa ska nå en, eller erbjudas återuppringning eller meddelande, utan strid.
  • Gränser för vad den sägerSkyddsräcken som hindrar agenten från att hitta på svar eller ge råd utanför sitt område.
  • Varsamhet med dataSamla bara in det samtalet kräver, och berätta för uppringarna hur inspelningar och transkriptioner används.
  • Mänsklig tillsynNågon granskar transkriptioner, hanterar eskaleringar och kan stänga av agenten.

Se Skyddsräcken för röst-AI och Inbyggt integritetsskydd för röst-AI för utformningen.

En praktisk checklista inför start

Innan en AI-röstagent tar skarpa samtal

  • Avgör om du är leverantör, tillhandahållare eller båda för systemet
  • Skriv upplysningen med enkla ord och lägg den först i varje samtalstyp
  • Se till att en uppringare kan nå en person, en återuppringning eller ett meddelande
  • Bekräfta med din leverantör hur syntetiskt ljud märks
  • Kontrollera att information om dataskydd och inspelning också finns på plats
  • För register över använda formuleringar och datum då de ändrades
  • Gå igenom ett urval av verkliga samtal varje vecka och åtgärda dem där AI:n doldes
  • Kontrollera officiella källor igen för ändringar i tidplanen före lansering

Så gör du i Call

I Call kan en operatör lägga upp obligatoriska upplysningar under Administration, Telefoni och AI: du anger en etikett, de ord som räknas som att upplysningen har sagts och det antal sekunder inom vilket den måste ha sagts. Bara agentens eget tal räknas, inte att en uppringare frågar om det. På en telefonlinje kan du också välja om uppringarna ska höra ett meddelande om inspelning och medlyssning, och i AI-samtal kommer det meddelandet före hälsningen. En uppringare kan be om en person, och AI-agenter kan lämna över ett samtal; se Lämna över ett samtal från AI-agenten till en person. Om inställningarna uppfyller en viss rättslig skyldighet är något du och din rådgivare får avgöra.

Vanliga frågor

Gäller EU:s AI-förordning mig om mitt företag ligger utanför EU?

Det kan den göra. Förordningen når leverantörer och tillhandahållare utanför EU när systemets resultat används i EU, till exempel av uppringare som befinner sig där. Ta råd om du har uppringare i EU.

Måste en röstagent alltid säga att den är en AI?

Transparensregeln kräver att människor informeras om att de interagerar med ett AI-system, om det inte är uppenbart för en rimligt informerad person. På en telefonlinje är det sällan uppenbart, så den säkra vanan är att säga det i början av varje samtal.

När börjar transparensreglerna gälla?

Enligt den ursprungliga tidplanen ska de gälla från augusti 2026, men tidplanerna för delar av förordningen har diskuterats. Kontrollera Europeiska kommissionens sidor för de datum som gäller när du läser detta.

Är en hälsning med text till tal ett AI-system?

En fast inspelad eller syntetisk hälsning som inte interagerar skiljer sig från en agent som för ett samtal. Krav på märkning av syntetiskt ljud kan ändå vara relevanta, så fråga din leverantör hur den hanterar dem.

Innebär en AI-upplysning att uppringarna lägger på?

En del kanske gör det, men en ärlig upplysning bygger förtroende, och de som stannar kvar är ofta tydligare med vad de vill. En vänlig inledning och en enkel väg till en person minskar avhoppen.

Är AI-förordningen den enda lagen som spelar roll för röstagenter?

Nej. Regler om dataskydd, samtalsinspelning, marknadsföring och samtycke samt branschregler gäller fortfarande. AI-förordningen kompletterar dem i stället för att ersätta dem.

Ställ in en tydlig AI-upplysning för din telefonlinje i Call

I demokonsolen kan du prova inkommande samtal i en simulering.

Relaterade guider