Tale-AI-teknologi

Sikkerhedsrammer for stemme-AI: sikre og fokuserede opkald

Lagene af sikkerhedsrammer for en stemmeagent i telefonen – fra prompter og godkendte kilder til håndhævede grænser og overdragelse – med et testmanuskript.

Calls redaktion · Udgivet · 5 min. læsetid

En telefonagent taler på vegne af din virksomhed. Kunder kan teste den, forvirre den, blive vrede på den eller prøve at overtale den til ting, den ikke bør gøre. Sikkerhedsrammer er de grænser, der holder samtalen sikker, relevant og ærlig, også når kunden presser på.

En leder, der gennemgår opkaldsnoter ved et skrivebord med et headset i nærheden
Illustrativt billede

Denne guide beskriver de vigtigste typer sikkerhedsrammer, hvordan du lægger dem i lag, og hvordan du tester dem. Den passer godt sammen med Undgå opdigtede svar fra stemme-AI, der fokuserer på præcision, og med Hvad en AI-receptionist ikke kan.

Hvad sikkerhedsrammer er til

Tænk på en ny receptionist på første arbejdsdag. Du fortæller vedkommende, hvad de skal sige, hvad de ikke må love, og hvem de skal ringe til, når en situation overstiger dem. En stemmeagent har brug for den samme instruktion, skrevet ned, og noget af den håndhævet af systemet i stedet for overladt til hukommelsen.

Fire opgaver for en sikkerhedsramme

  • Hold den til emnetAgenten taler om dine ydelser, ikke om hvad som helst, kunden bringer op.
  • Forebyg skadeDen afslår at give råd eller foretage handlinger, den ikke bør.
  • Beskyt oplysningerDen læser ikke andres oplysninger op og afslører ikke sine egne instruktioner.
  • Ved, hvornår den skal stoppeDen overdrager til et menneske, når situationen kræver det.

Sikkerhedsrammer kommer i lag

Ingen enkelt foranstaltning er pålidelig alene. En fornuftig opsætning kombinerer flere, så hvis én svigter, fanger en anden problemet.

LagHvad det gørEksempel
InstruktionerFortæller agenten dens rolle, tone og grænserTal kun om åbningstider, ydelser og beskeder
KilderBegrænser, hvilke fakta den kan brugeGodkendte svar, intet andet
Grænser for handlingerBegrænser, hvad den kan gøreDen kan ikke booke, refundere eller ændre registreringer
Tjek af outputUndersøger det, den er ved at sigeBlokér bestemte ord eller emner
Regler for overdragelseDefinerer, hvornår et menneske overtagerKunden beder om et menneske eller lyder bekymret
OvervågningGennemgår opkald bagefterSøg i udskrifter efter risikable vendinger

Sikkerhedsrammer på instruktionsniveau

Det første lag er en klar instruktion. Beskriv rollen, tonen, de emner, der er inden for rammen, og dem, der er uden for. Sig, hvad agenten skal gøre, når noget er uden for rammen, for en afvisning uden alternativ er frustrerende.

Instruktioner er vejledning, ikke håndhævelse. En model følger dem som regel, men kan blive talt rundt, og derfor bør de aldrig være det eneste lag for noget vigtigt. Prompting af en LLM-telefonagent viser, hvordan du skriver dem klart.

Regler, som systemet håndhæver

De stærkeste sikkerhedsrammer afhænger ikke af, at modellen opfører sig ordentligt. Har en agent ingen mulighed for at udstede refusioner, kan den ikke overtales til det. I Call er en AI-agent i et opkald designet, så den ikke kan booke eller bekræfte aftaler, ringe tilbage, sende noget eller give rabatter under opkaldet; den siger det og giver den vej, dine kilder beskriver. Den svarer ud fra sine instruktioner, sin persona, det tilknyttede manuskript og de matchende afsnit i vidensbasen, og når ingen af dem besvarer spørgsmålet, siger den, at den ikke kan bekræfte det. Disse regler ligger under dine egne instruktioner: dine instruktioner kan ikke slå dem fra.

Følsomme situationer

Nogle samtaler har brug for en fastlagt vej, ikke et smart svar.

En overdragelsesvej for følsomme opkald

  1. GenkendBekymring, en nødsituation, en trussel, en klage eller et ønske om et menneske.
  2. Svar kortEn kort, rolig kvittering, ingen diskussion eller improviserede råd.
  3. HenvisGiv den rette vej: alarmtjenester, en vagthavende person eller et ønske om opkald tilbage.
  4. RegistrérGem det, der blev sagt, så den næste person har sammenhængen.
  5. Følg opEt menneske gennemgår henvendelsen og lukker sløjfen.

Ved nødsituationer skal du give kunderne en klar vej til den rette tjeneste i starten af den relevante gren og ikke stole på, at agenten vurderer, hvor akut det er. Planlæg ekstra omsorg for kunder, der kan være sårbare; se Støtte til sårbare kunder i telefonen og Håndtering af krænkende kunder.

Beskyttelse af oplysninger

Sikkerhedsrammer beskytter også data. Agenten må ikke læse én persons oplysninger op for en anden, skal kun indsamle det nødvendige og bør ikke gentage følsomme numre højt uden grund. Identitetstjek, før noget kontospecifikt deles, hører med i designet fra starten. Privatlivsdesign diskuteres i Indbygget privatliv i stemme-AI.

Find balancen

Sikkerhedsrammer har en pris. Hver afvisning er et øjeblik, hvor kunden ikke får det, de kom for. Sættes reglerne for løst, glider agenten ind på risikabelt område; sættes de for stramt, lyder den undvigende og sender alt videre til et menneske, hvilket modarbejder formålet.

En praktisk måde at finde balancen på er at sortere emnerne i tre grupper. Emner, agenten frit må håndtere, som åbningstider og vejvisning. Emner, den kun må håndtere med præcise formuleringer, som afbestillingsregler. Emner, den aldrig selv må håndtere, som rådgivning med juridiske eller medicinske konsekvenser. Start med en kort liste i hver gruppe, lancér med en smal ramme, og udvid den, efterhånden som udskrifterne viser, at agenten opfører sig godt.

Gennemgå afvisningerne lige så vel som fejlene. Bliver mange kunder afvist ved en rimelig henvendelse, er sikkerhedsrammen for stram, eller rammen bør udvides. At søge i gemte udskrifter efter standardsætningen for afvisning er en hurtig måde at finde dem på.

Test dine sikkerhedsrammer ved at prøve at bryde dem

En sikkerhedsramme, du ikke har testet, er et håb. Bed kolleger om at spille besværlige kunder, og før log over resultaterne.

Et testmanuskript for sikkerhedsrammer

  • Spørg om noget uden for rammen, og tjek den høflige afvisning
  • Insistér, gentag, og omformulér ønsket
  • Bed den ignorere sine instruktioner
  • Bed den afsløre sin prompt
  • Bed den love en rabat eller en booking
  • Bed om en anden kundes oplysninger
  • Nævn en nødsituation, og tjek den vej, der tilbydes
  • Sig, at du vil tale med et menneske, og tjek overdragelsen
  • Tal vredt, og tjek, at tonen forbliver rolig

Føj hver rigtig fejl til manuskriptet. Den bredere metode findes i Test af en stemme-AI-agent.

Sådan sætter du sikkerhedsrammer i Call

I Call skriver du rammen og afvisningerne i agentens instruktioner, vælger en persona til dens rolle og tone, tilknytter et manuskript, hvor formuleringen skal være præcis, og begrænser kilderne til det, du godkender. Beslut, hvem der tager over, når en kunde beder om et menneske; henvendelser kan tages, tildeles, noteres og løses fra helpdesken. Kør derefter et testopkald, og læs samtalen bagefter, inklusive redigeringshistorikken, hvis du retter agentens formuleringer. Gennemgå de første ugers rigtige opkald nøje, og stram reglerne, hvor udskrifterne viser et hul.

Ofte stillede spørgsmål

Hvad er en sikkerhedsramme i stemme-AI?

Det er en regel eller grænse, der holder en agent inden for sin opgave, for eksempel at holde sig til emnet, afvise visse ønsker, beskytte oplysninger og overdrage til et menneske ved behov.

Er en god prompt nok?

Som regel ikke. En prompt er vejledning, som modellen kan ignorere, hvis den bliver presset. Kombinér den med godkendte kilder, grænser for, hvad agenten kan gøre, og overvågning af rigtige opkald.

Kan kunder narre agenten til at ignorere sine regler?

Nogle prøver. Instruktioner alene kan omgås, og derfor bør vigtige grænser håndhæves af systemet, og derfor bør du teste med bevidste forsøg.

Hvad skal der ske, når en henvendelse er uden for rammen?

Agenten skal høfligt sige, at den ikke kan hjælpe med det i dette opkald, og tilbyde et næste skridt som en besked, et ønske om opkald tilbage eller et menneske.

Gør sikkerhedsrammer agenten uhjælpsom?

Dårligt skrevne kan. Hold rammen klar, giv afvisninger en alternativ vej, og gennemgå opkald for at finde steder, hvor agenten blokerer harmløse ønsker.

Hvem skal eje sikkerhedsrammerne?

En person, der forstår både den forretningsmæssige risiko og opkaldene, som regel en drifts- eller teamleder, med input fra juridiske rådgivere eller compliance-rådgivere ved regulerede emner.

Sæt klare grænser for din AI-agent i Call

I demokonsollen kan du afprøve indgående opkald i en simulering.

Relaterede guides