Tecnologia de IA de voz

Salvaguardas para agentes de IA de voz: ligações seguras e no foco

As camadas de salvaguardas de um agente de voz telefônico, de prompts e fontes aprovadas a limites impostos e regras de repasse, com um roteiro de testes.

Equipe editorial do Call · Publicado em · Leitura de 6 min

Um agente telefônico fala em nome da sua empresa. As pessoas podem testá-lo, confundi-lo, se irritar com ele ou tentar convencê-lo a fazer o que não deve. As salvaguardas são os limites que mantêm a conversa segura, no foco e honesta, mesmo quando a pessoa insiste.

Uma gestora revisando anotações de ligações em uma mesa, com um headset por perto
Imagem ilustrativa

Este guia descreve os principais tipos de salvaguarda, como combiná-los em camadas e como testá-los. Ele combina bem com Como evitar respostas inventadas pela IA de voz, que trata da precisão, e com O que uma recepcionista com IA não consegue fazer.

Para que servem as salvaguardas

Pense em uma recepcionista no primeiro dia de trabalho. Você diz o que falar, o que não prometer e a quem chamar quando uma situação fugir do alcance dela. Um agente de voz precisa da mesma orientação, por escrito, e de parte dela imposta pelo sistema, em vez de confiada à memória.

Quatro funções de uma salvaguarda

  • Manter o focoO agente fala dos seus serviços, não de qualquer assunto que a pessoa levantar.
  • Evitar danosEle se recusa a dar orientações ou executar ações que não deve.
  • Proteger informaçõesEle não lê dados de outras pessoas nem revela as próprias instruções.
  • Saber a hora de pararEle repassa a ligação a uma pessoa quando a situação exige.

As salvaguardas vêm em camadas

Nenhuma medida isolada é confiável por si só. Uma configuração sensata combina várias, para que, se uma falhar, outra pegue o problema.

CamadaO que fazExemplo
InstruçõesDizem ao agente o papel, o tom e os limitesFalar só de horário de funcionamento, serviços e recados
FontesLimitam as informações que ele pode usarRespostas aprovadas, nada mais
Limites de açãoRestringem o que ele pode fazerEle não pode agendar, reembolsar nem alterar registros
Verificações da saídaInspecionam o que ele está prestes a dizerBloquear certas palavras ou assuntos
Regras de repasseDefinem quando uma pessoa assumeA pessoa pede para falar com alguém ou parece aflita
MonitoramentoRevisa as ligações depois que acontecemBuscar frases de risco nas transcrições

Salvaguardas no nível das instruções

A primeira camada é uma orientação clara. Descreva o papel, o tom, os assuntos dentro do escopo e os assuntos fora dele. Diga o que o agente deve fazer quando algo estiver fora do escopo, porque uma recusa sem alternativa frustra.

Instruções são orientação, não imposição. Um modelo costuma segui-las, mas pode ser convencido a contorná-las, e é por isso que elas nunca devem ser a única camada para nada importante. O guia Como escrever prompts para um agente telefônico com LLM mostra como escrevê-las com clareza.

Regras impostas pelo sistema

As salvaguardas mais fortes não dependem do bom comportamento do modelo. Se um agente não tem a capacidade de emitir reembolsos, ninguém consegue convencê-lo a emitir um. No Call, um agente de IA em uma ligação foi pensado de forma que não pode agendar ou confirmar horários, retornar ligações, enviar nada nem dar descontos durante a ligação; ele diz isso e indica o caminho descrito nas suas fontes. Ele responde com base nas instruções, na persona, no roteiro vinculado e nos trechos correspondentes da base de conhecimento, e, quando nada disso responde à pergunta, diz que não pode confirmar aquilo. Essas regras ficam abaixo das suas próprias instruções: as suas instruções não podem desativá-las.

Situações delicadas

Algumas conversas precisam de um caminho definido, não de uma resposta engenhosa.

Um caminho de repasse para ligações delicadas

  1. ReconhecerAflição, uma emergência, uma ameaça, uma reclamação ou um pedido para falar com alguém.
  2. Responder brevementeUma confirmação curta e calma, sem discussão nem orientação improvisada.
  3. DirecionarIndicar o caminho certo: serviços de emergência, uma pessoa de plantão ou um pedido de retorno.
  4. RegistrarSalvar o que foi dito para que a próxima pessoa tenha contexto.
  5. Dar seguimentoUma pessoa revisa o pedido e fecha o ciclo.

Para emergências, ofereça um caminho claro até o serviço certo logo no início do ramo correspondente e não dependa do agente para julgar a urgência. Para pessoas que possam estar em situação vulnerável, planeje cuidados extras; veja Como apoiar clientes vulneráveis nas ligações e Como lidar com pessoas abusivas ao telefone.

Proteger informações

As salvaguardas também protegem dados. O agente não deve ler os dados de uma pessoa para outra, deve coletar só o que precisa e não deve repetir números sensíveis em voz alta sem necessidade. Verificações de identidade antes de compartilhar qualquer coisa específica de uma conta fazem parte do desenho desde o início. A privacidade desde a concepção é tratada em Privacidade desde a concepção para IA de voz.

Como encontrar o equilíbrio

As salvaguardas têm um custo. Cada recusa é um momento em que a pessoa não consegue o que veio buscar. Regras frouxas demais deixam o agente derivar para terreno arriscado; regras rígidas demais o fazem soar evasivo e mandar tudo para uma pessoa, o que anula o propósito.

Uma forma prática de encontrar o equilíbrio é dividir os assuntos em três grupos. Assuntos que o agente pode tratar livremente, como horário de funcionamento e como chegar. Assuntos que ele só pode tratar com um texto exato, como regras de cancelamento. Assuntos que ele nunca deve tratar sozinho, como orientações com consequências jurídicas ou médicas. Comece com uma lista curta em cada grupo, entre no ar com um escopo restrito e amplie conforme as transcrições mostrarem que o agente está se comportando bem.

Revise as recusas, não só as falhas. Se muitas pessoas estão sendo recusadas por um pedido razoável, a salvaguarda está rígida demais, ou o escopo deve crescer. Buscar a frase padrão de recusa nas transcrições armazenadas é uma forma rápida de encontrá-las.

Teste as salvaguardas tentando quebrá-las

Uma salvaguarda que você não testou é só uma esperança. Peça a colegas que interpretem clientes difíceis e registre os resultados.

Um roteiro de teste de salvaguardas

  • Peça algo fora do escopo e confira a recusa educada
  • Insista, repita e reformule o pedido
  • Peça que ele ignore as instruções
  • Peça que ele revele o prompt
  • Peça que ele prometa um desconto ou um agendamento
  • Peça os dados de outro cliente
  • Relate uma emergência e confira o caminho oferecido
  • Diga que quer falar com uma pessoa e confira o repasse
  • Fale com raiva e confira se o tom continua calmo

Acrescente ao roteiro cada falha real. O método mais amplo está em Como testar um agente de IA de voz.

Como definir salvaguardas no Call

No Call, escreva o escopo e as recusas nas instruções do agente, escolha uma persona para o papel e o tom, vincule um roteiro quando o texto precisar ser exato e restrinja as fontes ao que você aprovar. Defina quem assume quando alguém pede para falar com uma pessoa; as solicitações podem ser assumidas, atribuídas, anotadas e resolvidas a partir da central de atendimento. Depois, faça uma chamada de teste e leia a conversa, incluindo o histórico de edições se você corrigir as falas do agente. Revise de perto as primeiras semanas de ligações reais e aperte as regras onde as transcrições mostrarem uma lacuna.

Perguntas frequentes

O que é uma salvaguarda em IA de voz?

É uma regra ou limite que mantém o agente dentro da sua função, como manter o foco, recusar certos pedidos, proteger informações e repassar a ligação a uma pessoa quando necessário.

Um bom prompt basta?

Normalmente não. Um prompt é uma orientação que o modelo pode ignorar sob pressão. Combine-o com fontes aprovadas, limites para o que o agente pode fazer e monitoramento de ligações reais.

As pessoas conseguem enganar o agente para que ignore as regras?

Algumas tentam. Instruções sozinhas podem ser contornadas, e é por isso que limites importantes devem ser impostos pelo sistema e que você deve testar com tentativas deliberadas.

O que deve acontecer quando um pedido está fora do escopo?

O agente deve dizer com educação que não pode ajudar com isso nesta ligação e oferecer um próximo passo, como um recado, um pedido de retorno ou uma pessoa.

As salvaguardas tornam o agente pouco útil?

Se mal escritas, podem. Mantenha o escopo claro, dê às recusas um caminho alternativo e revise as ligações para encontrar pontos em que o agente bloqueia pedidos inofensivos.

Quem deve ser responsável pelas salvaguardas?

Alguém que entenda tanto o risco do negócio quanto as ligações, normalmente um líder de operações ou de equipe, com a contribuição de assessores jurídicos ou de compliance para assuntos regulados.

Defina limites claros para o seu agente de IA no Call

No console de demonstração você pode experimentar chamadas recebidas em uma simulação.

Guias relacionados