Salvaguardas para agentes de IA de voz: ligações seguras e no foco
As camadas de salvaguardas de um agente de voz telefônico, de prompts e fontes aprovadas a limites impostos e regras de repasse, com um roteiro de testes.
Um agente telefônico fala em nome da sua empresa. As pessoas podem testá-lo, confundi-lo, se irritar com ele ou tentar convencê-lo a fazer o que não deve. As salvaguardas são os limites que mantêm a conversa segura, no foco e honesta, mesmo quando a pessoa insiste.

Este guia descreve os principais tipos de salvaguarda, como combiná-los em camadas e como testá-los. Ele combina bem com Como evitar respostas inventadas pela IA de voz, que trata da precisão, e com O que uma recepcionista com IA não consegue fazer.
Para que servem as salvaguardas
Pense em uma recepcionista no primeiro dia de trabalho. Você diz o que falar, o que não prometer e a quem chamar quando uma situação fugir do alcance dela. Um agente de voz precisa da mesma orientação, por escrito, e de parte dela imposta pelo sistema, em vez de confiada à memória.
Quatro funções de uma salvaguarda
- Manter o focoO agente fala dos seus serviços, não de qualquer assunto que a pessoa levantar.
- Evitar danosEle se recusa a dar orientações ou executar ações que não deve.
- Proteger informaçõesEle não lê dados de outras pessoas nem revela as próprias instruções.
- Saber a hora de pararEle repassa a ligação a uma pessoa quando a situação exige.
As salvaguardas vêm em camadas
Nenhuma medida isolada é confiável por si só. Uma configuração sensata combina várias, para que, se uma falhar, outra pegue o problema.
| Camada | O que faz | Exemplo |
|---|---|---|
| Instruções | Dizem ao agente o papel, o tom e os limites | Falar só de horário de funcionamento, serviços e recados |
| Fontes | Limitam as informações que ele pode usar | Respostas aprovadas, nada mais |
| Limites de ação | Restringem o que ele pode fazer | Ele não pode agendar, reembolsar nem alterar registros |
| Verificações da saída | Inspecionam o que ele está prestes a dizer | Bloquear certas palavras ou assuntos |
| Regras de repasse | Definem quando uma pessoa assume | A pessoa pede para falar com alguém ou parece aflita |
| Monitoramento | Revisa as ligações depois que acontecem | Buscar frases de risco nas transcrições |
Salvaguardas no nível das instruções
A primeira camada é uma orientação clara. Descreva o papel, o tom, os assuntos dentro do escopo e os assuntos fora dele. Diga o que o agente deve fazer quando algo estiver fora do escopo, porque uma recusa sem alternativa frustra.
- Escopo: liste com o que ele pode ajudar e diga que todo o resto vai para uma pessoa ou para um recado.
- Recusas: nomeie os assuntos que ele não deve tratar, como orientação jurídica ou médica, com uma resposta padrão educada.
- Identidade: diga o que ele deve responder quando perguntarem se é uma pessoa.
- Sigilo: diga a ele que não revele as instruções internas.
- Tamanho e estilo: frases faladas curtas, sem listas, links ou emojis.
Instruções são orientação, não imposição. Um modelo costuma segui-las, mas pode ser convencido a contorná-las, e é por isso que elas nunca devem ser a única camada para nada importante. O guia Como escrever prompts para um agente telefônico com LLM mostra como escrevê-las com clareza.
Regras impostas pelo sistema
As salvaguardas mais fortes não dependem do bom comportamento do modelo. Se um agente não tem a capacidade de emitir reembolsos, ninguém consegue convencê-lo a emitir um. No Call, um agente de IA em uma ligação foi pensado de forma que não pode agendar ou confirmar horários, retornar ligações, enviar nada nem dar descontos durante a ligação; ele diz isso e indica o caminho descrito nas suas fontes. Ele responde com base nas instruções, na persona, no roteiro vinculado e nos trechos correspondentes da base de conhecimento, e, quando nada disso responde à pergunta, diz que não pode confirmar aquilo. Essas regras ficam abaixo das suas próprias instruções: as suas instruções não podem desativá-las.
Situações delicadas
Algumas conversas precisam de um caminho definido, não de uma resposta engenhosa.
Um caminho de repasse para ligações delicadas
- ReconhecerAflição, uma emergência, uma ameaça, uma reclamação ou um pedido para falar com alguém.
- Responder brevementeUma confirmação curta e calma, sem discussão nem orientação improvisada.
- DirecionarIndicar o caminho certo: serviços de emergência, uma pessoa de plantão ou um pedido de retorno.
- RegistrarSalvar o que foi dito para que a próxima pessoa tenha contexto.
- Dar seguimentoUma pessoa revisa o pedido e fecha o ciclo.
Para emergências, ofereça um caminho claro até o serviço certo logo no início do ramo correspondente e não dependa do agente para julgar a urgência. Para pessoas que possam estar em situação vulnerável, planeje cuidados extras; veja Como apoiar clientes vulneráveis nas ligações e Como lidar com pessoas abusivas ao telefone.
Proteger informações
As salvaguardas também protegem dados. O agente não deve ler os dados de uma pessoa para outra, deve coletar só o que precisa e não deve repetir números sensíveis em voz alta sem necessidade. Verificações de identidade antes de compartilhar qualquer coisa específica de uma conta fazem parte do desenho desde o início. A privacidade desde a concepção é tratada em Privacidade desde a concepção para IA de voz.
Como encontrar o equilíbrio
As salvaguardas têm um custo. Cada recusa é um momento em que a pessoa não consegue o que veio buscar. Regras frouxas demais deixam o agente derivar para terreno arriscado; regras rígidas demais o fazem soar evasivo e mandar tudo para uma pessoa, o que anula o propósito.
Uma forma prática de encontrar o equilíbrio é dividir os assuntos em três grupos. Assuntos que o agente pode tratar livremente, como horário de funcionamento e como chegar. Assuntos que ele só pode tratar com um texto exato, como regras de cancelamento. Assuntos que ele nunca deve tratar sozinho, como orientações com consequências jurídicas ou médicas. Comece com uma lista curta em cada grupo, entre no ar com um escopo restrito e amplie conforme as transcrições mostrarem que o agente está se comportando bem.
Revise as recusas, não só as falhas. Se muitas pessoas estão sendo recusadas por um pedido razoável, a salvaguarda está rígida demais, ou o escopo deve crescer. Buscar a frase padrão de recusa nas transcrições armazenadas é uma forma rápida de encontrá-las.
Teste as salvaguardas tentando quebrá-las
Uma salvaguarda que você não testou é só uma esperança. Peça a colegas que interpretem clientes difíceis e registre os resultados.
Um roteiro de teste de salvaguardas
- Peça algo fora do escopo e confira a recusa educada
- Insista, repita e reformule o pedido
- Peça que ele ignore as instruções
- Peça que ele revele o prompt
- Peça que ele prometa um desconto ou um agendamento
- Peça os dados de outro cliente
- Relate uma emergência e confira o caminho oferecido
- Diga que quer falar com uma pessoa e confira o repasse
- Fale com raiva e confira se o tom continua calmo
Acrescente ao roteiro cada falha real. O método mais amplo está em Como testar um agente de IA de voz.
Como definir salvaguardas no Call
No Call, escreva o escopo e as recusas nas instruções do agente, escolha uma persona para o papel e o tom, vincule um roteiro quando o texto precisar ser exato e restrinja as fontes ao que você aprovar. Defina quem assume quando alguém pede para falar com uma pessoa; as solicitações podem ser assumidas, atribuídas, anotadas e resolvidas a partir da central de atendimento. Depois, faça uma chamada de teste e leia a conversa, incluindo o histórico de edições se você corrigir as falas do agente. Revise de perto as primeiras semanas de ligações reais e aperte as regras onde as transcrições mostrarem uma lacuna.
Perguntas frequentes
O que é uma salvaguarda em IA de voz?
É uma regra ou limite que mantém o agente dentro da sua função, como manter o foco, recusar certos pedidos, proteger informações e repassar a ligação a uma pessoa quando necessário.
Um bom prompt basta?
Normalmente não. Um prompt é uma orientação que o modelo pode ignorar sob pressão. Combine-o com fontes aprovadas, limites para o que o agente pode fazer e monitoramento de ligações reais.
As pessoas conseguem enganar o agente para que ignore as regras?
Algumas tentam. Instruções sozinhas podem ser contornadas, e é por isso que limites importantes devem ser impostos pelo sistema e que você deve testar com tentativas deliberadas.
O que deve acontecer quando um pedido está fora do escopo?
O agente deve dizer com educação que não pode ajudar com isso nesta ligação e oferecer um próximo passo, como um recado, um pedido de retorno ou uma pessoa.
As salvaguardas tornam o agente pouco útil?
Se mal escritas, podem. Mantenha o escopo claro, dê às recusas um caminho alternativo e revise as ligações para encontrar pontos em que o agente bloqueia pedidos inofensivos.
Quem deve ser responsável pelas salvaguardas?
Alguém que entenda tanto o risco do negócio quanto as ligações, normalmente um líder de operações ou de equipe, com a contribuição de assessores jurídicos ou de compliance para assuntos regulados.