Tecnologia de IA de voz

Como evitar respostas inventadas pela IA de voz em ligações

Por que agentes de voz às vezes afirmam coisas falsas e os passos práticos que limitam isso: fontes confiáveis, saídas seguras, perguntas-armadilha e revisão.

Equipe editorial do Call · Publicado em · Leitura de 6 min

Pergunte a um agente de voz o seu horário de funcionamento e ele responde com fluidez. O problema surge quando ele responde com a mesma fluidez sobre algo que nunca lhe contaram. É isso que as pessoas chamam de alucinação: uma saída que soa certa, mas não tem base nas suas informações.

Uma pessoa ouvindo com atenção uma ligação na sua mesa de trabalho
Imagem ilustrativa

Em uma linha telefônica, o risco é maior que em uma janela de chat. A pessoa ouve uma frase confiante, sem link, sem fonte e sem um jeito fácil de voltar atrás. Este guia explica por que as alucinações acontecem, como reduzi-las e como verificar se as correções funcionam.

O que é uma alucinação e por que ela acontece

Um modelo de linguagem produz a continuação mais plausível de uma conversa. Ele foi treinado com uma quantidade enorme de texto e não tem uma noção embutida de quais afirmações são verdadeiras para a sua empresa. Quando a resposta não está no prompt nem nas fontes, o modelo pode preencher a lacuna com algo que parece razoável.

Causas típicas em um agente telefônico

  • Informação ausenteA pessoa pergunta algo que ninguém escreveu, então o modelo improvisa.
  • Informação desatualizadaUm preço ou horário antigo continua em uma fonte.
  • Fontes ambíguasDois documentos discordam e o agente escolhe um.
  • Pressão para ajudarUm prompt que diz "responda sempre" incentiva o chute.
  • Erros de reconhecimento de falaUma palavra mal entendida muda a pergunta, e o agente responde a outra.

A última causa é fácil de ignorar. Se a transcrição diz terça quando a pessoa disse quinta, a resposta pode estar perfeitamente correta para a pergunta errada. Veja Reconhecimento de fala em ligações telefônicas para entender como surgem os erros de reconhecimento.

Como isso aparece na prática

Uma clínica odontológica hipotética pode informar ao agente o horário de funcionamento e os serviços oferecidos. Alguém pergunta se a clínica aceita determinado plano odontológico. Sem informação sobre isso, um agente descuidado pode dizer que sim, porque muitas clínicas aceitam. A pessoa aparece esperando cobertura e fica insatisfeita. A solução não é um modelo mais inteligente, e sim uma instrução clara e uma fonte que diga o que fazer quando a resposta é desconhecida.

Os assuntos de maior risco costumam ser preços, disponibilidade, orientação jurídica ou médica, promessas de reembolso e qualquer coisa que soe como compromisso. Marque essas áreas como temas em que o agente não pode improvisar.

Por que a voz piora a situação

A resposta escrita de um chatbot pode trazer um link, um aviso ou uma lista visível de fontes. A fala não traz nada disso. As vozes sintéticas também são suaves e firmes, então um chute soa exatamente como um fato; não há hesitação que alerte a pessoa. Muitas vezes quem liga age imediatamente com base no que ouviu: vai até algum lugar, cancela algo ou paga alguma coisa.

Por isso, o desenho de agentes telefônicos deve pender para a contenção. Uma resposta curta e honesta que indica uma pessoa custa alguns segundos. Uma resposta errada e confiante pode custar um cliente. Ao decidir o grau de rigor, pense na pior consequência plausível de uma resposta errada em cada assunto e defina a regra de acordo: mais flexível para horário de funcionamento, rigorosa para tudo o que envolve dinheiro, saúde ou direitos legais.

Como reduzir respostas inventadas

Uma abordagem em camadas

  1. Fundamente o agenteForneça informações aprovadas e diga a ele que responda só com base nelas.
  2. Defina o desconhecidoEscreva o que ele deve dizer quando não tiver uma resposta.
  3. Restrinja compromissosProíba promessas que ele não pode cumprir, como descontos ou agendamentos confirmados.
  4. Ofereça um caminhoOfereça sempre uma pessoa, um recado ou um retorno como próximo passo.
  5. Teste e reviseFaça perguntas fora das fontes e leia transcrições reais.

Baseie o agente em fontes aprovadas

Recuperação de informação significa buscar trechos relevantes dos seus documentos no momento da pergunta e entregar só esses trechos ao modelo. Isso mantém as respostas presas ao texto que você escreveu. O guia Recuperação de informação para agentes de voz explica a ideia, e Fontes de conhecimento no Call mostra como isso aparece no produto.

Escreva informações curtas e sem ambiguidade

Uma informação por item, já com a condição incluída, funciona melhor que um folheto longo. Em vez de "abrimos nos fins de semana", escreva "sábado das 9 às 13, fechado no domingo". Se um assunto tem exceções, informe-as no mesmo item.

Use respostas exatas para as perguntas principais

Para perguntas em que a redação importa, como regras de cancelamento, dê ao agente a resposta exata para ler. No Call, você pode acrescentar uma pergunta e a resposta exata que o agente deve dar, para que ele não precise parafrasear.

Ensine o agente a dizer "não sei"

Um honesto "não consigo confirmar isso nesta ligação, mas posso anotar seus dados e pedir que alguém retorne" é muito melhor que um chute. No Call, o agente foi pensado para dizer com clareza que não pode confirmar algo quando nada nas instruções ou nas fontes responde à pergunta, e para oferecer uma pessoa quando a linha pode transferir a chamada. Ele também nunca inventa preços, horários, datas ou outras informações que as suas instruções e fontes não trazem, e as suas instruções não podem desativar essas regras.

Respostas fundamentadas x não fundamentadas

Mesma pergunta, duas configurações

Agente sem fundamentaçãoAgente fundamentado
Origem da respostaConhecimento geral e suposições plausíveisSó as suas informações aprovadas
Quando falta informaçãoInventa algo fluenteDiz que não pode confirmar e oferece um próximo passo
Risco para quem ligaPode agir com base em dados erradosSabe o que é incerto
ManutençãoFácil de começar, difícil de confiarExige fontes sempre atualizadas

Teste alucinações de propósito

Não espere que um cliente encontre as lacunas. Monte um pequeno conjunto de perguntas-armadilha e use-o sempre que alterar o prompt ou as fontes.

Um conjunto de testes de alucinação

  • Pergunte sobre um serviço que você não oferece
  • Peça um preço que não está nas fontes
  • Pergunte sobre uma exceção de política que ninguém escreveu
  • Pergunte sobre uma data muito distante no futuro
  • Faça uma pergunta com palavras diferentes das respostas escritas
  • Pergunte algo parecido com um assunto coberto
  • Confira se todo desconhecido termina com um próximo passo seguro

Repita o conjunto depois de cada mudança e acrescente a ele toda falha real que encontrar. O processo de testes mais amplo está descrito em Como testar um agente de IA de voz.

Continue acompanhando depois do lançamento

Controlar alucinações não é uma tarefa pontual. As informações mudam, surgem perguntas novas e os prompts se desviam à medida que as pessoas os editam. Defina uma rotina: leia uma amostra de transcrições toda semana, procure frases que indiquem dúvida e atualize as fontes. No Call, você pode abrir a conversa completa de qualquer ligação, buscar uma frase em todas as transcrições armazenadas e ver o histórico de correções feitas nas falas do agente. Lembre-se de que as transcrições ficam guardadas por tempo limitado, então revise-as logo.

Como aplicar isso no Call

Comece escrevendo as perguntas mais frequentes como pares exatos de pergunta e resposta, acrescente fontes curtas e objetivas para todo o resto e vincule o agente a uma linha só depois de testar. Se quiser ajuda para escrever prompts que desestimulem o chute, leia Como escrever prompts para um agente telefônico com LLM. As salvaguardas que acompanham esse trabalho estão em Salvaguardas para agentes de IA de voz.

Perguntas frequentes

O que é uma alucinação de IA de voz?

É uma resposta que soa confiante, mas não tem respaldo nas suas informações, por exemplo, um preço ou uma política inventados. Acontece quando o modelo preenche uma lacuna em vez de admitir que não sabe.

É possível eliminar completamente as alucinações?

Nenhuma ferramenta pode prometer isso. Você pode reduzi-las bastante limitando o que o agente pode dizer, mantendo as fontes atualizadas e dando a ele uma saída segura, mas deve continuar testando e revisando.

Por que o agente responde a uma pergunta para a qual nunca o preparei?

Modelos de linguagem são feitos para produzir texto plausível. Sem uma instrução clara para ficar dentro das suas fontes e dizer quando não pode confirmar algo, ele pode improvisar.

Uma palavra mal entendida é o mesmo que uma alucinação?

Não exatamente. Uma palavra mal entendida é um erro de reconhecimento, mas pode levar a uma resposta errada que parece uma alucinação. Confira a transcrição para ver qual dos dois aconteceu.

Quais assuntos são mais arriscados?

Preços, disponibilidade, orientação médica ou jurídica, reembolsos e qualquer promessa ou compromisso. Dê ao agente um texto exato ou um repasse para esses casos.

Com que frequência devo revisar as transcrições?

Diariamente ou a cada poucos dias no lançamento, depois toda semana. Revise com mais frequência depois de alterar o prompt ou as fontes.

Baseie o seu agente de IA em respostas aprovadas no Call

No console de demonstração você pode experimentar chamadas recebidas em uma simulação.

Guias relacionados