Evitar respuestas inventadas de la IA de voz en llamadas
Por qué los agentes de voz a veces afirman cosas falsas y los pasos prácticos para limitarlo: fuentes fiables, alternativas seguras, preguntas trampa y revisión.
Pregunta a un agente de voz por tu horario y responderá con soltura. El problema surge cuando responde con la misma soltura sobre algo que nunca se le dijo. Eso es lo que se llama una alucinación: un resultado que suena bien pero no tiene base en tu información.

En una línea telefónica el riesgo es mayor que en una ventana de chat. Quien llama oye una frase segura y ningún enlace, ninguna fuente y ninguna forma fácil de volver atrás. Esta guía explica por qué se producen las alucinaciones, cómo reducirlas y cómo comprobar que tus correcciones funcionan.
Qué es una alucinación y por qué ocurre
Un modelo de lenguaje produce la continuación más plausible de una conversación. Se entrenó con enormes cantidades de texto y no tiene un sentido incorporado de qué afirmaciones son ciertas para tu negocio. Cuando la respuesta no está en el prompt ni en las fuentes, el modelo puede rellenar el hueco con algo que parece razonable.
Causas habituales en un agente telefónico
- Información que faltaAlguien pregunta algo que nadie dejó por escrito, así que el modelo improvisa.
- Información desfasadaUn precio o un horario antiguo sigue en una fuente.
- Fuentes ambiguasDos documentos no coinciden y el agente elige uno.
- Presión por ser útilUn prompt que dice «responde siempre» fomenta las suposiciones.
- Errores de reconocimiento de vozUna palabra mal entendida cambia la pregunta, y el agente responde a otra.
La última causa es fácil de pasar por alto. Si la transcripción dice martes cuando la persona dijo jueves, la respuesta puede ser perfectamente correcta para la pregunta equivocada. Consulta Mejorar el reconocimiento de voz en llamadas para ver cómo surgen los errores de reconocimiento.
Cómo se ve en la práctica
Una clínica dental hipotética podría informar a su agente sobre el horario y los servicios que ofrece. Alguien pregunta si la clínica acepta una determinada aseguradora. Sin información al respecto, un agente poco cuidadoso podría decir que sí, porque muchas clínicas lo hacen. La persona se presenta esperando cobertura y se lleva un disgusto. La solución no es un modelo más listo, sino una instrucción clara y una fuente que diga qué hacer cuando no se conoce la respuesta.
Los temas de alto riesgo habituales son los precios, la disponibilidad, el asesoramiento jurídico o médico, las promesas de reembolso y todo lo que suene a compromiso. Márcalos como áreas en las que el agente no debe improvisar.
Por qué la voz lo empeora
Una respuesta escrita de un chatbot puede llevar un enlace, un aviso o una lista visible de fuentes. La voz no lleva nada de eso. Las voces sintéticas además son fluidas y constantes, así que una suposición suena exactamente como un hecho; no hay ninguna vacilación que alerte a quien llama. La gente suele actuar de inmediato según lo que oye: va a algún sitio, cancela algo o paga algo.
Por eso el diseño de los agentes telefónicos debe inclinarse hacia la contención. Una respuesta breve y sincera que remite a una persona cuesta unos segundos. Una respuesta errónea dicha con seguridad puede costar un cliente. Al decidir cuán estricto ser, piensa en la peor consecuencia plausible de una respuesta errónea en cada tema y fija la regla en consecuencia: flexible para el horario, estricta para todo lo que tenga que ver con dinero, salud o derechos legales.
Cómo reducir las respuestas inventadas
Un enfoque por capas
- Fundamenta el agenteDale datos aprobados e indícale que responda solo a partir de ellos.
- Define lo desconocidoEscribe lo que debe decir cuando no tiene la respuesta.
- Limita los compromisosProhíbele promesas que no puede cumplir, como descuentos o reservas confirmadas.
- Ofrece una víaDa siempre como siguiente paso una persona, un mensaje o una devolución de llamada.
- Prueba y revisaHaz preguntas fuera de las fuentes y lee transcripciones reales.
Fundaméntalo en fuentes aprobadas
La recuperación consiste en buscar en tus documentos los fragmentos relevantes en el momento de la pregunta y dar solo esos al modelo. Mantiene las respuestas ligadas a textos que tú escribiste. RAG para agentes de voz explica la idea, y Fuentes de conocimiento en Call muestra cómo aparece en el producto.
Escribe datos breves y sin ambigüedad
Un dato por entrada, con la condición incluida, funciona mejor que un folleto largo. En lugar de «Abrimos los fines de semana», escribe «Sábado de 9 a 13, domingo cerrado». Si un tema tiene excepciones, indícalas en la misma entrada.
Usa respuestas exactas para las preguntas clave
Para las preguntas en las que importa la redacción, como las condiciones de cancelación, da al agente la respuesta exacta que debe leer. En Call puedes añadir una pregunta y la respuesta exacta que debe dar el agente, para que no tenga que parafrasear.
Enséñale a decir «no lo sé»
Un sincero «No puedo confirmarlo en esta llamada, pero puedo tomar tus datos para que alguien te responda» es mucho mejor que una suposición. En Call, el agente está diseñado para decir claramente que no puede confirmar algo cuando nada en sus instrucciones o fuentes responde a la pregunta, y para ofrecer una persona si la línea permite transferir la llamada. Además, nunca se inventa precios, horarios, fechas ni otros datos que no figuren en tus instrucciones y fuentes, y tus instrucciones no pueden desactivar estas reglas.
Respuestas fundamentadas frente a no fundamentadas
La misma pregunta, dos configuraciones
| Agente sin fundamentar | Agente fundamentado | |
|---|---|---|
| Origen de la respuesta | Conocimiento general y suposiciones plausibles | Solo tus datos aprobados |
| Cuando falta información | Se inventa algo fluido | Dice que no puede confirmarlo y ofrece un siguiente paso |
| Riesgo para quien llama | Puede actuar con datos erróneos | Sabe qué es incierto |
| Mantenimiento | Fácil de empezar, difícil de confiar | Requiere mantener las fuentes al día |
Busca las alucinaciones a propósito
No esperes a que un cliente encuentre los huecos. Prepara un pequeño conjunto de preguntas trampa y lánzalo cada vez que cambies el prompt o las fuentes.
Un conjunto de pruebas de alucinaciones
- Pregunta por un servicio que no ofreces
- Pide un precio que no está en las fuentes
- Pregunta por una excepción a una política que nadie dejó por escrito
- Pide una fecha muy lejana
- Formula una pregunta de forma distinta a tus respuestas escritas
- Pregunta algo que se parezca a un tema cubierto
- Comprueba que cada pregunta desconocida termina con un siguiente paso seguro
Repite el conjunto después de cada cambio y añade cada fallo real que encuentres. El proceso de pruebas completo se describe en Cómo probar un agente de IA de voz antes de lanzarlo.
Sigue vigilando después del lanzamiento
El control de las alucinaciones no es una tarea puntual. La información cambia, aparecen preguntas nuevas y los prompts se desvían a medida que se editan. Fija una rutina: lee cada semana una muestra de transcripciones, busca frases que indiquen dudas y actualiza las fuentes. En Call puedes abrir la conversación completa de cualquier llamada, buscar una frase en todas las transcripciones guardadas y ver el historial de correcciones hechas a las palabras del agente. Recuerda que las transcripciones se conservan durante un tiempo limitado, así que revísalas pronto.
Aplicarlo en Call
Empieza por escribir tus preguntas más frecuentes como pares exactos de pregunta y respuesta, añade fuentes breves y factuales para todo lo demás, y asocia el agente a una línea solo después de probarlo. Si quieres ayuda para redactar prompts que desalienten las suposiciones, lee Instrucciones para agentes de IA telefónicos. Las salvaguardas que acompañan a este trabajo se tratan en Salvaguardas para agentes de IA de voz.
Preguntas frecuentes
¿Qué es una alucinación de la IA de voz?
Es una respuesta que suena segura pero no está respaldada por tu información, por ejemplo un precio o una política inventados. Ocurre cuando el modelo rellena un hueco en lugar de admitir que no sabe algo.
¿Se pueden eliminar del todo las alucinaciones?
Ninguna herramienta puede prometerlo. Puedes reducirlas mucho limitando lo que puede decir el agente, manteniendo las fuentes al día y dándole una alternativa segura, pero debes seguir probando y revisando.
¿Por qué el agente responde a una pregunta para la que nunca lo preparé?
Los modelos de lenguaje están hechos para producir texto plausible. Sin una instrucción clara de ceñirse a tus fuentes y decir cuándo no puede confirmar algo, puede improvisar.
¿Una palabra mal entendida es lo mismo que una alucinación?
No exactamente. Una palabra mal entendida es un error de reconocimiento, pero puede llevar a una respuesta errónea que parece una alucinación. Revisa la transcripción para ver qué pasó.
¿Qué temas son más arriesgados?
Los precios, la disponibilidad, el asesoramiento médico o jurídico, los reembolsos y cualquier promesa o compromiso. Para ellos, da al agente una redacción exacta o una vía de traspaso.
¿Con qué frecuencia debo revisar las transcripciones?
A diario o cada pocos días durante el lanzamiento, y luego cada semana. Revisa con más frecuencia después de cambiar el prompt o las fuentes.