منع الإجابات المختلقة في الذكاء الاصطناعي الصوتي بالمكالمات
لماذا يقول الوكلاء الصوتيون أحيانًا أشياء غير صحيحة، والخطوات العملية للحد من ذلك: مصادر موثوقة، وبدائل آمنة، وأسئلة اختبار فخّية، ومراجعة.
اسأل وكيلًا صوتيًا عن ساعات عملك وسيجيب بسلاسة. لكن المشكلة تظهر حين يجيب بالسلاسة نفسها عن شيء لم يُخبَر به قط. وهذا ما يُقصد بالهلوسة: مخرجات تبدو صحيحة لكن لا أساس لها في معلوماتك.

على الخط الهاتفي يكون الخطر أشد منه في نافذة الدردشة. فالمتصل يسمع جملة واحدة واثقة، بلا رابط ولا مصدر ولا طريقة سهلة للرجوع. يشرح هذا الدليل لماذا تحدث الهلوسة، وكيف تقللها، وكيف تتحقق من نجاح إصلاحاتك.
ما هي الهلوسة، ولماذا تحدث
ينتج النموذج اللغوي التتمة الأكثر معقولية للمحادثة. وقد دُرّب على كميات هائلة من النصوص، ولا يملك إحساسًا مدمجًا بأي العبارات صحيحة بالنسبة لمشروعك. وحين تغيب الإجابة عن التعليمات أو المصادر، قد يملأ النموذج الفجوة بشيء يبدو معقولًا.
الأسباب المعتادة في الوكيل الهاتفي
- معلومات ناقصةيسأل المتصل عن شيء لم يدوّنه أحد، فيرتجل النموذج.
- معلومات قديمةسعر قديم أو موعد عمل قديم يبقى في أحد المصادر.
- مصادر غامضةمستندان متعارضان، فيختار الوكيل أحدهما.
- الضغط ليكون مفيدًاالتعليمات التي تقول «أجب دائمًا» تشجع على التخمين.
- أخطاء التعرف على الكلامكلمة مسموعة خطأً تغيّر السؤال، فيجيب الوكيل عن سؤال آخر.
السبب الأخير من السهل إغفاله. فإن قال النص المفرغ «الثلاثاء» بينما قال المتصل «الخميس»، فقد تكون الإجابة دقيقة تمامًا لكن لسؤال خاطئ. راجع التعرف على الكلام في المكالمات الهاتفية لتعرف كيف تنشأ أخطاء التعرف.
كيف يبدو ذلك عمليًا
قد تُخبر عيادة أسنان افتراضية وكيلها بساعات العمل والخدمات التي تقدمها. ثم يسأل متصل عمّا إذا كانت العيادة تقبل خطة تأمين معينة. ومن دون معلومات عن ذلك، قد يقول الوكيل المهمل نعم، لأن عيادات كثيرة تقبلها. فيحضر المتصل متوقعًا التغطية ويخيب ظنه. والحل ليس نموذجًا أذكى، بل تعليمات واضحة ومصدر يحدد ما ينبغي فعله حين تكون الإجابة مجهولة.
من الموضوعات الشائعة عالية الخطورة: الأسعار، والتوفر، والاستشارات القانونية أو الطبية، ووعود استرداد المبالغ، وأي شيء يبدو التزامًا. حدّد هذه كمجالات يُمنع فيها الوكيل من الارتجال.
لماذا يجعل الصوت الأمر أسوأ
إجابة روبوت الدردشة المكتوبة يمكن أن تحمل رابطًا أو تنويهًا أو قائمة مصادر ظاهرة. أما الكلام فلا يحمل أيًّا منها. والأصوات الاصطناعية أيضًا سلسة وثابتة، فيبدو التخمين تمامًا كالحقيقة؛ ولا يوجد تردد ينبّه المتصل. وكثيرًا ما يتصرف المتصلون فورًا بناءً على ما يسمعونه: يقودون إلى مكان ما، أو يلغون شيئًا، أو يدفعون مبلغًا.
لهذا ينبغي أن يميل تصميم الوكلاء الهاتفيين نحو التحفظ. فالإجابة الصادقة القصيرة التي تحيل إلى شخص تكلّف بضع ثوانٍ، أما الإجابة الخاطئة الواثقة فقد تكلّف عميلًا. وحين تقرّر مدى الصرامة، فكّر في أسوأ عاقبة معقولة لإجابة خاطئة في كل موضوع، واضبط القاعدة وفقًا لذلك: مرنة لساعات العمل، وصارمة لكل ما يتعلق بالمال أو الصحة أو الحقوق القانونية.
كيف تقلل الإجابات المختلقة
نهج متعدد الطبقات
- أسّس الوكيل على المصادرامنحه معلومات معتمدة واطلب منه الإجابة منها فقط.
- حدّد المجهولاكتب ما ينبغي أن يقوله حين لا يملك إجابة.
- قيّد الالتزاماتامنع الوعود التي لا يستطيع الوفاء بها، مثل الخصومات أو الحجوزات المؤكدة.
- وفّر مسارًاقدّم دائمًا شخصًا أو رسالة أو معاودة اتصال كخطوة تالية.
- اختبر وراجعجرّب أسئلة خارج المصادر واقرأ النصوص المفرغة الحقيقية.
أسّسه على مصادر معتمدة
الاسترجاع يعني البحث عن المقاطع ذات الصلة في مستنداتك لحظة طرح السؤال، وتقديم تلك المقاطع وحدها إلى النموذج. وهذا يُبقي الإجابات مرتبطة بنص كتبته أنت. ويشرح مقال الاسترجاع للوكلاء الصوتيين الفكرة، ويوضح مقال مصادر المعرفة في Call كيف تظهر في المنتج.
اكتب معلومات قصيرة وواضحة
معلومة واحدة في كل مدخل، مع ذكر الشرط، أنجح من كتيّب طويل. فبدلًا من «نعمل في عطلات نهاية الأسبوع»، اكتب «السبت من 9 إلى 13، والأحد مغلق». وإن كان للموضوع استثناءات، فاذكرها في المدخل نفسه.
استخدم إجابات دقيقة للأسئلة الأساسية
في الأسئلة التي تهم فيها الصياغة، مثل قواعد الإلغاء، أعطِ الوكيل الإجابة الدقيقة ليقرأها. في Call يمكنك إضافة سؤال والإجابة الدقيقة التي ينبغي أن يقدمها الوكيل، فلا يحتاج إلى إعادة الصياغة.
علّمه أن يقول «لا أعرف»
عبارة صادقة مثل «لا أستطيع تأكيد ذلك في هذه المكالمة، لكن يمكنني تدوين بياناتك ليعاود أحدهم التواصل معك» أفضل بكثير من التخمين. في Call، صُمّم الوكيل ليقول بوضوح إنه لا يستطيع تأكيد أمر ما حين لا يجد في تعليماته أو مصادره ما يجيب عن السؤال، وليعرض التحويل إلى شخص حيث يستطيع الخط تحويل المتصلين. كما أنه لا يختلق أبدًا أسعارًا أو ساعات أو تواريخ أو معلومات أخرى لا تذكرها تعليماتك ومصادرك، ولا تستطيع تعليماتك تعطيل هذه القواعد.
إجابات مؤسَّسة على المصادر مقابل إجابات غير مؤسَّسة
السؤال نفسه بإعدادين
| وكيل غير مؤسَّس | وكيل مؤسَّس | |
|---|---|---|
| مصدر الإجابة | معرفة عامة وتخمينات معقولة | معلوماتك المعتمدة فقط |
| حين تكون المعلومات ناقصة | يختلق شيئًا سلسًا | يصرّح بأنه لا يستطيع التأكيد، ويعرض خطوة تالية |
| الخطر على المتصل | قد يتصرف بناءً على تفاصيل خاطئة | يعرف ما هو غير مؤكد |
| الصيانة | سهل البدء، صعب الثقة | يحتاج إلى إبقاء المصادر محدّثة |
اختبر الهلوسة عمدًا
لا تنتظر عميلًا ليكتشف الثغرات. ابنِ مجموعة صغيرة من الأسئلة الفخّية وشغّلها كلما غيّرت التعليمات أو المصادر.
مجموعة اختبار للهلوسة
- اسأل عن خدمة لا تقدمها
- اسأل عن سعر غير موجود في المصادر
- اسأل عن استثناء في السياسة لم يدوّنه أحد
- اسأل عن تاريخ بعيد في المستقبل
- اطرح سؤالًا بصياغة مختلفة عن إجاباتك المكتوبة
- اسأل عن شيء يشبه موضوعًا مشمولًا
- تحقق من أن كل مجهول ينتهي بخطوة تالية آمنة
كرّر المجموعة بعد التغييرات، وأضف إليها كل إخفاق حقيقي تجده. وعملية الاختبار الأشمل موصوفة في اختبار وكيل الذكاء الاصطناعي الصوتي.
واصل المراقبة بعد الإطلاق
التحكم في الهلوسة ليس مهمة تُنجز مرة واحدة. فالمعلومات تتغير، وتظهر أسئلة جديدة، وتنحرف التعليمات مع تعديل الناس لها. ضع روتينًا: اقرأ عيّنة من النصوص المفرغة كل أسبوع، وابحث عن العبارات التي تدل على الشك، وحدّث المصادر. في Call يمكنك فتح المحادثة الكاملة لأي مكالمة، والبحث في كل النصوص المفرغة المحفوظة عن عبارة ما، ورؤية سجل التصحيحات التي أُجريت على كلام الوكيل. وتذكّر أن النصوص المفرغة تُحفظ لمدة محدودة، فراجعها دون تأخير.
تطبيق ذلك في Call
ابدأ بكتابة أكثر أسئلتك تكرارًا كأزواج دقيقة من الأسئلة والأجوبة، وأضف مصادر معلوماتية قصيرة لكل ما عداها، ولا تربط الوكيل بخط إلا بعد الاختبار. وإن أردت مساعدة في صياغة تعليمات تثبّط التخمين، فاقرأ كتابة التعليمات لوكيل هاتفي يعمل بنموذج لغوي كبير. أما الضوابط المصاحبة لهذا العمل فيتناولها مقال ضوابط وكلاء الذكاء الاصطناعي الصوتي.
الأسئلة الشائعة
ما هي هلوسة الذكاء الاصطناعي الصوتي؟
هي إجابة تبدو واثقة لكن معلوماتك لا تدعمها، كسعر أو سياسة مختلقين. وتحدث حين يملأ النموذج فجوة بدلًا من الاعتراف بأنه لا يعرف.
هل يمكن القضاء على الهلوسة تمامًا؟
لا تستطيع أي أداة أن تعد بذلك. يمكنك تقليلها كثيرًا بتقييد ما يقوله الوكيل، وإبقاء المصادر محدّثة، ومنحه بديلًا آمنًا، لكن عليك مواصلة الاختبار والمراجعة.
لماذا يجيب الوكيل عن سؤال لم أدرّبه عليه قط؟
النماذج اللغوية مبنية لإنتاج نصوص معقولة. ومن دون تعليمات واضحة بالبقاء ضمن مصادرك والتصريح حين لا يستطيع تأكيد أمر ما، قد يرتجل.
هل الكلمة المسموعة خطأً هي نفسها الهلوسة؟
ليس تمامًا. فالكلمة المسموعة خطأً خطأ في التعرف على الكلام، لكنها قد تؤدي إلى إجابة خاطئة تشبه الهلوسة. راجع النص المفرغ لتعرف أيهما حدث.
ما الموضوعات الأكثر خطورة؟
الأسعار، والتوفر، والاستشارات الطبية أو القانونية، واسترداد المبالغ، وأي وعد أو التزام. امنح الوكيل صياغة دقيقة أو مسار تحويل لهذه الموضوعات.
كم مرة ينبغي أن أراجع النصوص المفرغة؟
يوميًا أو كل بضعة أيام عند الإطلاق، ثم أسبوعيًا. وراجع بوتيرة أعلى بعد تغيير التعليمات أو المصادر.