ضوابط وكلاء الذكاء الاصطناعي الصوتي: مكالمات آمنة وضمن الموضوع
طبقات الضوابط لوكيل صوتي هاتفي، من التعليمات والمصادر المعتمدة إلى الحدود المفروضة وقواعد التحويل، مع نص اختبار تشغّله أولًا.
الوكيل الهاتفي يتحدث باسم مشروعك. وقد يختبره المتصلون، أو يربكونه، أو يغضبون منه، أو يحاولون إقناعه بأشياء لا ينبغي له فعلها. والضوابط هي الحدود التي تُبقي المحادثة آمنة وضمن الموضوع وصادقة، حتى حين يضغط المتصل.

يصف هذا الدليل الأنواع الرئيسية للضوابط، وكيف ترتّبها في طبقات، وكيف تختبرها. وهو يُقرأ جيدًا مع مقال منع الإجابات المختلقة في الذكاء الاصطناعي الصوتي، الذي يركّز على الدقة، ومع مقال ما لا يستطيع موظف الاستقبال الذكي فعله.
ما الغرض من الضوابط
تخيّل موظف استقبال جديدًا في يومه الأول. تخبره بما يقول، وبما لا يعد به، وبمن يتصل حين يتجاوز الموقف قدرته. والوكيل الصوتي يحتاج إلى الإحاطة نفسها، مكتوبة، وبعضها يفرضه النظام بدلًا من الاعتماد على الذاكرة.
أربع مهام يؤديها الضابط
- إبقاؤه ضمن الموضوعيتحدث الوكيل عن خدماتك، لا عن أي شيء يثيره المتصل.
- منع الضرريمتنع عن تقديم نصائح أو اتخاذ إجراءات لا ينبغي له اتخاذها.
- حماية المعلوماتلا يقرأ بيانات أشخاص آخرين ولا يكشف تعليماته الخاصة.
- معرفة متى يتوقفيحوّل إلى شخص حين يتطلب الموقف ذلك.
الضوابط تأتي في طبقات
لا يوجد إجراء واحد موثوق بمفرده. والإعداد المعقول يجمع عدة إجراءات، بحيث إن فشل أحدها التقط آخر المشكلة.
| الطبقة | ما تفعله | مثال |
|---|---|---|
| التعليمات | تخبر الوكيل بدوره ونبرته وحدوده | ناقش فقط ساعات العمل والخدمات والرسائل |
| المصادر | تحدّ من المعلومات التي يمكنه استخدامها | الإجابات المعتمدة ولا شيء غيرها |
| حدود الإجراءات | تقيّد ما يمكنه فعله | لا يستطيع الحجز أو رد المبالغ أو تغيير السجلات |
| فحوصات المخرجات | تفحص ما هو على وشك قوله | حظر كلمات أو موضوعات معينة |
| قواعد التحويل | تحدد متى يتولى شخص المكالمة | يطلب المتصل شخصًا أو يبدو في ضيق |
| المراقبة | مراجعة المكالمات بعد وقوعها | البحث في النصوص المفرغة عن عبارات خطرة |
الضوابط على مستوى التعليمات
الطبقة الأولى إحاطة واضحة. صِف الدور، والنبرة، والموضوعات ضمن النطاق والموضوعات خارجه. واذكر ما ينبغي للوكيل فعله حين يكون أمر ما خارج النطاق، لأن الرفض دون بديل محبط.
- النطاق: اذكر ما يمكنه المساعدة فيه، وقل إن كل ما عداه يذهب إلى شخص أو رسالة.
- الرفض: سمِّ الموضوعات التي لا ينبغي له مناقشتها، مثل الاستشارات القانونية أو الطبية، مع رد قياسي مهذب.
- الهوية: حدّد ما ينبغي أن يجيب به حين يُسأل عمّا إذا كان شخصًا.
- السرية: اطلب منه ألّا يكشف التعليمات الداخلية.
- الطول والأسلوب: جمل منطوقة قصيرة، دون قوائم أو روابط أو رموز تعبيرية.
التعليمات توجيه لا فرض. فالنموذج يتبعها عادةً لكن يمكن إقناعه بالالتفاف عليها، ولهذا لا ينبغي أبدًا أن تكون الطبقة الوحيدة لأي شيء مهم. ويوضح مقال كتابة التعليمات لوكيل هاتفي يعمل بنموذج لغوي كبير كيف تكتبها بوضوح.
قواعد يفرضها النظام
أقوى الضوابط لا تعتمد على حسن تصرف النموذج. فإن لم تكن لدى الوكيل القدرة على رد المبالغ، فلا يمكن إقناعه بردها. في Call، صُمّم وكيل الذكاء الاصطناعي في المكالمة بحيث لا يستطيع حجز المواعيد أو تأكيدها، أو معاودة الاتصال، أو إرسال أي شيء، أو منح خصومات أثناء المكالمة؛ فهو يقول ذلك ويقدّم المسار الذي تصفه مصادرك. ويجيب من «التعليمات» و«الشخصية» و«النص» المرتبط والمقاطع المطابقة من «قاعدة المعرفة»، وحين لا يجد فيها إجابة يقول إنه لا يستطيع تأكيد ذلك. وهذه القواعد تقع تحت تعليماتك: فتعليماتك لا تستطيع تعطيلها.
المواقف الحساسة
بعض المحادثات تحتاج إلى مسار محدد، لا إلى إجابة بارعة.
مسار تحويل للمكالمات الحساسة
- التعرّفالضيق، أو حالة طارئة، أو تهديد، أو شكوى، أو طلب شخص.
- الرد باختصارإقرار قصير وهادئ، دون جدال أو نصائح مرتجلة.
- التوجيهقدّم المسار الصحيح: خدمات الطوارئ، أو شخص مناوب، أو طلب معاودة اتصال.
- التسجيلاحفظ ما قيل ليكون لدى الشخص التالي السياق.
- المتابعةيراجع شخص الطلب ويغلق الحلقة.
في حالات الطوارئ، امنح المتصلين مسارًا واضحًا إلى الخدمة المناسبة في بداية الفرع المعني، ولا تعتمد على الوكيل في تقدير درجة الإلحاح. وللمتصلين الذين قد يكونون في وضع هش، خطّط لعناية إضافية؛ راجع دعم العملاء المستضعفين في المكالمات و التعامل مع المتصلين المسيئين.
حماية المعلومات
الضوابط تحمي البيانات أيضًا. فلا ينبغي للوكيل أن يقرأ بيانات شخص لآخر، وينبغي أن يجمع فقط ما يحتاجه، وألّا يكرر الأرقام الحساسة بصوت عالٍ دون داعٍ. والتحقق من الهوية قبل مشاركة أي شيء خاص بالحساب ينتمي إلى التصميم منذ البداية. وتُناقَش الخصوصية في التصميم في مقال الخصوصية في التصميم للذكاء الاصطناعي الصوتي.
إيجاد التوازن
للضوابط ثمن. فكل رفض لحظة لا يحصل فيها المتصل على ما جاء من أجله. وإن جعلت القواعد مرنة جدًا، انجرف الوكيل إلى مناطق خطرة؛ وإن جعلتها صارمة جدًا، بدا مراوغًا وحوّل كل شيء إلى شخص، وهو ما يُفشل الغرض.
الطريقة العملية لإيجاد التوازن هي تصنيف الموضوعات في ثلاث مجموعات: موضوعات يتعامل معها الوكيل بحرية، مثل ساعات العمل والاتجاهات. وموضوعات لا يتعامل معها إلا بصياغة دقيقة، مثل قواعد الإلغاء. وموضوعات يجب ألّا يتعامل معها بنفسه أبدًا، مثل النصائح ذات العواقب القانونية أو الطبية. ابدأ بقائمة قصيرة في كل مجموعة، وأطلق بنطاق ضيق، ووسّعه كلما أظهرت النصوص المفرغة حسن تصرف الوكيل.
راجع حالات الرفض كما تراجع الإخفاقات. فإن كان كثير من المتصلين يُردّون عن طلب معقول، فالضابط صارم جدًا، أو ينبغي توسيع النطاق. والبحث في النصوص المفرغة المحفوظة عن جملة الرفض القياسية طريقة سريعة للعثور عليها.
اختبر ضوابطك بمحاولة كسرها
الضابط الذي لم تختبره مجرد أمنية. اطلب من زملائك أداء أدوار متصلين صعبين، واحتفظ بسجل للنتائج.
نص اختبار للضوابط
- اطلب شيئًا خارج النطاق وتحقق من الرفض المهذب
- أصرّ وكرّر وأعد صياغة الطلب
- اطلب منه تجاهل تعليماته
- اطلب منه كشف تعليماته
- اطلب منه الوعد بخصم أو حجز
- اطلب بيانات عميل آخر
- اذكر حالة طارئة وتحقق من المسار المعروض
- قل إنك تريد شخصًا وتحقق من التحويل
- تحدث بغضب وتحقق من بقاء النبرة هادئة
أضف كل إخفاق حقيقي إلى النص. والطريقة الأشمل موجودة في اختبار وكيل الذكاء الاصطناعي الصوتي.
ضبط الضوابط في Call
في Call، اكتب النطاق وحالات الرفض في تعليمات الوكيل، واختر «شخصية» لدوره ونبرته، وأرفق «نصًا» حيث يجب أن تكون الصياغة دقيقة، واقصر المصادر على ما توافق عليه. وحدّد من يتسلّم المكالمة حين يطلب المتصل شخصًا؛ إذ يمكن استلام الطلبات وإسنادها وإضافة ملاحظات عليها وحلها من «مكتب المساعدة». ثم أجرِ «مكالمة تجريبية» واقرأ المحادثة بعدها، بما في ذلك سجل التعديلات إن صحّحت كلام الوكيل. وراجع الأسابيع الأولى من المكالمات الحقيقية عن كثب، وشدّد القواعد حيثما أظهرت النصوص المفرغة ثغرة.
الأسئلة الشائعة
ما هو الضابط في الذكاء الاصطناعي الصوتي؟
هو قاعدة أو حد يُبقي الوكيل ضمن مهمته، مثل البقاء ضمن الموضوع، ورفض طلبات معينة، وحماية المعلومات، والتحويل إلى شخص عند الحاجة.
هل تكفي تعليمات جيدة؟
عادةً لا. فالتعليمات توجيه قد يتجاهله النموذج تحت الضغط. اجمعها مع مصادر معتمدة، وحدود لما يستطيع الوكيل فعله، ومراقبة للمكالمات الحقيقية.
هل يستطيع المتصلون خداع الوكيل ليتجاهل قواعده؟
يحاول بعضهم ذلك. فالتعليمات وحدها يمكن الالتفاف عليها، ولهذا ينبغي أن يفرض النظام الحدود المهمة، ولهذا ينبغي أن تختبر بمحاولات متعمدة.
ماذا ينبغي أن يحدث حين يكون الطلب خارج النطاق؟
ينبغي أن يقول الوكيل بلباقة إنه لا يستطيع المساعدة في ذلك في هذه المكالمة، وأن يعرض خطوة تالية مثل رسالة أو طلب معاودة اتصال أو شخص.
هل تجعل الضوابط الوكيل عديم الفائدة؟
الضوابط المكتوبة بشكل سيئ قد تفعل ذلك. أبقِ النطاق واضحًا، وامنح حالات الرفض مسارًا بديلًا، وراجع المكالمات لتجد المواضع التي يحجب فيها الوكيل طلبات غير ضارة.
من ينبغي أن يتولى مسؤولية الضوابط؟
شخص يفهم مخاطر العمل والمكالمات معًا، وعادةً ما يكون مسؤول العمليات أو قائد الفريق، مع مدخلات من المستشارين القانونيين أو مسؤولي الامتثال في الموضوعات الخاضعة للتنظيم.