Πώς αποτρέπετε τις επινοημένες απαντήσεις της φωνητικής AI
Γιατί οι φωνητικοί πράκτορες λένε κάποτε πράγματα που δεν ισχύουν και πώς το περιορίζετε: τεκμηριωμένες πηγές, ασφαλείς εναλλακτικές, ερωτήσεις-παγίδες, έλεγχος.
Ρωτήστε έναν φωνητικό πράκτορα για το ωράριό σας και θα απαντήσει με άνεση. Το πρόβλημα εμφανίζεται όταν απαντά με την ίδια άνεση για κάτι που δεν του είπε ποτέ κανείς. Αυτό εννοούν οι άνθρωποι με τον όρο ψευδαίσθηση (hallucination): μια απάντηση που ακούγεται σωστή αλλά δεν έχει καμία βάση στις πληροφορίες σας.

Σε μια τηλεφωνική γραμμή ο κίνδυνος είναι οξύτερος απ' ό,τι σε ένα παράθυρο chat. Ο καλών ακούει μία σίγουρη πρόταση, χωρίς σύνδεσμο, χωρίς πηγή και χωρίς εύκολο τρόπο να γυρίσει πίσω. Αυτός ο οδηγός εξηγεί γιατί εμφανίζονται οι ψευδαισθήσεις, πώς να τις μειώσετε και πώς να ελέγξετε ότι οι διορθώσεις σας λειτουργούν.
Τι είναι μια ψευδαίσθηση και γιατί συμβαίνει
Ένα γλωσσικό μοντέλο παράγει την πιο εύλογη συνέχεια μιας συνομιλίας. Έχει εκπαιδευτεί σε τεράστιες ποσότητες κειμένου και δεν έχει ενσωματωμένη αίσθηση του ποιες δηλώσεις ισχύουν για την επιχείρησή σας. Όταν η απάντηση λείπει από το prompt ή τις πηγές, το μοντέλο μπορεί να καλύψει το κενό με κάτι που φαίνεται λογικό.
Συνηθισμένες αιτίες σε έναν τηλεφωνικό πράκτορα
- Πληροφορίες που λείπουνΟ καλών ρωτά κάτι που δεν έχει καταγράψει κανείς, οπότε το μοντέλο αυτοσχεδιάζει.
- Ξεπερασμένες πληροφορίεςΜια παλιά τιμή ή ώρα λειτουργίας παραμένει σε μια πηγή.
- Ασαφείς πηγέςΔύο έγγραφα διαφωνούν και ο πράκτορας επιλέγει το ένα.
- Πίεση να φανεί χρήσιμοςΈνα prompt που λέει «απάντα πάντα» ενθαρρύνει τις εικασίες.
- Λάθη αναγνώρισης ομιλίαςΜια λέξη που ακούστηκε λάθος αλλάζει την ερώτηση, οπότε ο πράκτορας απαντά σε άλλη.
Η τελευταία αιτία παραβλέπεται εύκολα. Αν η απομαγνητοφώνηση γράφει Τρίτη ενώ ο καλών είπε Πέμπτη, η απάντηση μπορεί να είναι απολύτως ακριβής για τη λάθος ερώτηση. Δείτε Αναγνώριση ομιλίας σε τηλεφωνικές κλήσεις για το πώς προκύπτουν τα λάθη αναγνώρισης.
Πώς φαίνεται στην πράξη
Ένα υποθετικό οδοντιατρείο μπορεί να ενημερώσει τον πράκτορά του για το ωράριο και τις υπηρεσίες που προσφέρει. Ένας καλών ρωτά αν το ιατρείο δέχεται ένα συγκεκριμένο ασφαλιστικό πρόγραμμα. Χωρίς πληροφορίες γι' αυτό, ένας απρόσεκτος πράκτορας μπορεί να πει ναι, επειδή πολλά ιατρεία το κάνουν. Ο καλών εμφανίζεται περιμένοντας κάλυψη και απογοητεύεται. Η λύση δεν είναι ένα εξυπνότερο μοντέλο αλλά μια σαφής οδηγία και μια πηγή που λέει τι γίνεται όταν η απάντηση είναι άγνωστη.
Συνηθισμένα θέματα υψηλού κινδύνου είναι οι τιμές, η διαθεσιμότητα, οι νομικές ή ιατρικές συμβουλές, οι υποσχέσεις επιστροφής χρημάτων και οτιδήποτε ακούγεται σαν δέσμευση. Χαρακτηρίστε τα ως πεδία όπου ο πράκτορας δεν πρέπει να αυτοσχεδιάζει.
Γιατί η φωνή το επιδεινώνει
Μια γραπτή απάντηση chatbot μπορεί να περιέχει σύνδεσμο, αποποίηση ευθύνης ή ορατή λίστα πηγών. Η ομιλία δεν έχει τίποτα από αυτά. Οι συνθετικές φωνές είναι επίσης ομαλές και σταθερές, οπότε μια εικασία ακούγεται ακριβώς όπως ένα γεγονός· δεν υπάρχει δισταγμός που να προειδοποιεί τον καλούντα. Οι καλούντες συχνά ενεργούν αμέσως με βάση όσα ακούνε: οδηγούν κάπου, ακυρώνουν κάτι ή πληρώνουν κάτι.
Γι' αυτό η σχεδιαστική τάση στους τηλεφωνικούς πράκτορες πρέπει να γέρνει προς τη συγκράτηση. Μια σύντομη ειλικρινής απάντηση που παραπέμπει σε άνθρωπο κοστίζει λίγα δευτερόλεπτα. Μια σίγουρη λάθος απάντηση μπορεί να κοστίσει έναν πελάτη. Όταν αποφασίζετε πόσο αυστηροί θα είστε, σκεφτείτε τη χειρότερη εύλογη συνέπεια μιας λάθος απάντησης σε κάθε θέμα και ορίστε τον κανόνα ανάλογα: χαλαρός για το ωράριο, αυστηρός για οτιδήποτε αφορά χρήματα, υγεία ή νομικά δικαιώματα.
Πώς μειώνετε τις επινοημένες απαντήσεις
Μια πολυεπίπεδη προσέγγιση
- Τεκμηριώστε τον πράκτοραΔώστε του εγκεκριμένα στοιχεία και πείτε του να απαντά μόνο από αυτά.
- Ορίστε το άγνωστοΓράψτε τι πρέπει να λέει όταν δεν έχει απάντηση.
- Περιορίστε τις δεσμεύσειςΑπαγορέψτε υποσχέσεις που δεν μπορεί να τηρήσει, όπως εκπτώσεις ή επιβεβαιωμένες κρατήσεις.
- Προσφέρετε μια διαδρομήΔίνετε πάντα ως επόμενο βήμα έναν άνθρωπο, ένα μήνυμα ή μια επανάκληση.
- Δοκιμάστε και ελέγξτεΔοκιμάστε ερωτήσεις εκτός πηγών και διαβάστε πραγματικές απομαγνητοφωνήσεις.
Τεκμηρίωση σε εγκεκριμένες πηγές
Ανάκτηση (retrieval) σημαίνει αναζήτηση σχετικών αποσπασμάτων από τα έγγραφά σας τη στιγμή της ερώτησης και παράδοση μόνο αυτών στο μοντέλο. Κρατά τις απαντήσεις δεμένες με κείμενο που γράψατε εσείς. Το άρθρο Ανάκτηση πληροφοριών για φωνητικούς πράκτορες εξηγεί την ιδέα, και το Πηγές γνώσης στο Call δείχνει πώς εμφανίζεται στο προϊόν.
Γράψτε σύντομα, σαφή στοιχεία
Ένα στοιχείο ανά καταχώριση, μαζί με την προϋπόθεσή του, λειτουργεί καλύτερα από ένα μακρύ φυλλάδιο. Αντί για «Είμαστε ανοιχτά τα σαββατοκύριακα», γράψτε «Σάββατο 9 έως 13, Κυριακή κλειστά». Αν ένα θέμα έχει εξαιρέσεις, αναφέρετέ τες στην ίδια καταχώριση.
Ακριβείς απαντήσεις για τις βασικές ερωτήσεις
Για ερωτήσεις όπου η διατύπωση έχει σημασία, όπως οι κανόνες ακύρωσης, δώστε στον πράκτορα την ακριβή απάντηση που πρέπει να εκφωνήσει. Στο Call μπορείτε να προσθέσετε μια ερώτηση και την ακριβή απάντηση που πρέπει να δώσει ο πράκτορας, ώστε να μη χρειάζεται να παραφράζει.
Μάθετέ του να λέει «δεν ξέρω»
Ένα ειλικρινές «Δεν μπορώ να το επιβεβαιώσω σε αυτή την κλήση, αλλά μπορώ να κρατήσω τα στοιχεία σας και να σας καλέσει κάποιος» είναι πολύ καλύτερο από μια εικασία. Στο Call, ο πράκτορας είναι σχεδιασμένος να λέει καθαρά ότι δεν μπορεί να επιβεβαιώσει κάτι όταν τίποτα στις οδηγίες ή στις πηγές του δεν απαντά στην ερώτηση, και να προτείνει άνθρωπο όπου η γραμμή μπορεί να συνδέσει τους καλούντες. Επίσης δεν επινοεί ποτέ τιμές, ωράρια, ημερομηνίες ή άλλα στοιχεία που δεν αναφέρουν οι οδηγίες και οι πηγές σας, και οι οδηγίες σας δεν μπορούν να απενεργοποιήσουν αυτούς τους κανόνες.
Τεκμηριωμένες και μη τεκμηριωμένες απαντήσεις
Ίδια ερώτηση, δύο διαμορφώσεις
| Μη τεκμηριωμένος πράκτορας | Τεκμηριωμένος πράκτορας | |
|---|---|---|
| Πηγή της απάντησης | Γενικές γνώσεις και εύλογες εικασίες | Μόνο τα εγκεκριμένα στοιχεία σας |
| Όταν λείπει πληροφορία | Επινοεί κάτι με άνεση | Δηλώνει ότι δεν μπορεί να επιβεβαιώσει και προτείνει επόμενο βήμα |
| Κίνδυνος για τον καλούντα | Μπορεί να ενεργήσει με λάθος στοιχεία | Ξέρει τι είναι αβέβαιο |
| Συντήρηση | Εύκολο να ξεκινήσει, δύσκολο να το εμπιστευτείς | Χρειάζεται ενημερωμένες πηγές |
Δοκιμάστε σκόπιμα για ψευδαισθήσεις
Μην περιμένετε να βρει τα κενά ένας πελάτης. Φτιάξτε ένα μικρό σύνολο ερωτήσεων-παγίδων και τρέξτε το κάθε φορά που αλλάζετε το prompt ή τις πηγές.
Ένα σύνολο δοκιμών για ψευδαισθήσεις
- Ρωτήστε για μια υπηρεσία που δεν προσφέρετε
- Ζητήστε μια τιμή που δεν υπάρχει στις πηγές
- Ρωτήστε για μια εξαίρεση πολιτικής που δεν έχει καταγράψει κανείς
- Ζητήστε μια ημερομηνία πολύ μακριά στο μέλλον
- Κάντε μια ερώτηση με διαφορετική διατύπωση από τις γραπτές σας απαντήσεις
- Ρωτήστε κάτι που μοιάζει με καλυμμένο θέμα
- Ελέγξτε ότι κάθε άγνωστο καταλήγει σε ένα ασφαλές επόμενο βήμα
Επαναλάβετε το σύνολο μετά από αλλαγές και προσθέστε σε αυτό κάθε πραγματική αποτυχία που βρίσκετε. Η ευρύτερη διαδικασία δοκιμών περιγράφεται στο Δοκιμή ενός φωνητικού πράκτορα AI.
Συνεχίστε την παρακολούθηση μετά την έναρξη
Ο έλεγχος των ψευδαισθήσεων δεν είναι εφάπαξ εργασία. Οι πληροφορίες αλλάζουν, εμφανίζονται νέες ερωτήσεις και τα prompt αποκλίνουν καθώς τα επεξεργάζονται άνθρωποι. Ορίστε μια ρουτίνα: διαβάζετε κάθε εβδομάδα ένα δείγμα απομαγνητοφωνήσεων, αναζητάτε φράσεις που δείχνουν αμφιβολία και ενημερώνετε τις πηγές. Στο Call, μπορείτε να ανοίξετε ολόκληρη τη συνομιλία οποιασδήποτε κλήσης, να αναζητήσετε μια φράση σε όλες τις αποθηκευμένες απομαγνητοφωνήσεις και να δείτε το ιστορικό διορθώσεων στις διατυπώσεις του πράκτορα. Θυμηθείτε ότι οι απομαγνητοφωνήσεις διατηρούνται για περιορισμένο χρόνο, οπότε ελέγχετέ τες έγκαιρα.
Εφαρμογή στο Call
Ξεκινήστε γράφοντας τις συχνότερες ερωτήσεις σας ως ακριβή ζεύγη ερωτήσεων και απαντήσεων, προσθέστε σύντομες πραγματολογικές πηγές για όλα τα υπόλοιπα και συνδέστε τον πράκτορα με μια γραμμή μόνο μετά από δοκιμές. Αν θέλετε βοήθεια στη σύνταξη prompt που αποθαρρύνουν τις εικασίες, διαβάστε Σύνταξη prompt για τηλεφωνικό πράκτορα LLM. Τα όρια ασφαλείας που συνοδεύουν αυτή τη δουλειά εξετάζονται στο Όρια ασφαλείας για φωνητικούς πράκτορες AI.
Συχνές ερωτήσεις
Τι είναι μια ψευδαίσθηση φωνητικής AI;
Είναι μια απάντηση που ακούγεται σίγουρη αλλά δεν στηρίζεται στις πληροφορίες σας, για παράδειγμα μια επινοημένη τιμή ή πολιτική. Συμβαίνει όταν το μοντέλο καλύπτει ένα κενό αντί να παραδεχτεί ότι δεν γνωρίζει.
Μπορούν οι ψευδαισθήσεις να εξαλειφθούν εντελώς;
Κανένα εργαλείο δεν μπορεί να το υποσχεθεί. Μπορείτε να τις μειώσετε πολύ περιορίζοντας τι μπορεί να λέει ο πράκτορας, κρατώντας τις πηγές ενημερωμένες και δίνοντάς του μια ασφαλή εναλλακτική, αλλά πρέπει να συνεχίζετε τις δοκιμές και τους ελέγχους.
Γιατί ο πράκτορας απαντά σε μια ερώτηση για την οποία δεν τον εκπαίδευσα ποτέ;
Τα γλωσσικά μοντέλα είναι φτιαγμένα για να παράγουν εύλογο κείμενο. Χωρίς σαφή οδηγία να μένει στις πηγές σας και να λέει πότε δεν μπορεί να επιβεβαιώσει κάτι, μπορεί να αυτοσχεδιάσει.
Είναι μια λέξη που ακούστηκε λάθος το ίδιο με μια ψευδαίσθηση;
Όχι ακριβώς. Μια λέξη που ακούστηκε λάθος είναι σφάλμα αναγνώρισης, αλλά μπορεί να οδηγήσει σε λάθος απάντηση που μοιάζει με ψευδαίσθηση. Ελέγξτε την απομαγνητοφώνηση για να δείτε τι από τα δύο συνέβη.
Ποια θέματα είναι τα πιο επικίνδυνα;
Τιμές, διαθεσιμότητα, ιατρικές ή νομικές συμβουλές, επιστροφές χρημάτων και κάθε υπόσχεση ή δέσμευση. Δώστε στον πράκτορα ακριβή διατύπωση ή μεταβίβαση για αυτά.
Πόσο συχνά πρέπει να ελέγχω τις απομαγνητοφωνήσεις;
Καθημερινά ή κάθε λίγες μέρες στην έναρξη, και μετά εβδομαδιαία. Ελέγχετε συχνότερα μετά από αλλαγές στο prompt ή στις πηγές.