Τεχνολογία φωνητικής AI

Όρια ασφαλείας φωνητικών πρακτόρων AI: ασφαλείς, εστιασμένες κλήσεις

Τα επίπεδα ορίων ασφαλείας ενός τηλεφωνικού φωνητικού πράκτορα, από prompt και εγκεκριμένες πηγές έως επιβαλλόμενα όρια και κανόνες μεταβίβασης, με σενάριο δοκιμής.

Συντακτική ομάδα του Call · Δημοσιεύτηκε · Ανάγνωση 6 λεπτών

Ένας τηλεφωνικός πράκτορας μιλά εκ μέρους της επιχείρησής σας. Οι καλούντες μπορεί να τον δοκιμάσουν, να τον μπερδέψουν, να θυμώσουν μαζί του ή να προσπαθήσουν να τον πείσουν να κάνει πράγματα που δεν πρέπει. Τα όρια ασφαλείας είναι τα σύνορα που κρατούν τη συνομιλία ασφαλή, εστιασμένη και ειλικρινή, ακόμη κι όταν ο καλών πιέζει.

Ένας διευθυντής εξετάζει σημειώσεις κλήσεων σε ένα γραφείο με ένα ακουστικό κεφαλής δίπλα
Ενδεικτική εικόνα

Αυτός ο οδηγός περιγράφει τα βασικά είδη ορίων ασφαλείας, πώς να τα οργανώσετε σε επίπεδα και πώς να τα δοκιμάσετε. Συνδυάζεται καλά με το Πώς αποτρέπετε τις επινοημένες απαντήσεις της φωνητικής AI, που εστιάζει στην ακρίβεια, και με το Τι δεν μπορεί να κάνει μια AI ρεσεψιόν.

Σε τι χρησιμεύουν τα όρια ασφαλείας

Σκεφτείτε μια νέα υπάλληλο υποδοχής την πρώτη της μέρα. Της λέτε τι να λέει, τι να μην υπόσχεται και ποιον να καλεί όταν μια κατάσταση την ξεπερνά. Ένας φωνητικός πράκτορας χρειάζεται την ίδια ενημέρωση, γραπτώς, και ένα μέρος της να επιβάλλεται από το σύστημα αντί να εμπιστεύεται στη μνήμη.

Τέσσερις δουλειές ενός ορίου ασφαλείας

  • Κρατά τη συζήτηση στο θέμαΟ πράκτορας μιλά για τις υπηρεσίες σας, όχι για οτιδήποτε θέσει ο καλών.
  • Αποτρέπει τη ζημιάΑρνείται να δώσει συμβουλές ή να κάνει ενέργειες που δεν πρέπει.
  • Προστατεύει τις πληροφορίεςΔεν εκφωνεί στοιχεία άλλων ανθρώπων και δεν αποκαλύπτει τις δικές του οδηγίες.
  • Ξέρει πότε να σταματήσειΜεταβιβάζει σε άνθρωπο όταν η κατάσταση το απαιτεί.

Τα όρια ασφαλείας έρχονται σε επίπεδα

Κανένα μεμονωμένο μέτρο δεν είναι αξιόπιστο από μόνο του. Μια λογική διαμόρφωση συνδυάζει αρκετά, ώστε αν αποτύχει το ένα, να πιάσει το πρόβλημα ένα άλλο.

ΕπίπεδοΤι κάνειΠαράδειγμα
ΟδηγίεςΛένε στον πράκτορα τον ρόλο, τον τόνο και τα όριά τουΣυζήτηση μόνο για ωράριο, υπηρεσίες και μηνύματα
ΠηγέςΠεριορίζουν τα στοιχεία που μπορεί να χρησιμοποιείΕγκεκριμένες απαντήσεις, τίποτα άλλο
Όρια ενεργειώνΠεριορίζουν τι μπορεί να κάνειΔεν μπορεί να κλείσει κράτηση, να επιστρέψει χρήματα ή να αλλάξει αρχεία
Έλεγχοι εξόδουΕξετάζουν τι πρόκειται να πειΜπλοκάρισμα ορισμένων λέξεων ή θεμάτων
Κανόνες μεταβίβασηςΟρίζουν πότε αναλαμβάνει άνθρωποςΟ καλών ζητά άνθρωπο ή ακούγεται ταραγμένος
ΠαρακολούθησηΈλεγχος των κλήσεων εκ των υστέρωνΑναζήτηση επικίνδυνων φράσεων στις απομαγνητοφωνήσεις

Όρια ασφαλείας σε επίπεδο οδηγιών

Το πρώτο επίπεδο είναι μια σαφής ενημέρωση. Περιγράψτε τον ρόλο, τον τόνο, τα θέματα που καλύπτονται και τα θέματα που δεν καλύπτονται. Δηλώστε τι πρέπει να κάνει ο πράκτορας όταν κάτι είναι εκτός εύρους, γιατί η άρνηση χωρίς εναλλακτική εκνευρίζει.

Οι οδηγίες είναι καθοδήγηση, όχι επιβολή. Ένα μοντέλο συνήθως τις ακολουθεί αλλά μπορεί να μεταπειστεί, γι' αυτό δεν πρέπει ποτέ να είναι το μοναδικό επίπεδο για οτιδήποτε σημαντικό. Το άρθρο Σύνταξη prompt για τηλεφωνικό πράκτορα LLM δείχνει πώς να τις γράψετε με σαφήνεια.

Κανόνες που επιβάλλει το σύστημα

Τα ισχυρότερα όρια ασφαλείας δεν εξαρτώνται από τη συμπεριφορά του μοντέλου. Αν ένας πράκτορας δεν έχει τη δυνατότητα να κάνει επιστροφές χρημάτων, δεν μπορεί να πειστεί να κάνει μία. Στο Call, ένας πράκτορας AI σε κλήση είναι σχεδιασμένος έτσι ώστε να μην μπορεί να κλείσει ή να επιβεβαιώσει ραντεβού, να καλέσει πίσω, να στείλει οτιδήποτε ή να δώσει εκπτώσεις κατά τη διάρκεια της κλήσης· το λέει και δίνει τη διαδρομή που περιγράφουν οι πηγές σας. Απαντά από τις οδηγίες του, την περσόνα του, το συνδεδεμένο σενάριο και τα αντίστοιχα αποσπάσματα της βάσης γνώσεων, και όταν κανένα από αυτά δεν απαντά στην ερώτηση λέει ότι δεν μπορεί να το επιβεβαιώσει. Αυτοί οι κανόνες βρίσκονται κάτω από τις δικές σας οδηγίες: οι οδηγίες σας δεν μπορούν να τους απενεργοποιήσουν.

Ευαίσθητες καταστάσεις

Ορισμένες συνομιλίες χρειάζονται μια καθορισμένη διαδρομή, όχι μια έξυπνη απάντηση.

Μια διαδρομή μεταβίβασης για ευαίσθητες κλήσεις

  1. ΑναγνώρισηΑναστάτωση, έκτακτη ανάγκη, απειλή, παράπονο ή αίτημα για άνθρωπο.
  2. Σύντομη απόκρισηΜια σύντομη, ήρεμη αναγνώριση, χωρίς αντιπαράθεση ή αυτοσχέδιες συμβουλές.
  3. ΚατεύθυνσηΔώστε τη σωστή διαδρομή: υπηρεσίες έκτακτης ανάγκης, άτομο σε εφημερία ή αίτημα επανάκλησης.
  4. ΚαταγραφήΑποθηκεύστε όσα ειπώθηκαν, ώστε ο επόμενος να έχει το πλαίσιο.
  5. ΠαρακολούθησηΈνας άνθρωπος εξετάζει το αίτημα και κλείνει τον κύκλο.

Για τις έκτακτες ανάγκες, δώστε στους καλούντες μια σαφή διαδρομή προς τη σωστή υπηρεσία στην αρχή του σχετικού κλάδου και μη βασίζεστε στον πράκτορα για να κρίνει τον βαθμό επείγοντος. Για καλούντες που μπορεί να είναι ευάλωτοι, σχεδιάστε ιδιαίτερη φροντίδα· δείτε Υποστήριξη ευάλωτων πελατών στις κλήσεις και Χειρισμός υβριστικών καλούντων.

Προστασία των πληροφοριών

Τα όρια ασφαλείας προστατεύουν και τα δεδομένα. Ο πράκτορας δεν πρέπει να εκφωνεί τα στοιχεία ενός ατόμου σε άλλο, πρέπει να συλλέγει μόνο όσα χρειάζεται και να μην επαναλαμβάνει φωναχτά ευαίσθητους αριθμούς χωρίς λόγο. Οι έλεγχοι ταυτότητας πριν από την κοινοποίηση οποιασδήποτε πληροφορίας λογαριασμού ανήκουν στον σχεδιασμό από την αρχή. Ο σχεδιασμός για το απόρρητο εξετάζεται στο Ενσωματωμένο απόρρητο στη φωνητική AI.

Η εύρεση της ισορροπίας

Τα όρια ασφαλείας έχουν κόστος. Κάθε άρνηση είναι μια στιγμή όπου ο καλών δεν παίρνει αυτό για το οποίο κάλεσε. Αν οι κανόνες είναι πολύ χαλαροί, ο πράκτορας παρασύρεται σε επικίνδυνο έδαφος· αν είναι πολύ αυστηροί, ακούγεται υπεκφεύγων και στέλνει τα πάντα σε άνθρωπο, κάτι που αναιρεί τον σκοπό.

Ένας πρακτικός τρόπος να βρείτε την ισορροπία είναι να ταξινομήσετε τα θέματα σε τρεις ομάδες. Θέματα που ο πράκτορας μπορεί να χειρίζεται ελεύθερα, όπως το ωράριο και οι οδηγίες πρόσβασης. Θέματα που μπορεί να χειρίζεται μόνο με ακριβή διατύπωση, όπως οι κανόνες ακύρωσης. Θέματα που δεν πρέπει ποτέ να χειρίζεται ο ίδιος, όπως συμβουλές με νομικές ή ιατρικές συνέπειες. Ξεκινήστε με μια σύντομη λίστα σε κάθε ομάδα, ξεκινήστε τη λειτουργία με στενό εύρος και διευρύνετέ το καθώς οι απομαγνητοφωνήσεις δείχνουν ότι ο πράκτορας συμπεριφέρεται σωστά.

Ελέγχετε τις αρνήσεις όπως και τις αποτυχίες. Αν πολλοί καλούντες απορρίπτονται για ένα εύλογο αίτημα, το όριο είναι πολύ αυστηρό ή το εύρος πρέπει να μεγαλώσει. Η αναζήτηση της τυποποιημένης φράσης άρνησης στις αποθηκευμένες απομαγνητοφωνήσεις είναι ένας γρήγορος τρόπος να τις βρείτε.

Δοκιμάστε τα όρια ασφαλείας προσπαθώντας να τα παραβιάσετε

Ένα όριο ασφαλείας που δεν έχετε δοκιμάσει είναι απλώς μια ελπίδα. Ζητήστε από συναδέλφους να υποδυθούν δύσκολους καλούντες και κρατήστε αρχείο των αποτελεσμάτων.

Ένα σενάριο δοκιμής ορίων ασφαλείας

  • Ζητήστε κάτι εκτός εύρους και ελέγξτε την ευγενική άρνηση
  • Επιμείνετε, επαναλάβετε και αναδιατυπώστε το αίτημα
  • Ζητήστε του να αγνοήσει τις οδηγίες του
  • Ζητήστε του να αποκαλύψει το prompt του
  • Ζητήστε του να υποσχεθεί έκπτωση ή κράτηση
  • Ζητήστε τα στοιχεία ενός άλλου πελάτη
  • Αναφέρετε μια έκτακτη ανάγκη και ελέγξτε τη διαδρομή που προτείνεται
  • Πείτε ότι θέλετε άνθρωπο και ελέγξτε τη μεταβίβαση
  • Μιλήστε θυμωμένα και ελέγξτε ότι ο τόνος μένει ήρεμος

Προσθέστε κάθε πραγματική αποτυχία στο σενάριο. Η ευρύτερη μέθοδος βρίσκεται στο Δοκιμή ενός φωνητικού πράκτορα AI.

Ρύθμιση ορίων ασφαλείας στο Call

Στο Call, γράψτε το εύρος και τις αρνήσεις στις οδηγίες του πράκτορα, επιλέξτε μια περσόνα για τον ρόλο και τον τόνο του, συνδέστε ένα σενάριο όπου η διατύπωση πρέπει να είναι ακριβής και περιορίστε τις πηγές σε όσα εγκρίνετε. Αποφασίστε ποιος αναλαμβάνει όταν ένας καλών ζητά άνθρωπο· τα αιτήματα μπορούν να αναληφθούν, να ανατεθούν, να σχολιαστούν και να επιλυθούν από το help desk. Έπειτα κάντε μια δοκιμαστική κλήση και διαβάστε τη συνομιλία στη συνέχεια, μαζί με το ιστορικό επεξεργασίας αν διορθώσετε τις διατυπώσεις του πράκτορα. Ελέγξτε προσεκτικά τις πρώτες εβδομάδες πραγματικών κλήσεων και κάντε αυστηρότερους τους κανόνες όπου οι απομαγνητοφωνήσεις δείχνουν κενό.

Συχνές ερωτήσεις

Τι είναι ένα όριο ασφαλείας στη φωνητική AI;

Είναι ένας κανόνας ή περιορισμός που κρατά έναν πράκτορα μέσα στην αρμοδιότητά του, όπως να μένει στο θέμα, να αρνείται ορισμένα αιτήματα, να προστατεύει πληροφορίες και να μεταβιβάζει σε άνθρωπο όταν χρειάζεται.

Αρκεί ένα καλό prompt;

Συνήθως όχι. Ένα prompt είναι καθοδήγηση που το μοντέλο μπορεί να αγνοήσει αν πιεστεί. Συνδυάστε το με εγκεκριμένες πηγές, όρια στο τι μπορεί να κάνει ο πράκτορας και παρακολούθηση πραγματικών κλήσεων.

Μπορούν οι καλούντες να ξεγελάσουν τον πράκτορα ώστε να αγνοήσει τους κανόνες του;

Κάποιοι προσπαθούν. Οι οδηγίες από μόνες τους μπορούν να παρακαμφθούν, γι' αυτό τα σημαντικά όρια πρέπει να επιβάλλονται από το σύστημα και γι' αυτό πρέπει να δοκιμάζετε με σκόπιμες απόπειρες.

Τι πρέπει να συμβαίνει όταν ένα αίτημα είναι εκτός εύρους;

Ο πράκτορας πρέπει να πει ευγενικά ότι δεν μπορεί να βοηθήσει σε αυτό σε αυτή την κλήση και να προτείνει ένα επόμενο βήμα, όπως ένα μήνυμα, ένα αίτημα επανάκλησης ή έναν άνθρωπο.

Κάνουν τα όρια ασφαλείας τον πράκτορα λιγότερο χρήσιμο;

Τα κακογραμμένα μπορεί. Κρατήστε σαφές το εύρος, δώστε στις αρνήσεις μια εναλλακτική διαδρομή και ελέγχετε τις κλήσεις για να βρείτε σημεία όπου ο πράκτορας μπλοκάρει αβλαβή αιτήματα.

Ποιος πρέπει να έχει την ευθύνη των ορίων ασφαλείας;

Κάποιος που κατανοεί τόσο τον επιχειρηματικό κίνδυνο όσο και τις κλήσεις, συνήθως ένας υπεύθυνος λειτουργιών ή ομάδας, με τη συμβολή νομικών συμβούλων ή συμβούλων συμμόρφωσης για ρυθμιζόμενα θέματα.

Ορίστε σαφή όρια για τον πράκτορα AI σας στο Call

Στην κονσόλα demo μπορείτε να δοκιμάσετε εισερχόμενες κλήσεις σε προσομοίωση.

Σχετικοί οδηγοί

Τεχνολογία φωνητικής AI

Prompt για καλύτερες περιλήψεις κλήσεων: πρότυπα και δοκιμές

Πώς γράφετε ένα prompt που μετατρέπει μια απομαγνητοφώνηση σε σύντομη, ακριβή σημείωση: για ποιον είναι, τι περιέχει, κανόνες κατά των επινοήσεων και δοκιμές.

Συντακτική ομάδα του Call ·
Τεχνολογία φωνητικής AI

Ανάλυση συναισθήματος στις κλήσεις: χρήσεις, όρια, υπεύθυνη χρήση

Τι μετρά η ανάλυση συναισθήματος στις κλήσεις, πού βοηθά στη διαλογή και στις τάσεις, πού παραπλανά και πώς τη χρησιμοποιείτε χωρίς άδικες ή αυτόματες αποφάσεις.

Συντακτική ομάδα του Call ·
Τεχνολογία φωνητικής AI

SIP trunking: πώς ταξιδεύουν οι επαγγελματικές κλήσεις μέσω διαδικτύου

Τι είναι ένα SIP trunk, πώς διαφέρει από τις παραδοσιακές γραμμές, τι να ελέγξετε σε codecs, κανάλια και εφεδρεία και πώς να επιλέξετε πάροχο.

Συντακτική ομάδα του Call ·
Τεχνολογία φωνητικής AI

Μοντέλα speech-to-speech και διαδοχικές φωνητικές αλυσίδες: σύγκριση

Δύο τρόποι να φτιάξετε τηλεφωνικό φωνητικό πράκτορα: μοντέλα speech-to-speech και διαδοχικές αλυσίδες. Δυνατά και αδύναμα σημεία και επιλογή μέσω δοκιμών.

Συντακτική ομάδα του Call ·