Puhe-tekoälyn teknologia

RAG puheagenteille: vastaukset omasta sisällöstäsi

Miten hakuun perustuva generointi (RAG) antaa puhelimen tekoälyn vastata omista dokumenteistasi ja UKK:sta, sekä vinkit sisällön valmisteluun ja testaukseen.

Call-toimitus · Julkaistu · Lukuaika 4 min

Kielimalli tietää paljon maailmasta mutta ei mitään yrityksestäsi. Se ei tiedä aukioloaikojasi, peruutusehtojasi tai sen asentajan nimeä, joka hoitaa kattilakorjaukset. Jos pyydät sitä vastaamaan soittajan kysymykseen ilman näitä tietoja, se saattaa arvata. Hakuun perustuva generointi, lyhyesti RAG (retrieval-augmented generation), on vakiintunut ratkaisu: etsi oman sisältösi olennainen osa, anna se mallille kysymyksen kanssa ja pyydä sitä vastaamaan tämän aineiston pohjalta.

Henkilö järjestelee tulostettuja dokumentteja ja kannettavaa tietokonetta avustajan tietopankkia varten
Havainnekuva

Tämä opas kertoo, miten RAG toimii puheluissa, miten sisältö valmistellaan sitä varten, missä se menee pieleen ja miten sitä testataan. Taustaa käsittelyketjusta löydät oppaasta Näin puhetekoäly toimii: STT, LLM ja TTS.

Miten RAG toimii puhelussa

Kun soittaja esittää kysymyksen, RAGia käyttävä puheagentti toimii tyypillisesti näin:

Hakupolku

  1. KuuntelePuheentunnistus muuttaa soittajan sanat tekstiksi.
  2. HaeJärjestelmä etsii sisällöstäsi kysymykseen liittyviä kohtia.
  3. ValitseSe pitää muutaman olennaisimman kohdan ja hylkää loput.
  4. MuotoileKielimalli kirjoittaa lyhyen vastauksen kysymyksen ja näiden kohtien perusteella.
  5. PuhuPuhesynteesi lukee vastauksen ääneen.

Miksei mallille anneta kaikkea?

Voisit yrittää liittää kaiken sisältösi ohjeisiin. Mallin työtila on kuitenkin rajallinen, pitkät ohjeet hidastavat vastauksia ja suuri tekstimassa lisää riskiä, että malli ohittaa sen yhden olennaisen rivin. Haku pitää työaineiston pienenä ja osuvana.

Mitä ”haku” tarkoittaa

Haku voi perustua avainsanoihin, merkitykseen (löytää samaa tarkoittavia kohtia, vaikka sanat eroavat) tai molempiin. Merkitykseen perustuva haku auttaa, kun soittaja muotoilee kysymyksen odottamattomasti, esimerkiksi ”voinko tulla sunnuntaina?”, kun sisällössä lukee ”viikonlopun aukioloajat”. Menetelmästä riippumatta kohdat ovat pieniä paloja dokumenteistasi, joten se, miten kirjoitat ja pilkot sisällön, vaikuttaa suoraan siihen, mitä löytyy.

Sisällön valinta ja valmistelu

Mitä sisään, sitä ulos pätee tässä erityisen hyvin. Puheagentti voi olla vain yhtä tarkka kuin sen taustalla oleva aineisto.

Yleiset sisältölähteet

  • UKK ja kysymys–vastaus-paritTarkat vastaukset tiettyihin kysymyksiin; luotettavin lähde yleisimpiin puheluihin.
  • VerkkosivutOlemassa olevat sivut palveluista, aukioloajoista ja käytännöistä, luettuna kerran tai koko sivustolta haettuna.
  • DokumentitPDF- ja tekstinkäsittelytiedostot, joissa on hinnastoja, menuja tai toimintaohjeita, jos teksti on valittavissa.
  • Vapaa tekstiMuistiinpanot säännöistä, jotka eivät sovi muualle, kuten pyhäpäivien käsittely.
  • Korjaukset todellisista puheluistaVastaukset, jotka ihminen on korjannut puhelun kuunneltuaan.

Kirjoita korvalle

Luettavaksi kirjoitettu sisältö kuulostaa usein oudolta ääneen sanottuna. Taulukot, pitkät luettelot ja lyhenteet eivät toimi puheessa. Kirjoita keskeiset vastaukset uudelleen selkeinä virkkeinä, yksi asia virkettä kohden, ja kirjoita auki, miten numerot ja kellonajat sanotaan. Pidä jokainen kohta itsenäisenä, jotta se on ymmärrettävä ilman ympäröivää sivua.

Poista ristiriidat

Jos yhdellä sivulla lukee, että suljette viideltä, ja toisella kuudelta, agentti sanoo jommankumman sattumanvaraisesti. Etsi ennen tuontia vanhat sivut, luonnokset ja päällekkäiset tiedostot ja päivitä tai poista ne. Lisää käytäntöihin päivämäärät, jotta uusin voittaa.

Päätä, mikä on rajojen ulkopuolella

Kerro agentille, mihin sen ei pidä vastata: oikeudelliset, lääketieteelliset tai taloudelliset neuvot, kaikki tietyn henkilön tiliin liittyvä tai aiheet, joita hoitaa vain ihminen. Oikea reaktio on kohtelias siirto ihmiselle. Katso Suojakaiteet puhetekoälyagenteille.

Missä RAG menee pieleen

RAG vähentää hallusinaatioita mutta ei poista niitä. Tyypillisiä virheitä ovat:

Virhetilanteet

Mitä tapahtuuKorjaus
Mitään olennaista ei löydyAgentti improvisoi yleistiedon pohjalta.Ohjeista sitä sanomaan, ettei tiedä, ja tarjoamaan ihmistä; lisää puuttuva sisältö.
Väärä kohta löytyyKäytetään samankaltaiselta kuulostavaa toisen palvelun käytäntöä.Kirjoita kohdat uudelleen selkein otsikoin; erota samankaltaiset aiheet.
Vanhentunut sisältöAgentti kertoo viime vuoden aukioloajat.Anna jokaiselle lähteelle omistaja ja tarkistuspäivä.
Liian pitkä hakuLiika teksti hidastaa vastausta ja sotkee sen.Käytä lyhyempiä, rajattuja kohtia.
Väärin kuultu kysymysPuheentunnistuksen virheet johtavat väärään hakuun.Testaa kohinaisella äänellä ja eri aksenteilla; varmista tärkeät tiedot.

Syvemmin keksittyjen vastausten ehkäisystä kerrotaan oppaassa Keksittyjen vastausten ehkäisy puhetekoälyssä. Jos haluat agentin hakevan ajantasaisia tietoja, kuten tilauksen tilan, staattisen tekstin sijaan, katso Puheagentin tiedonhaku järjestelmistä.

Nopeusbudjetti

Puhelinkeskustelut sietävät hyvin vähän viivettä. Jokainen lisävaihe, kuten haku, vie aikaa. Pidä lähteet siisteinä ja pieninä, älä hae enempää kohtia kuin vastaus vaatii ja testaa vasteajat oikeissa puheluissa eikä kannettavalla. Puhetekoälyn viive kertoo, miltä viiveet tuntuvat ja mistä ne syntyvät.

Pidä sisältö ajan tasalla

Aukioloajat, hinnat ja käytännöt muuttuvat nopeammin kuin kukaan muistaa päivittää tietopankkia. Lisää yhteiseen kalenteriin toistuva muistutus: ennen jokaista sesonkia, pyhää tai hinnanmuutosta sisällön omistaja tarkistaa lähteet ja indeksoi ne uudelleen. Soita muutoksen jälkeen itse agentille ja kysy muuttuneesta asiasta. Puolen minuutin tarkistus estää päivän väärät vastaukset.

Testaa ennen käyttöönottoa ja sen jälkeen

Laadi kysymyslista kolmeen ryhmään: kysymykset, joihin sisältö vastaa selvästi, kysymykset, joihin se vastaa osittain, ja kysymykset, joita se ei kata. Kirjaa jokaisen kohdalla, mitä agentti sanoo. Tarkista, että vastaus on oikea ja tarpeeksi lyhyt ääneen sanottavaksi ja että kolmannessa ryhmässä agentti myöntää, ettei tiedä. Aja lista uudelleen aina, kun sisältö muuttuu.

Testirutiini

  • Kysy jokainen yleinen kysymys kahdella tai kolmella eri sanamuodolla.
  • Kysy samat kysymykset kohinaisella linjalla tai vahvalla aksentilla.
  • Kysy jotain, mitä sisältö ei sisällä.
  • Kysy ansakysymys, kuten vanha hinta tai suljettu päivä.
  • Kuuntele, onko vastauksia, jotka ovat liian pitkiä seurattaviksi korvakuulolta.
  • Käy ensimmäisen kuukauden ajan viikoittain läpi todellisten puheluiden litteroinnit.

Pysyvät korjaukset

Kun ihminen löytää väärän vastauksen, litteroinnin korjaaminen ei riitä; korjaus pitää viedä takaisin tietopankkiin, jotta agentti vastaa ensi kerralla oikein. Päätä, kuka saa tehdä muutoksen, ja säilytä muutoshistoria.

Näin se tehdään Callissa

Callissa tieto kuuluu tekoälyagentille, ja se lisätään kohdassa Lähteet:

Tallennustila on yhteinen koko organisaatiolle, lähdekohtaisin rajoin, ja vain työtilan hallinnoijat voivat lisätä, muuttaa tai poistaa lähteitä. Banneri näyttää, jos käynnissä olevat puhelut eivät vielä käytä tietopankkia. Puhelinhistoriassa voit korjata agentin antaman vastauksen ja halutessasi tallentaa sen oikeaksi vastaukseksi seuraavaa kertaa varten. Aloita oppaista Tietolähteiden käyttö Callissa ja Tietopankin rakentaminen asiakaspalvelulle ja tekoälylle.

Usein kysytyt kysymykset

Onko RAG sama asia kuin mallin kouluttaminen omalla datallani?

Ei. Koulutus muuttaa itse mallia. RAG jättää mallin ennalleen ja antaa sille kysymyshetkellä olennaiset kohdat sisällöstäsi, mikä on helpompi päivittää ja helpompi tarkistaa.

Estääkö RAG puheagenttia keksimästä asioita?

Se vähentää ongelmaa mutta ei poista sitä. Agentti voi yhä tulkita kohdan väärin tai vastata kysymykseen, jota sisältösi ei kata. Selkeät ohjeet, hyvä sisältö ja säännöllinen testaus pitävät virheet vähäisinä.

Kuinka paljon sisältöä tarvitsen?

Vähemmän kuin useimmat olettavat. Muutama kymmenen tarkkaa kysymys–vastaus-paria, jotka kattavat yleisimmät puhelusi, toimii usein paremmin kuin suuri muokkaamaton arkisto. Lisää sisältöä, kun todelliset puhelut paljastavat aukkoja.

Voiko agentti käyttää PDF-tiedostojen sisältöä?

Yleensä, jos PDF:ssä on valittavaa tekstiä. Skannatut, pelkkiä kuvia sisältävät PDF:t vaativat ensin tekstintunnistuksen. Tarkista, mitä järjestelmä poimi, sillä taulukot ja palstat voivat sekoittua.

Kuinka usein tietopankki pitäisi päivittää?

Aina kun tiedot muuttuvat, ja kaiken muun osalta säännöllisenä tarkistuspäivänä. Anna jokaiselle lähteelle omistaja, jotta päivitykset eivät jää sattuman varaan.

Lisää tietolähteitä tekoälyagentillesi ja tarkista sen vastaukset Callissa

Demokonsolissa voit kokeilla saapuvia puheluita simulaatiossa.

Aiheeseen liittyvät oppaat