Ako zaviesť AI asistenta bez chaosu v prevádzke

Vyberte jeden proces s jasným koncom

Dobrým prvým scenárom je dopyt na novú klimatizáciu alebo servisná požiadavka mimo pracovných hodín. Obe situácie majú zrozumiteľný vstup, obmedzený počet otázok a konkrétny výsledok: pripravený dopyt na spätné zavolanie.

Nevhodným začiatkom je veta „odpovedz na všetko, čo zákazník potrebuje“. Taký cieľ sa nedá spoľahlivo otestovať a vytvára tlak, aby si systém chýbajúci údaj domyslel. Spíšte preto, čo je úspech, čo je výnimka a kedy sa rozhovor odovzdá človeku.

Napíšte povolené fakty a zakázané sľuby

Znalostná báza má obsahovať iba aktuálne firemné fakty: služby, pracovné hodiny, oblasť pôsobenia, spôsob spätného kontaktu a schválené všeobecné odpovede. Každý údaj potrebuje vlastníka a dátum kontroly.

Samostatne spíšte, čo systém nesmie tvrdiť bez živého zdroja alebo človeka. Typicky ide o presnú cenu, voľný termín, čas príchodu, skladovú dostupnosť, záruku, zľavu a technickú diagnózu.

• povolené: potvrdená služba, oblasť, hodiny a ďalší krok
• podmienené: termín iba z overeného kalendára
• zakázané: odhad diagnózy alebo obchodný sľub bez podkladu

Povedzte otvorene, že ide o AI

Európske pravidlá transparentnosti vyžadujú, aby človek vedel, že komunikuje s AI, ak to nie je z kontextu zrejmé. V praxi je dobré povedať to hneď v úvode jednoduchou rečou a ponúknuť dohodnutú cestu k človeku alebo spätnému kontaktu.

Oznámenie nemá byť ukryté v podmienkach. Veta môže byť krátka: „Som AI asistent firmy a pomôžem zachytiť vašu požiadavku. Ak chcete hovoriť s človekom, pripravím spätné zavolanie.“ Presné znenie treba prispôsobiť službe a právnemu posúdeniu firmy.

Zbierajte minimum a mažte podľa účelu

Európsky výbor pre ochranu údajov odporúča ochranu údajov už v návrhu a v predvolenom nastavení. Pre servisný dopyt to znamená nepýtať sa na údaje, ktoré tím nepotrebuje, obmedziť prístup na správnu firmu a rolu a nastaviť krátku retenciu.

Produkčný telefonický tok nemusí trvalo ukladať surové audio ani celý prepis. Užitočným obchodným záznamom je štruktúrované zhrnutie s kontaktom a ďalším krokom. Logy majú obsahovať technické udalosti, nie obsah hovoru.

Prečítajte si, aké bezpečnostné hranice používa Odpovio pri leadoch a fotografiách.

Otestujte aj to, čo sa má pokaziť

Fiktívny test nemá obsahovať iba ideálny rozhovor. Skúste ticho, nejasnú odpoveď, zmenu témy, otázku na presnú cenu, požiadavku na diagnózu, odmietnutie AI, urgentný prípad, výpadok poskytovateľa a opakované doručenie tej istej udalosti.

Pri každom teste si zapíšte očakávaný bezpečný výsledok. Ak ho systém nesplní, neopravujte iba konkrétnu vetu. Hľadajte pravidlo, validáciu alebo deterministický krok, ktorý zabráni celej triede podobných chýb.

• neznáma odpoveď → priznať neistotu a vytvoriť spätný kontakt
• urgentný signál → bezpečnostný oznam a dohodnutá eskalácia
• výpadok služby → lokálny oznam bez nekontrolovaných opakovaní
• duplicitná udalosť → nevytvoriť druhý lead ani upozornenie

Spustite obmedzený pilot s vypínačom

Živý pilot zapnite až po schválení scenárov, údajov, poskytovateľov a ceny. Začnite mimo pracovných hodín alebo iba pri nezdvihnutí, nie na všetkých hovoroch. Určite denný a mesačný limit, osobu sledujúcu výsledky a postup okamžitého vypnutia.

Počas pilotu sledujte kvalitu dopytov, nesprávne zaradenia, reakčný čas tímu, sťažnosti, výnimky a obchodný výsledok. Ak systém bezpečne prizná neistotu, nie je to neúspech. Neúspechom je presvedčivo si niečo vymyslieť.

Pilot je hotový až vtedy, keď viete systém bezpečne zapnúť, sledovať aj vypnúť — a tím rozumie, čo sa deje medzi týmito krokmi.

Zaveďte pravidelnú kontrolu po spustení

Firemné údaje sa menia, modely sa vyraďujú a sezónne scenáre pribúdajú. Raz mesačne preto skontrolujte zdroje odpovedí, výnimky, limity a providerov. Zmena modelu alebo integrácie si zaslúži nový test úspešného toku aj výpadku.

Dlhodobý vlastník nemusí byť programátor. Musí však vedieť, kde upraviť firemný fakt, kde vidieť náklady a chyby, komu eskalovať incident a kedy riešenie vypnúť.