4 zásady etiky při použití AI v komunikaci se zákazníkem

Co kontrolovat před spuštěním a po něm Konkrétní postup: nejprve definujte, co přesně má model předpovídat. „Kdo se hodí na pozici" je příliš vágní. Lepší je „kdo splní výkonnostní cíl po šesti měsících" nebo „kdo zůstane alespoň rok". Potom si napište, jaké údaje do modelu nesmíte pustit: věk, pohlaví, etnicitu, zdravotní stav, ale i třeba adresu nebo fotografii. Ani nepřímé náhrady jako „rok dokončení školy" nebo „koníčky typické pro jednu skupinu" tam nepatří. Před spuštěním otestujte model na datech, která jste při tréninku nepoužili, a sledujte, jestli některá skupina nepropadá víc než jiná. Po nasazení měřte průběžně: kdo je pozván k pohovoru, kdo projde, kdo je přijat. Pokud se poměry mezi skupinami liší od těch na vstupu, něco je špatně.

Typické chyby: automatizuje se příliš mnoho najednou, chybí vlastník procesu, nikdo nekontroluje výsledky a výjimky se neřeší. Automatizace, která zvládne jen ideální případ a při odchylce se zastaví, vytvoří frontu a nakonec práci přidá. Proto už při návrhu určete, co se stane, když přijdou neúplná data, duplicitní záznam nebo neznámý formát. Součástí řešení musí být přehled o průběhu a upozornění na chyby.

Další chyba je měřit jen počet konverzací. To nic neříká o kvalitě. Sledujte míru vyřešení bez zásahu člověka, počet eskalací, opakované dotazy ve stejné konverzaci a to, zda zákazník po skončení chatu zůstal nebo odešel. Pokud stejnou otázku pokládá dvakrát, bot neodpověděl srozumitelně. Tato metrika odhalí problémy dřív než jakékoli hodnocení spokojenosti.

Druhým častým selháním je příliš složitý schvalovací řetězec. Když faktura čeká na tři lidi a jeden z nich je na dovolené, celý proces stojí. Řešením je nastavit zastupování a časový limit. Pokud schvalovatel nereaguje do určité doby, faktura se přesune na jeho zástupce nebo se označí k řešení. Bez tohoto pravidla se automatizace změní v odkladiště, kde se dokumenty hromadí, aniž by to někdo viděl.

Nástroje se dělí podle toho, co potřebujete spojit. Propojení dvou cloudových aplikací zvládnou platformy pro integraci a automatizaci workflow, které fungují na principu spouštěče a akce. Pokud jde o práci s dokumenty, hodí se nástroje pro rozpoznávání textu a extrakci dat. Pro opakované činnosti uvnitř jednoho systému poslouží skripty nebo rozšíření, která má daný systém k dispozici. RPA roboti se vyplatí tam, kde není možné použít rozhraní a je nutné ovládat uživatelské prostředí.

Smysl má automatizovat to, co je opakované, pravidlové a měřitelné. Začněte malým krokem, ověřte přínos a teprve potom přidávejte další procesy. Když místo honby za nástroji nejdřív zjednodušíte tok práce, budou náklady nižší a výsledek trvalejší.

Umělá inteligence se stala běžným nástrojem v zákaznické komunikaci. Ať už jde o chatbota na webu, automatické odpovědi v e-mailu nebo generování textů, vždy platí, že za výsledek nese odpovědnost člověk, nikoli stroj. Etika zde neznamená jen dodržení zákona, ale i to, zda zákazník pozná, s kým nebo s čím mluví, a zda je mu poskytnuta pravdivá a srozumitelná informace.

Typická chyba je slepá důvěra v číslo. Model vrátí skóre 0,87 a personalista to bere jako fakt. Jenže skóre je jen pravděpodobnost z historie, ne měření schopností. Další častá chyba: nasadit nástroj na všechny pozice bez ohledu na kontext. U dělnických profesí a u kreativních rolí potřebujete jiná kritéria i jinou míru kontroly. Také se zapomíná na vysvětlitelnost. Když uchazeč požádá o odůvodnění rozhodnutí, musíte umět říct, které faktory k němu vedly. Černá skříňka je v náboru eticky neobhajitelná, zvlášť když jde o přístup k obživě.

Před cestou si oblečení vyzkoušejte, ne až na místě. Zkontrolujte, zda není pomačkané, zda vám sedí a zda k němu máte vhodné boty. Počítejte s tím, že na akci se může něco polít nebo ušpinit. Pokud jedete na delší dobu, vezměte si jednu sadu navíc, kterou udržíte čistou na cestu domů. Boty jsou nejčastější slabina — nové boty na celodenní stání jsou jistý způsob, jak si akci zkazit. Vezměte osvědčené a pohodlné.

U dovolené s kolegy je situace jiná. Tam se počítá s ležérnějším stylem, ale i tak platí, že plavky patří k bazénu, ne do společné jídelny. Vezměte si jeden společenský kousek pro případ, že se večer změní plán a půjde se do lepší restaurace. Typická chyba je vzít si jen sportovní oblečení a pak celý výlet sedět v jídelně v teplákách. Druhá častá chyba je naopak přeplněný kufr — tři outfity na den nevyužijete a jen budete řešit, co si vzít.

Postupujte po malých částech. Jeden pilotní proces nasaďte na omezené skupině, změřte čas před a po, sledujte počet chyb a teprve pak rozšiřujte. Průběžně dokumentujte, co automatizace dělá a kdo ji může upravit. Vyhněte se závislosti na jednom dodavateli nebo na řešení, kterému nerozumí nikdo ve firmě. Udržujte přístupy a osobní údaje v souladu s předpisy a nastavte, kdo nese odpovědnost za provoz.