AI systém, který odpovídá na e-maily, posuzuje žádost nebo připravuje doporučení, to dělá na základě toho, co má povoleno. Ne co dokáže — to je často víc, než je žádoucí — ale co má povoleno. Pravidla pro agenty jsou pevně stanovené hranice tohoto mandátu: jaká rozhodnutí systém přijímá samostatně, která předkládá k posouzení a která zůstávají zcela mimo dosah, ať už je vstup jakýkoli.
Bez těchto pravidel přijímá systém implicitní rozhodnutí. Někdo někde nastavil hranici, vybral příklad, ignoroval výjimku. To funguje v pilotním projektu s několika testovacími případy. Stává se to neviditelným rizikem ve chvíli, kdy systém běží ve velkém měřítku a nikdo už nedokáže zrekonstruovat, proč udělal to, co udělal.
Pravidla pro agenty se často řeší jako záležitost implementační fáze — nastavení, které zajistí dodavatel. To je mylná představa s následky. Pravidlo, že pojistná událost pod určitou částku se vyřizuje automaticky, je manažerské rozhodnutí o přijetí rizika, nikoli technický parametr. Kdo toto rozhodnutí přenechá technice, zjistí důsledky až ve chvíli, kdy se něco pokazí.
Toto je jeden z důvodů, proč se rozdíl mezi nesením AI a převzetím AI tak často podceňuje. Převzetí — nechat vykonat úkol — je viditelné a konkrétní. Nesení — organizace, která určuje, v jakých hranicích se to děje, kdo to kontroluje a co se změní, když se změní situace — zůstává nediskutované až do prvního okamžiku, kdy se něco pokazí.
Pravidla pro agenty stanovují, co může systém rozhodovat. Neřeší, zda je organizace schopná tato pravidla hlídat. Sada pravidel, kterou nikdo pravidelně nekontroluje, která zastarává vedle změněné legislativy nebo se nikdy neupraví po incidentu, je na papíře úplná a v praxi bezcenná.
To je zároveň hranice toho, co tato pravidla umí. Jsou nástrojem, ne zárukou. Organizace bez jasné odpovědnosti za kvalitu dat nebo bez infrastruktury, která umožňuje dohledat, jaké rozhodnutí bylo kdy a proč přijato, má z pravidel samotných jen málo opory — jakkoli přesně jsou formulována. Pravidlo je jen tak spolehlivé jako základy, na kterých stojí.
Ve většině vedení organizace nepanuje shoda o tom, jak velký mandát by systém měl mít. Jeden vedoucí chce rychlost a přijme, že systém rozhoduje samostatně v širokých mezích. Druhý chce mít každý výsledek kontrolovaný, než jde ven. Obě pozice jsou obhajitelné a tento rozdíl do velké míry vysvětluje, proč se vaše vedení neshoduje na tempu AI.
Pravidla pro agenty tuto diskusi konkretizují. Namísto debaty o ambicích v obecných pojmech se otázka mění na: při jaké částce, jaké výjimce, jakém typu klienta systém přepne na člověka? To je otázka, na kterou lze odpovědět, pokud organizace ví, co skutečně unese — nikoli jen to, co chce.
Častou chybou je zacházet s pravidly jako s jednorázovou prací. Stanoveno, implementováno, hotovo. V praxi se okolnosti, na kterých je pravidlo založeno, posouvají: nová legislativa, jiná klientská základna, incident, který odhalí slepé místo. Pravidla, která se tomu nepřizpůsobují, chrání v jednu chvíli proti riziku, které už neexistuje, a nikoli proti riziku, které existuje skutečně.
Toto je také důvod, proč je jak často se musí měření vyspělosti opakovat otázka, která přesahuje pouhé kalendářní ujednání. Pravidla, která jsou dnes přiměřená úrovni organizace, nemusí být přiměřená za rok — v obou směrech. Organizace, která zvyšovala svou vyspělost, může obhájit větší mandát. Organizace, která rostla, aniž by s ní rostl i dohled, může naopak unést méně, než pravidla na papíře povolují.
Tento text nepopisuje implementační kroky ani šablonu pro dokument s pravidly. Každá organizace stanovuje vlastní hranice, založené na vlastní ochotě přijímat riziko a vlastním dohledu. Co platí pro každou organizaci: kdo připravuje pravidla pro agenty až poté, co systém již běží, připravuje je pod časovým tlakem a často v návaznosti na incident. To je nejdražší způsob, jak se to naučit. Otázka nezní, zda jsou pravidla potřebná, ale zda existují dříve, než je prověří praxe. A kdo se dívá jen na to, co se děje v chatovacím okně, přehlíží co nevidíte, když znáte jen chatovací okno — tedy vše, co je stanoveno předem a co se stane, jakmile případ vybočí ze stanovené hranice.
Pravidla pro agenty určují hranice mandátu. Neříkají nic o tom, jaká část práce je skutečně vhodná k převzetí a co má z jiných důvodů zůstat na člověku. Na tuto otázku odpovídá pracovní scan FTE TO AI: ten pro každý úkol vypočítá, jakou část práce lze převzít, a tím vytváří základ, na kterém lze následně vystavět pravidla pro agenty — pravidla bez jasného obrazu samotné práce se těžko obhajují a analýza úkolů bez jasných pravidel nepřináší použitelnou hranici.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.