AI systém, ktorý odpovedá na e-maily, posudzuje žiadosť alebo zostavuje odporúčanie, robí to na základe toho, čo môže. Nie čo dokáže — to je často viac, než je žiaduce — ale čo môže. Pravidlá pre agentov sú stanovené hranice tohto mandátu: aké rozhodnutia systém prijíma samostatne, ktoré predkladá ďalej a ktoré zostávajú mimo dosahu, nezávisle od vstupu.
Bez týchto pravidiel systém prijíma implicitné rozhodnutia. Niekto niekde nastavil hranicu, vybral príklad, ignoroval výnimku. To funguje v pilotnom projekte s hŕstkou testovacích prípadov. Stáva sa to neviditeľným rizikom vo chvíli, keď systém funguje v plnom rozsahu a nikto už nedokáže rekonštruovať, prečo urobil to, čo urobil.
Pravidlá pre agentov sa často považujú za niečo, čo patrí do fázy implementácie — nastavenie, ktoré si vyrieši dodávateľ. To je omyl s dôsledkami. Pravidlo, že poistná udalosť pod určitou sumou sa spracuje automaticky, je riadiace rozhodnutie o akceptácii rizika, nie technický parameter. Kto toto rozhodnutie ponechá na technike, odhalí dôsledky až keď sa niečo pokazí.
Toto je jeden z dôvodov, prečo sa rozdiel medzi tým, že AI niečo nesie a tým, že AI niečo prevezme, tak často podceňuje. Prevzatie — nechať vykonať úlohu — je viditeľné a konkrétne. Nesenie — organizácia, ktorá stanovuje, v akých hraniciach sa to deje, kto to preveruje a čo sa zmení, keď sa situácia zmení — zostáva nepovšimnuté až do chvíle, keď sa to prvýkrát pokazí.
Pravidlá pre agentov stanovujú, čo môže systém rozhodnúť. Nevyriešia, či je organizácia schopná tieto pravidlá strážiť. Súbor pravidiel, ktorý nikto periodicky nepreveruje, ktorý zastará vedľa zmenenej legislatívy alebo sa nikdy neupraví po incidente, je na papieri kompletný a v praxi bezcenný.
To je zároveň hranica toho, čo tieto pravidlá dokážu. Sú nástrojom, nie garanciou. Organizácia bez jasnej zodpovednosti za kvalitu dát alebo bez infraštruktúry, ktorá umožňuje vysledovať, aké rozhodnutie bolo prijaté kedy a prečo, má z pravidiel samotných málo opory — nech sú akokoľvek presne formulované. Pravidlo je iba tak spoľahlivé, ako základy, na ktorých stojí.
Vo väčšine vedení nepanuje konsenzus o tom, aký mandát by mal systém mať. Jeden riaditeľ chce rýchlosť a prijíma, že systém rozhoduje samostatne v širokých hraniciach. Druhý chce vidieť každý výsledok skontrolovaný, skôr než sa dostane navonok. Obe pozície sú obhájiteľné a tento rozdiel do veľkej miery vysvetľuje, prečo sa vaše vedenie nezhoduje na tempe zavádzania AI.
Pravidlá pre agentov tento rozhovor zhmotňujú. Namiesto diskusie o ambícii vo všeobecných pojmoch sa otázka stáva konkrétnou: pri akej sume, akej výnimke, akom type klienta systém prepína na človeka? To je otázka, na ktorú sa dá odpovedať, pokiaľ organizácia vie, čo skutočne zvládne uniesť — nielen čo chce.
Bežnou chybou je zaobchádzať s pravidlami ako s jednorazovou prácou. Stanovené, implementované, hotovo. V praxi sa okolnosti, na ktorých je pravidlo založené, posúvajú: nová legislatíva, iná klientská základňa, incident, ktorý odhalí slepé miesto. Pravidlá, ktoré sa s tým nepohybujú, chránia v určitom okamihu proti riziku, ktoré už neexistuje, a nie proti riziku, ktoré existuje.
Preto je aj otázka, ako často treba merania vyspelosti opakovať, viac než len otázka termínu v kalendári. Pravidlá, ktoré sú dnes primerané úrovni organizácie, o rok už nemusia byť — v oboch smeroch. Organizácia, ktorá dospela, môže obhájiť väčší mandát. Organizácia, ktorá vyrástla bez toho, aby s ňou rástol aj dohľad, môže naopak uniesť menej, než pravidlá na papieri dovoľujú.
Tento text nepopisuje implementačné kroky ani šablónu pre dokument s pravidlami. Každá organizácia stanovuje vlastné hranice na základe vlastnej ochoty riskovať a vlastného dohľadu. Čo však platí pre každú organizáciu: kto pravidlá pre agentov zostaví až po tom, ako systém už beží, zostaví ich pod časovým tlakom a často v dôsledku incidentu. To je najdrahší spôsob, ako sa to naučiť. Otázka nie je, či sú pravidlá potrebné, ale či existujú skôr, než ich preverí prax. A kto sa díva iba na to, čo sa deje v chatovom okne, prehliada čo nevidíte, ak poznáte iba chatové okno — teda všetko, čo bolo vopred stanovené, a to, čo sa stane, keď prípad presiahne určenú hranicu.
Pravidlá pre agentov určujú hranice mandátu. Nič nehovoria o tom, ktorá časť práce skutočne prichádza do úvahy na prevzatie a ktorá musí z iných dôvodov zostať pri človeku. Na túto otázku odpovedá pracovný scan FTE TO AI: vypočíta pre každú úlohu, akú časť práce je možné prevziať, a tak vytvára základ, na ktorom sa potom môžu vybudovať pravidlá pre agentov — pravidlá bez jasnej predstavy o samotnej práci sa dajú len ťažko odôvodniť, a analýza úloh bez jasných pravidiel neprináša použiteľnú hranicu.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.