AI sustav koji odgovara na mailove, ocjenjuje zahtjev ili izrađuje savjet, to čini na temelju onoga što mu je dopušteno. Ne onoga što može — to je često više nego što je poželjno — nego onoga što mu je dopušteno. Pravila za agente su utvrđene granice tog mandata: koje odluke sustav donosi samostalno, koje predaje na odobrenje, i koje ostaju izvan dosega, bez obzira na ulazne podatke.
Bez tih pravila sustav donosi implicitne odluke. Netko je negdje postavio prag, izabrao primjer, zanemario iznimku. To funkcionira u pilot-projektu s nekoliko testnih slučajeva. Postaje nevidljiv rizik onog trenutka kad sustav radi na velikoj razini i nitko više ne može rekonstruirati zašto je učinio što je učinio.
Pravila za agente se često tretiraju kao nešto za fazu implementacije — postavka koju rješava dobavljač. To je pogrešna pretpostavka s posljedicama. Pravilo da se zahtjev ispod određenog iznosa automatski obrađuje predstavlja upravljačku odluku o prihvaćanju rizika, a ne tehnički parametar. Onaj koji tu odluku prepusti tehnici, posljedice otkriva tek kad nešto krene po zlu.
Ovo je jedan od razloga zašto se razlika između nošenja AI-a i preuzimanja AI-a tako često podcjenjuje. Preuzimanje — prepuštanje izvršenja zadatka — je vidljivo i konkretno. Nošenje — organizacija koja utvrđuje unutar kojih se granica to odvija, tko to provjerava i što se mijenja kad se situacija promijeni — ostaje neizrečeno sve do prvog puta kad krene po zlu.
Pravila za agente utvrđuju što sustav može odlučiti. Ne rješavaju je li organizacija u stanju čuvati ta pravila. Skup pravila koji nitko periodično ne provjerava, koji zastarijeva u odnosu na promijenjeno zakonodavstvo ili se nikad ne prilagođava nakon incidenta, na papiru je potpun, a u praksi bezvrijedan.
To je odmah i granica onoga što ta pravila mogu. Ona su instrument, ne garancija. Organizacija bez jasne odgovornosti za kvalitetu podataka ili bez infrastrukture koja omogućuje da se utvrdi koja je odluka kad i zašto donesena, ima od samih pravila malo oslonca — koliko god precizno bila formulirana. Pravilo je pouzdano jednako koliko i temelji na kojima se zasniva.
U većini upravnih odbora ne postoji konsenzus o tome koliko bi mandata sustav trebao imati. Jedan direktor želi brzinu i prihvaća da sustav samostalno odlučuje u širokim granicama. Drugi želi da se svaki ishod provjeri prije nego ide prema van. Oba stajališta su branjiva, a razlika u velikoj mjeri objašnjava zašto se vaša upravna razina ne slaže oko tempa uvođenja AI-a.
Pravila za agente to razgovor pretvaraju u konkretno. Umjesto raspravljanja o ambiciji u općim terminima, pitanje postaje: pri kojem iznosu, kojoj iznimci, kojem tipu klijenta sustav prebacuje na čovjeka? To je pitanje na koje je moguće odgovoriti, uz uvjet da organizacija zna što stvarno može nositi — ne samo što želi.
Česta pogreška je tretirati pravila kao jednokratan posao. Utvrđeno, implementirano, gotovo. U praksi se okolnosti na kojima se pravilo temelji mijenjaju: novo zakonodavstvo, drukčija baza klijenata, incident koji otkriva slijepu točku. Pravila koja se ne prilagođavaju tome, u jednom trenutku štite od rizika koji više ne postoji, a ne od rizika koji stvarno postoji.
Zato je i pitanje koliko često treba ponoviti mjerenje zrelosti više od pitanja o učestalosti u kalendaru. Pravila koja su danas prilagođena razini organizacije, za godinu dana to možda više neće biti — u oba smjera. Organizacija koja je postala zrelija može opravdati veći mandat. Organizacija koja je narasla bez da je nadzor rastao s njom, može se pokazati da nosi manje nego što pravila na papiru dopuštaju.
Ovaj tekst ne opisuje korake implementacije niti predlaže predložak za dokument s pravilima. Svaka organizacija utvrđuje vlastite granice, na temelju vlastite spremnosti na rizik i vlastitog nadzora. Ono što vrijedi za svaku organizaciju: onaj koji pravila za agente sastavlja tek nakon što sustav već radi, sastavlja ih pod vremenskim pritiskom i često kao posljedicu incidenta. To je najskuplji način da se to nauči. Pitanje nije jesu li pravila potrebna, nego postoje li prije nego što ih praksa provjeri. A onaj koji promatra samo ono što se događa u chat prozoru, propušta ono što ne vidite ako poznajete samo chat prozor — dakle sve što je unaprijed utvrđeno i ono što se događa čim slučaj izađe izvan postavljene granice.
Pravila za agente određuju granice mandata. Ne govore ništa o tome koji dio posla stvarno dolazi u obzir za preuzimanje, i što iz drugih razloga treba ostati kod čovjeka. Na to pitanje odgovara radni sken FTE TO AI: on po zadatku izračunava koji dio posla se može preuzeti, i tako postavlja temelj na kojem se pravila za agente potom mogu izgraditi — pravila bez jasne slike samog posla teško je utemeljiti, a analiza zadataka bez jasnih pravila ne daje upotrebljivu granicu.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.