AI-süsteem, mis vastab kirjadele, hindab taotlust või koostab nõuande, teeb seda selle põhjal, mida tal on lubatud. Mitte selle põhjal, mida ta suudab — see on tihti rohkem kui soovitud — vaid selle põhjal, mida tal on lubatud. Agendireeglid on selle mandaadi kirjapandud piirid: millised otsused süsteem teeb iseseisvalt, millised ta esitab läbivaatamiseks ja millised jäävad täielikult tema haardeulatusest välja, olenemata sisendist.
Nende reeglite puudumisel teeb süsteem varjatud otsuseid. Kusagil on keegi seadnud lävendi, valinud näidise, ignoreerinud erandi. See toimib pilootprojektis mõne testjuhtumiga. See muutub nähtamatuks riskiks, kui süsteem hakkab tööle suures mahus ja mitte kellelgi ei ole enam võimalik taastada, miks süsteem tegi seda, mida ta tegi.
Agendireegleid käsitletakse tihti kui midagi, mis kuulub juurutusfaasi — seadistust, mille tarnija korraldab. See on eksiarvamus, millel on tagajärjed. Reegel, et kindlustusjuhtum alla teatud summa käsitletakse automaatselt, on juhtimisotsus riski aktsepteerimise kohta, mitte tehniline parameeter. Kes jätab selle otsuse tehnika hooleks, avastab tagajärjed alles siis, kui midagi läheb valesti.
See on üks põhjustest, miks vahet AI kandmise ja AI ülevõtmise vahel niivõrd tihti alahinnatakse. Ülevõtmine — ülesande täitmise üleandmine — on nähtav ja konkreetne. Kandmine — organisatsiooni poolt kehtestatud piirid, milles see toimub, kes seda kontrollib ja mis muutub, kui olukord muutub — jääb läbi räägitud, kuni esimest korda läheb midagi valesti.
Agendireeglid kirjutavad kirja, mida süsteem võib otsustada. Need ei lahenda küsimust, kas organisatsioon on suuteline neid reegleid jälgima. Reeglistik, mida keegi perioodiliselt üle ei vaata, mis vananeb kõrvuti muutuva seadusandlusega või mida ei kohandata kunagi pärast intsidenti, on paberil täielik ja praktikas kasutu.
See on ka piir, milleni need reeglid ulatuvad. Need on tööriist, mitte garantii. Organisatsioon, kellel puudub selge vastutus andmekvaliteedi eest või infrastruktuur, mis muudab jälgitavaks, milline otsus millal ja miks tehti, ei saa reeglitest üksi palju tuge — ükskõik kui täpselt need on koostatud. Reegel on nii usaldusväärne kui vundament, millel ta seisab.
Enamikes juhtkondades puudub konsensus selle kohta, kui palju mandaati süsteem peaks omama. Üks juht soovib kiirust ja on nõus, et süsteem otsustab iseseisvalt laiade piiride sees. Teine soovib, et igat tulemust kontrollitakse enne, kui see väljapoole läheb. Mõlemad seisukohad on kaitstavad, ja see erinevus seletab suures osas, miks teie juhtkond ei ole ühel meelel AI tempo suhtes.
Agendireeglid muudavad selle vestluse konkreetseks. Selle asemel, et arutleda ambitsioonist üldistes sõnastustes, muutub küsimus järgmiseks: millisel summal, millise erandi, millise kliendi tüübi puhul lülitub süsteem üle inimesele? See on küsimus, millele on võimalik vastata, eeldusel et organisatsioon teab, mida ta tegelikult suudab kanda — mitte ainult mida ta soovib.
Sagedane viga on käsitleda reegleid ühekordse tööna. Kehtestatud, juurutatud, valmis. Praktikas nihkuvad tingimused, millel reegel põhineb: uus seadusandlus, teistsugune kliendibaas, intsident, mis paljastab pimeala. Reeglid, mis sellega kaasa ei liigu, kaitsevad ühel hetkel riski eest, mida enam ei eksisteeri, ja mitte riski eest, mis tegelikult eksisteerib.
Seepärast on kui tihti tuleb küpsusmõõtmist korrata küsimus, mis ulatub kaugemale kalendriskeemist. Reeglid, mis on täna organisatsiooni tasemele sobivad, ei pea seda enam olema aasta pärast — mõlemas suunas. Organisatsioon, mis on muutunud küpsemaks, võib põhjendada suuremat mandaati. Organisatsioon, mis on kasvanud ilma järelevalvet kaasa kasvatamata, võib tegelikult olla suuteline kandma vähem, kui reeglid paberil lubavad.
Selles tekstis ei kirjeldata juurutamise samme ega reeglidokumendi malli. Igal organisatsioonil on oma piirid, mis põhinevad tema enda riskivalmidusel ja järelevalvel. Kõikide organisatsioonide jaoks kehtib aga see: kes kehtestab agendireeglid alles pärast seda, kui süsteem juba töötab, koostab need ajapressi all ja tihti pärast intsidenti. See on kõige kulukam viis selle õppimiseks. Küsimus ei ole, kas reeglid on vajalikud, vaid kas need on olemas enne, kui neid praktikas testitakse. Ja kes vaatab ainult seda, mis toimub vestlusaknas, jääb ilma millest jääte ilma, kui tunnete ainult vestlusakent — nimelt kõigest, mis on eelnevalt kindlaks määratud ja mis juhtub, kui juhtum jääb seatud piiridest väljapoole.
Agendireeglid määravad mandaadi piirid. Need ei ütle midagi selle kohta, milline osa tööst tegelikult vastab ülevõtmise kriteeriumitele ja mis peab muudel põhjustel jääma inimese kätte. Sellele küsimusele vastab FTE TO AI töömahuskaneering: see arvutab ülesandehaaval, milline osa tööst on üle võetav, ja loob nii aluse, millele agendireeglid saab järgnevalt rajada — reeglid ilma tööst selge pildita on raskesti põhjendatavad, ja ülesandeanalüüs ilma selgete reegliteta ei annda kasutatavat piiri.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.