Sistem umetne inteligence, ki odgovarja na e-poštna sporočila, presoja vlogo ali pripravlja nasvet, to počne na podlagi tega, kaj mu je dovoljeno. Ne kaj zmore — to je pogosto več, kot je zaželeno — ampak kaj mu je dovoljeno. Pravila za agente so zapisane meje tega mandata: katere odločitve sistem sprejme samostojno, katere predloži v presojo, in katere ostanejo zunaj dosega, ne glede na to, kakšen je vhodni podatek.
Brez teh pravil sistem sprejema implicitne odločitve. Nekje je nekdo določil mejno vrednost, izbral primer, prezrl izjemo. To deluje v pilotnem projektu z nekaj testnimi primeri. Postane nevidno tveganje, ko sistem začne delovati v širšem obsegu in nihče več ne more rekonstruirati, zakaj je storil to, kar je storil.
Pravila za agente se pogosto obravnavajo kot nekaj za fazo implementacije — nastavitev, ki jo uredi ponudnik. To je zmotno prepričanje s posledicami. Pravilo, da se zahtevek pod določenim zneskom obravnava samodejno, je vodstvena odločitev o sprejemanju tveganja, ne tehnični parameter. Kdor to odločitev prepusti tehniki, posledice odkrije šele, ko gre kaj narobe.
To je eden od razlogov, zakaj se razlika med tem, da umetna inteligenca nosi delo, in tem, da ga prevzame, tako pogosto podcenjuje. Prevzem — izvedba naloge — je viden in konkreten. Nošenje — organizacija, ki določa, znotraj katerih meja se to dogaja, kdo to preverja in kaj se spremeni, ko se spremenijo okoliščine — ostaja nenaslovljeno vse do prve situacije, ko gre kaj narobe.
Pravila za agente določajo, kaj lahko sistem odloči. Ne rešujejo vprašanja, ali je organizacija sposobna ta pravila nadzorovati. Nabor pravil, ki ga nihče redno ne preverja, ki zastara ob spremenjeni zakonodaji ali ki se po incidentu nikoli ne prilagodi, je na papirju popoln in v praksi neuporaben.
To je hkrati meja tega, kar ta pravila zmorejo. So orodje, ne garancija. Organizacija brez jasne odgovornosti za kakovost podatkov ali brez infrastrukture, ki omogoča sledljivost, katera odločitev je bila sprejeta kdaj in zakaj, ima od samih pravil malo opore — ne glede na to, kako natančno so zapisana. Pravilo je zanesljivo le toliko, kolikor so zanesljivi temelji, na katerih sloni.
V večini vodstev ni soglasja o tem, kolikšen mandat naj sistem dobi. Eden od direktorjev želi hitrost in sprejema, da sistem samostojno odloča znotraj širokih meja. Drugi želi, da se vsak rezultat preveri, preden gre naprej. Obe stališči sta zagovorljivi, in ta razlika v veliki meri pojasnjuje, zakaj se vaše vodstvo ne strinja glede tempa uvajanja umetne inteligence.
Pravila za agente ta pogovor naredijo konkreten. Namesto razpravljanja o ambicijah v splošnih izrazih se vprašanje glasi: pri kakšnem znesku, kakšni izjemi, kakšnem tipu stranke sistem preklopi na človeka? To je vprašanje, na katerega je mogoče odgovoriti, če organizacija ve, kaj lahko resnično nosi — ne le kaj želi.
Pogosta napaka je obravnavanje pravil kot enkratnega dela. Določena, implementirana, konec. V praksi se okoliščine, na katerih temelji pravilo, spremenijo: nova zakonodaja, drugačna baza strank, incident, ki razkrije slepo pego. Pravila, ki se s tem ne prilagajajo, na neki točki ščitijo pred tveganjem, ki ne obstaja več, in ne pred tveganjem, ki dejansko obstaja.
Zato je tudi vprašanje, kako pogosto je treba ponoviti meritev zrelosti, več kot le koledarski dogovor. Pravila, ki so danes primerna za raven organizacije, morda čez leto dni ne bodo več — v obe smeri. Organizacija, ki je postala bolj zrela, lahko upravičuje večji mandat. Organizacija, ki je zrasla, ne da bi nadzor rasel z njo, se lahko izkaže, da zmore nositi manj, kot dovoljujejo pravila na papirju.
Ta prispevek ne opisuje korakov implementacije niti predloge za dokument s pravili. Vsaka organizacija določi svoje meje na podlagi lastne pripravljenosti na tveganje in lastnega nadzora. Kar pa velja za vsako organizacijo: kdor pravila za agente pripravi šele, ko sistem že deluje, jih pripravlja pod časovnim pritiskom in pogosto kot posledico incidenta. To je najdražji način, da se to naučimo. Vprašanje ni, ali so pravila potrebna, ampak ali obstajajo, preden jih preizkusi praksa. In kdor gleda le, kaj se dogaja v pogovornem oknu, spregleda kaj ne vidite, če poznate le pogovorno okno — namreč vse, kar je vnaprej določeno, in kaj se zgodi, ko primer pade zunaj postavljene meje.
Pravila za agente določajo meje mandata. Ne povedo, kateri del dela je dejansko primeren za prevzem in kaj mora iz drugih razlogov ostati pri človeku. Na to vprašanje odgovori delovna analiza podjetja FTE TO AI: ta za vsako nalogo izračuna, kateri del dela je mogoče prevzeti, in tako postavi temelj, na katerem je nato mogoče zgraditi pravila za agente — pravila brez jasne slike o samem delu je težko utemeljiti, analiza nalog brez jasnih pravil pa ne prinese uporabne meje.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.