Egy AI-rendszer, amely e-mailekre válaszol, egy kérelmet értékel vagy tanácsot fogalmaz meg, ezt aszerint teszi, amit szabad neki. Nem aszerint, amit tud — az gyakran több, mint amit szeretnénk —, hanem aszerint, amit szabad neki. Az ügynökszabályok e mandátum rögzített határai: milyen döntéseket hoz meg a rendszer önállóan, melyeket terjeszt elő, és melyek maradnak minden esetben elérhetetlenek, függetlenül a bemenettől.
E szabályok nélkül a rendszer implicit döntéseket hoz. Valaki valahol beállított egy küszöbértéket, kiválasztott egy példát, figyelmen kívül hagyott egy kivételt. Ez működik egy pilotban, néhány tesztesettel. Láthatatlan kockázattá válik, amint a rendszer nagy volumenben fut, és már senki sem tudja visszavezetni, miért tette, amit tett.
Az ügynökszabályokat gyakran a megvalósítási szakasz ügyeként kezelik — egy beállításként, amelyet a szolgáltató intéz. Ez téveszme, és következményekkel jár. Az a szabály, hogy egy bizonyos összeg alatti kárigényt automatikusan kezelnek, vezetői döntés a kockázatvállalásról, nem technikai paraméter. Aki ezt a döntést a technikára hagyja, csak akkor fedezi fel a következményeket, amikor már baj van.
Ez egyike azon okoknak, amiért az AI hordozása és az AI átvétele közötti különbséget ilyen gyakran alábecsülik. Az átvétel — egy feladat elvégeztetése — látható és konkrét. A hordozás — az, hogy a szervezet meghatározza, milyen határok között történik ez, ki ellenőrzi, és mi változik, ha a helyzet változik — megbeszélés nélkül marad, mindaddig, amíg először el nem romlik valami.
Az ügynökszabályok rögzítik, mit dönthet el a rendszer. Nem oldják meg, hogy a szervezet képes-e ezeket a szabályokat felügyelni. Egy szabálykészlet, amelyet senki nem tekint át rendszeresen, amely elavul a megváltozott jogszabályok mellett, vagy amelyet soha nem igazítanak ki egy incidens után, papíron teljes, a gyakorlatban viszont értéktelen.
Ez rögtön megmutatja e szabályok korlátait is. Eszközök, nem garanciák. Egy szervezet, amelynek nincs egyértelmű felelőssége az adatminőségért, vagy amelynek nincs olyan infrastruktúrája, amely visszakövethetővé teszi, hogy egy döntést mikor és miért hoztak meg, kevés támaszt talál csak a szabályokban — bármilyen precízen is fogalmazták meg őket. A szabály csak annyira megbízható, mint az alapok, amelyeken nyugszik.
A legtöbb igazgatóságban nincs egyetértés arról, mennyi mandátummal kellene rendelkeznie egy rendszernek. Az egyik vezető sebességet akar, és elfogadja, hogy a rendszer önállóan dönt tág határok között. A másik minden eredményt ellenőrizve akar látni, mielőtt az kifelé megy. Mindkét álláspont védhető, és ez a különbség jórészt megmagyarázza, miért nincs egyetértés az igazgatóságban az AI ütemét illetően.
Az ügynökszabályok konkréttá teszik ezt a beszélgetést. Ahelyett, hogy általánosságban vitatkoznánk az ambícióról, a kérdés az lesz: milyen összegnél, milyen kivételnél, milyen ügyféltípusnál kapcsol át a rendszer emberi kezelésre? Ez olyan kérdés, amelyre válaszolni lehet, feltéve, hogy a szervezet tudja, mit tud valójában elviselni — nem csak azt, mit szeretne.
Gyakori hiba a szabályokat egyszeri munkaként kezelni. Meghatározva, megvalósítva, kész. A gyakorlatban azonban azok a körülmények, amelyeken egy szabály alapul, elmozdulnak: új jogszabály, más ügyfélállomány, egy incidens, amely feltár egy vakfoltot. Azok a szabályok, amelyek nem mozdulnak ezzel együtt, egy adott pillanatban egy már nem létező kockázat ellen védenek, nem pedig a valóban létező kockázat ellen.
Ez is az egyik oka annak, hogy milyen gyakran kell megismételni egy érettségi mérést olyan kérdés, amely túllép egy naptári megállapodáson. A szabályok, amelyek ma megfelelnek a szervezet szintjének, egy év múlva már nem feltétlenül azok — mindkét irányban. Egy szervezet, amely érettebbé vált, nagyobb mandátumot indokolhat. Egy szervezet, amely növekedett anélkül, hogy a felügyeletet is növelte volna, éppen kevesebbet bizonyulhat elviselni, mint amit a szabályok papíron megengednek.
Ez a cikk nem ír le megvalósítási lépéseket, és nem ad sablont egy szabálydokumentumhoz. Minden szervezet saját határokat állapít meg, saját kockázatvállalási hajlandósága és saját felügyelete alapján. Ami minden szervezetre igaz: aki csak azután állítja fel az ügynökszabályokat, hogy egy rendszer már működik, azokat időnyomás alatt, gyakran egy incidens nyomán állítja fel. Ez a legköltségesebb módja ennek megtanulására. A kérdés nem az, hogy szükségesek-e a szabályok, hanem az, hogy léteznek-e még mielőtt a gyakorlat próbára tenné őket. És aki csak arra figyel, mi történik a chatablakban, elmulasztja azt, amit nem lát, ha csak a chatablakot ismeri — azaz mindent, amit előre rögzítettek, és azt, mi történik, amint egy eset kilép a meghatározott határokon.
Az ügynökszabályok meghatározzák a mandátum határait. Nem mondanak semmit arról, hogy a munka mely része alkalmas valóban az átvételre, és mi az, amit más okokból embernél kell tartani. Erre a kérdésre ad választ az FTE TO AI munkaanalízise: ez feladatonként kiszámítja, mely rész vehető át, és így megalapozza azt, amire az ügynökszabályok azután felépíthetők — a munka egyértelmű ismerete nélkül nehéz megalapozni a szabályokat, és egyértelmű szabályok nélkül a feladatanalízis nem eredményez használható határt.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.