Et AI-system, der besvarer mails, vurderer en ansøgning eller udarbejder et råd, gør det på baggrund af, hvad det må. Ikke hvad det kan — det er ofte mere end ønsket — men hvad det må. Agentregler er de fastlagte grænser for det mandat: hvilke beslutninger et system selv træffer, hvilke det forelægger, og hvilke der forbliver uden for rækkevidde, uanset hvad input er.
Uden disse regler træffer et system implicitte beslutninger. Nogen har et sted fastsat en tærskel, valgt et eksempel, ignoreret en undtagelse. Det fungerer i en pilot med en håndfuld testcases. Det bliver en usynlig risiko, så snart systemet kører i stor skala, og ingen længere kan rekonstruere, hvorfor det gjorde, som det gjorde.
Agentregler bliver ofte behandlet som noget for implementeringsfasen — en indstilling, som leverandøren tager sig af. Det er en misforståelse med konsekvenser. Reglen om, at et krav under et bestemt beløb automatisk behandles, er et bestyrelsesmæssigt valg om risikoaccept, ikke en teknisk parameter. Den, der lader dette valg ligge hos teknikken, opdager først konsekvenserne, når noget går skævt.
Dette er en af grundene til, at forskellen mellem at bære AI og lade AI tage over så ofte bliver undervurderet. At tage over — lade en opgave udføre — er synligt og konkret. At bære — organisationen, der fastlægger, inden for hvilke grænser det sker, hvem der efterprøver det, og hvad der ændrer sig, når situationen ændrer sig — forbliver uadresseret, indtil den første gang det går galt.
Agentregler fastlægger, hvad et system må beslutte. De løser ikke, om organisationen er i stand til at overvåge disse regler. Et regelsæt, som ingen periodisk efterprøver, som forældes i takt med ændret lovgivning, eller som aldrig justeres efter en hændelse, er komplet på papiret og værdiløst i praksis.
Det er samtidig grænsen for, hvad disse regler kan. De er et instrument, ikke en garanti. En organisation uden klart ansvar for datakvalitet eller uden en infrastruktur, der gør det muligt at spore, hvilken beslutning der er truffet hvornår og hvorfor, har kun ringe holdepunkt i regler alene — uanset hvor præcist de er formuleret. Reglen er kun så pålidelig som det fundament, den bygger på.
I de fleste direktioner er der ikke konsensus om, hvor meget mandat et system bør have. Den ene direktør vil have hastighed og accepterer, at et system beslutter selvstændigt inden for vide marginer. Den anden vil se hvert resultat kontrolleret, før det går eksternt. Begge positioner kan forsvares, og forskellen forklarer i vid udstrækning hvorfor Deres direktion er uenig om AI-tempoet.
Agentregler gør denne samtale konkret. I stedet for at diskutere ambition i generelle termer bliver spørgsmålet: ved hvilket beløb, hvilken undtagelse, hvilken type kunde skifter systemet over til et menneske? Det er et spørgsmål, der kan besvares, forudsat at organisationen ved, hvad den reelt kan bære — ikke kun hvad den ønsker.
En hyppig fejl er at behandle regler som et engangsarbejde. Fastlagt, implementeret, færdig. I praksis skifter de omstændigheder, en regel bygger på: ny lovgivning, en anden kundebase, en hændelse, der afdækker en blind vinkel. Regler, der ikke bevæger sig med, beskytter på et givet tidspunkt mod en risiko, der ikke længere findes, og ikke mod den risiko, der reelt findes.
Det er også grunden til, at hvor ofte en modenhedsmåling skal gentages er et spørgsmål, der går videre end en kalenderaftale. De regler, der i dag passer til organisationens niveau, kan om et år ikke længere passe — i begge retninger. En organisation, der er blevet mere moden, kan forsvare mere mandat. En organisation, der er vokset uden at lade overvågningen vokse med, kan tværtimod vise sig at kunne bære mindre, end reglerne på papiret tillader.
Denne tekst beskriver ingen implementeringsskridt og ingen skabelon for et regeldokument. Hver organisation fastsætter egne grænser, baseret på egen risikovillighed og egen overvågning. Hvad der dog gælder for enhver organisation: den, der først udarbejder agentregler, efter et system allerede kører, udarbejder dem under tidspres og ofte som følge af en hændelse. Det er den dyreste måde at lære dette på. Spørgsmålet er ikke, om regler er nødvendige, men om de findes, før de bliver afprøvet af praksis. Og den, der kun ser på, hvad der sker i chatvinduet, går glip af hvad De ikke ser, hvis De kun kender chatvinduet — nemlig alt det, der er fastlagt forud, og hvad der sker, så snart et tilfælde falder uden for den fastsatte grænse.
Agentregler fastlægger grænserne for mandatet. De siger intet om, hvilken del af arbejdet der reelt er egnet til overtagelse, og hvad der af andre grunde bør forblive hos et menneske. Det spørgsmål besvarer arbejdsscanningen fra FTE TO AI: den beregner pr. opgave, hvilken del af arbejdet der kan overtages, og lægger dermed grundlaget, som agentregler efterfølgende kan bygges på — regler uden et klart billede af arbejdet selv er svære at begrunde, og en opgaveanalyse uden klare regler giver ingen brugbar grænse.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.