Ett AI-system som besvarar mejl, bedömer en ansökan eller sammanställer ett råd, gör det utifrån vad det får göra. Inte vad det kan göra — det är ofta mer än önskvärt — utan vad det får göra. Agentregler är de fastställda gränserna för det mandatet: vilka beslut ett system fattar självständigt, vilka det lägger fram, och vilka som förblir utom räckhåll, oavsett vad indata är.
Utan dessa regler fattar ett system implicita beslut. Någon har någonstans satt en tröskel, valt ett exempel, ignorerat ett undantag. Det fungerar i en pilot med en handfull testfall. Det blir en osynlig risk så snart systemet körs i full skala och ingen längre kan rekonstruera varför det gjorde vad det gjorde.
Agentregler behandlas ofta som något för implementeringsfasen — en inställning som leverantören sköter. Det är en missuppfattning med konsekvenser. Regeln att ett anspråk under ett visst belopp hanteras automatiskt är ett styrningsbeslut om riskacceptans, inte en teknisk parameter. Den som låter det beslutet ligga hos tekniken upptäcker konsekvenserna först när något går fel.
Detta är en av anledningarna till att skillnaden mellan att bära AI och att låta AI ta över så ofta underskattas. Att ta över — låta en uppgift utföras — är synligt och konkret. Att bära — organisationen som fastställer inom vilka gränser det sker, vem som granskar det och vad som förändras när situationen förändras — förblir obesprucket tills den första gången det går fel.
Agentregler fastställer vad ett system får besluta. De löser inte om organisationen är kapabel att övervaka dessa regler. Ett regelverk som ingen granskar periodiskt, som blir föråldrat i förhållande till ändrad lagstiftning eller som aldrig justeras efter en incident, är komplett på papper och värdelöst i praktiken.
Det är samtidigt gränsen för vad dessa regler kan göra. De är ett verktyg, inte en garanti. En organisation utan tydligt ansvar för datakvalitet, eller utan infrastruktur som gör det möjligt att spåra vilket beslut som fattades när och varför, har litet stöd av regler ensamma — hur precist de än är formulerade. Regeln är bara så tillförlitlig som de grunder den vilar på.
I de flesta ledningsgrupper finns det ingen samsyn om hur stort mandat ett system borde ha. En styrelseledamot vill ha hastighet och accepterar att ett system beslutar självständigt inom vida marginaler. En annan vill se varje utfall kontrollerat innan det går externt. Båda ståndpunkterna kan försvaras, och skillnaden förklarar till stor del varför er ledning är oenig om AI-tempot.
Agentregler gör det samtalet konkret. Istället för att diskutera ambition i allmänna termer blir frågan: vid vilket belopp, vilket undantag, vilken typ av kund växlar systemet över till en människa? Det är en fråga som går att besvara, förutsatt att organisationen vet vad den verkligen kan bära — inte bara vad den vill.
Ett vanligt misstag är att behandla regler som ett engångsarbete. Fastställda, implementerade, klart. I praktiken förskjuts de omständigheter som en regel baseras på: ny lagstiftning, en annan kundstock, en incident som avslöjar en blind fläck. Regler som inte rör sig med dessa förändringar skyddar vid en viss tidpunkt mot en risk som inte längre existerar, och inte mot den risk som faktiskt existerar.
Det är också varför hur ofta en mognadsmätning måste göras om är en fråga som går längre än en kalenderöverenskommelse. De regler som idag passar organisationens nivå kan om ett år inte längre göra det — i båda riktningarna. En organisation som har blivit mer mogen kan motivera mer mandat. En organisation som har vuxit utan att låta övervakningen växa med kan visa sig kunna bära mindre än vad reglerna på papper tillåter.
Denna text beskriver inga implementeringssteg och ingen mall för ett regeldokument. Varje organisation fastställer egna gränser, baserade på egen riskbenägenhet och egen tillsyn. Vad som däremot gäller för varje organisation: den som upprättar agentregler först efter att ett system redan körs, upprättar dem under tidspress och ofta till följd av en incident. Det är det dyraste sättet att lära sig detta. Frågan är inte om regler behövs, utan om de finns innan de prövas av verkligheten. Och den som bara ser på vad som händer i chattfönstret missar vad ni inte ser om ni bara känner chattfönstret — nämligen allt som är fastställt i förväg och vad som händer så snart ett fall hamnar utanför den satta gränsen.
Agentregler bestämmer mandatets gränser. De säger inget om vilken del av arbetet som faktiskt är lämplig för övertagande, och vad som av andra skäl måste förbli hos en människa. Den frågan besvarar FTE TO AI:s werkscan: den räknar per uppgift ut vilken del av arbetet som kan tas över, och lägger därmed grunden som agentregler sedan kan byggas på — regler utan en tydlig bild av själva arbetet är svåra att underbygga, och en uppgiftsanalys utan tydliga regler ger ingen användbar gräns.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.