Ethiek is in de volwassenheidsmeting geen aparte afdeling en geen gedragscode die in een la ligt. Het is de dimensie die meet of een organisatie weet welke beslissingen zij aan een systeem overlaat, wie daar verantwoordelijk voor is, en of dat te verantwoorden is naar klanten, medewerkers en toezichthouders. Een systeem kan snel en correct werken en toch een probleem zijn als niemand kan uitleggen waarom het deze uitkomst geeft, of als niemand vooraf heeft nagedacht over de gevallen waarin het misgaat.
Deze dimensie hangt samen met andere, maar staat er niet los van. Wie niet weet welke data een model gebruikt, kan ook niet beoordelen of een uitkomst uitlegbaar of eerlijk is — dat raakt aan wat privacy en beveiliging al op orde moet hebben. En wie niemand heeft aangewezen die AI-uitkomsten mag afkeuren, mist een stap die normaal bij prestatiemanagement wordt geregeld: wie beoordeelt wat, en op welke grond.
Op het niveau baseline is ethiek meestal geen thema. Er is geen incident geweest, dus er is geen aanleiding om na te denken over uitlegbaarheid of bias. Beslissingen over AI-inzet worden genomen zonder dat iemand de vraag stelt of dat verantwoord is. Dat is niet per se onverstandig — het is vaak simpelweg nog niet aan de orde geweest. Meer over wat dat niveau in de praktijk inhoudt leest u bij wat het niveau baseline betekent.
Op foundation is er meestal een eerste document: een intern standpunt, een paar afspraken over welke toepassingen wel en niet acceptabel zijn. Dat document wordt zelden geraadpleegd voordat een nieuwe toepassing wordt gestart. Zie wat het niveau foundation betekent voor de bredere context van dat niveau.
Op activation wordt ethiek onderdeel van het proces: nieuwe AI-toepassingen worden vooraf getoetst, er is een vast moment waarop iemand vraagt wie de uitkomst kan uitleggen en wie aansprakelijk is als het misgaat. Op insight wordt dat toetsen gemeten: de organisatie houdt bij welke toepassingen zijn beoordeeld, welke afwijkingen zijn gevonden en hoe die zijn opgelost. Op intelligence is ethische toetsing geen apart proces meer maar verweven in de manier waarop AI-toepassingen worden ontwikkeld en bijgehouden, met een doorlopend zicht op waar risico ontstaat voordat het zich voordoet.
De spreiding tussen wat verschillende mensen in uw organisatie op deze dimensie scoren, is vaak groter dan bij andere dimensies. Een jurist ziet risico's die een operationeel manager niet ziet, en omgekeerd ziet een operationeel manager praktijken die op papier niet bestaan. Die spreiding, zichtbaar gemaakt in de plot-ronde, is meestal informatiever dan het gemiddelde.
Wat het kost om een niveau te stijgen, hangt af van waar het knelpunt zit. Bij de overgang van baseline naar foundation gaat het vaak niet om geld maar om tijd van de juiste mensen: iemand moet de vraag stellen die nog niemand heeft gesteld, en een eerste kader op papier zetten. Dat kader hoeft niet compleet te zijn om nuttig te zijn.
Bij de overgang van foundation naar activation verandert de aard van de opgave. Dan gaat het niet meer om een document maar om een gewoonte: een vast moment in elk project waarop iemand de ethische vraag stelt, en een persoon die bevoegd is om op basis daarvan een toepassing tegen te houden. Dat vraagt iets van mensen en vaardigheden, omdat die persoon moet kunnen beoordelen wat een AI-systeem wel en niet aankan, en dat is een vaardigheid die niet overal aanwezig is.
Bij de overgang naar insight en intelligence komt er meer bij: een manier om toetsingen bij te houden, patronen te herkennen over meerdere toepassingen heen, en te leren van wat eerder is misgegaan. Dat kost geen groot budget, maar wel volhouden — het is makkelijker om een toetsingsmoment één keer te doen dan om het structureel te herhalen als de druk om snel te leveren toeneemt.
Wat het niet kost, is een aparte ethiekafdeling of een externe toetsingscommissie. De meeste organisaties die op dit vlak stijgen, doen dat met de mensen die er al zijn, door de vraag een vaste plek te geven in een proces dat al bestaat.
Deze dimensie is een van zeven, en staat niet op zichzelf. Ethiek stijgt niet als organisatie, IT-infrastructuur of datamanagement nog geen niveau hebben bereikt waarop uitkomsten te herleiden zijn — uitleggen wat een model doet, vraagt dat u weet welke data erin gaat en hoe het systeem is opgezet. Wilt u zien hoe deze dimensie zich verhoudt tot de andere zes en waar de spreiding in uw eigen organisatie het grootst is, dan geeft de volwassenheidsmeting daar een beeld van.
Deze pagina gaat over of uw organisatie AI kan dragen — of er een fundament staat waarop verantwoord besluiten genomen kunnen worden. Een andere vraag, die hier niet wordt beantwoord, is welk deel van het feitelijke werk AI zou kunnen overnemen. Die vraag rekent de werkscan van FTE TO AI per taak uit, zodat u ziet waar potentieel zit los van de vraag of de organisatie daar al klaar voor is.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Antwoorden komen uit de kennisbank van deze site. Geen advies op maat, en geen scan van uw bedrijf.