Etik er i modenhedsmålingen ikke en separat afdeling og ikke et adfærdskodeks, der ligger i en skuffe. Det er den dimension, der måler, om en organisation ved, hvilke beslutninger den overlader til et system, hvem der er ansvarlig for det, og om det kan forsvares over for kunder, medarbejdere og tilsynsmyndigheder. Et system kan fungere hurtigt og korrekt og alligevel være et problem, hvis ingen kan forklare, hvorfor det giver dette resultat, eller hvis ingen på forhånd har tænkt over de tilfælde, hvor det går forkert.
Denne dimension hænger sammen med andre, men står ikke isoleret. Den, der ikke ved, hvilke data en model bruger, kan heller ikke vurdere, om et resultat er forklarligt eller fair — det berører det, som privacy og sikkerhed allerede skal have i orden. Og den, der ikke har udpeget nogen, der må afvise AI-resultater, mangler et skridt, der normalt reguleres ved performance management: hvem bedømmer hvad, og på hvilket grundlag.
På niveauet baseline er etik som regel ikke et tema. Der har ikke været nogen incident, så der er ingen anledning til at tænke over forklarlighed eller bias. Beslutninger om AI-anvendelse tages, uden at nogen stiller spørgsmålet, om det er forsvarligt. Det er ikke nødvendigvis uklogt — det er ofte bare endnu ikke kommet på tale. Mere om, hvad dette niveau indebærer i praksis, kan De læse under hvad niveauet baseline betyder.
På foundation findes der som regel et første dokument: en intern holdning, et par aftaler om, hvilke anvendelser der er acceptable, og hvilke der ikke er. Det dokument bliver sjældent konsulteret, før en ny anvendelse sættes i gang. Se hvad niveauet foundation betyder for den bredere kontekst af dette niveau.
På activation bliver etik en del af processen: nye AI-anvendelser bliver vurderet på forhånd, der er et fast tidspunkt, hvor nogen spørger, hvem der kan forklare resultatet, og hvem der er ansvarlig, hvis det går forkert. På insight bliver den vurdering målt: organisationen holder styr på, hvilke anvendelser der er blevet bedømt, hvilke afvigelser der er fundet, og hvordan de er blevet løst. På intelligence er etisk vurdering ikke længere en separat proces, men vævet ind i den måde, hvorpå AI-anvendelser udvikles og følges, med et løbende overblik over, hvor risiko opstår, før den viser sig.
Spredningen mellem, hvad forskellige mennesker i Deres organisation scorer på denne dimension, er ofte større end ved andre dimensioner. En jurist ser risici, som en operationel leder ikke ser, og omvendt ser en operationel leder praksisser, der ikke findes på papir. Den spredning, som gøres synlig i plot-runden, er som regel mere informativ end gennemsnittet.
Hvad det kræver at stige et niveau, afhænger af, hvor knasten sidder. Ved overgangen fra baseline til foundation handler det ofte ikke om penge, men om tid fra de rigtige mennesker: nogen skal stille det spørgsmål, som endnu ingen har stillet, og formulere en første ramme på papir. Den ramme behøver ikke være komplet for at være nyttig.
Ved overgangen fra foundation til activation ændrer opgavens natur karakter. Da handler det ikke længere om et dokument, men om en vane: et fast tidspunkt i hvert projekt, hvor nogen stiller det etiske spørgsmål, og en person, der har bemyndigelse til på den baggrund at stoppe en anvendelse. Det kræver noget af mennesker og kompetencer, fordi den person skal kunne bedømme, hvad et AI-system kan og ikke kan klare, og det er en kompetence, der ikke findes alle steder.
Ved overgangen til insight og intelligence kommer der mere til: en måde at holde styr på vurderinger, genkende mønstre over flere anvendelser og lære af, hvad der tidligere er gået forkert. Det kræver ikke et stort budget, men det kræver at holde fast — det er lettere at gennemføre et vurderingsmoment én gang end at gentage det systematisk, når presset for at levere hurtigt stiger.
Hvad det ikke kræver, er en separat etikafdeling eller et eksternt vurderingsudvalg. De fleste organisationer, der stiger på dette område, gør det med de mennesker, der allerede er der, ved at give spørgsmålet en fast plads i en proces, der allerede eksisterer.
Denne dimension er en af syv og står ikke alene. Etik stiger ikke, hvis organisation, IT-infrastruktur eller datamanagement endnu ikke har nået et niveau, hvor resultater kan spores tilbage — at forklare, hvad en model gør, kræver, at De ved, hvilke data der går ind, og hvordan systemet er opbygget. Vil De se, hvordan denne dimension forholder sig til de andre seks, og hvor spredningen i Deres egen organisation er størst, giver modenhedsmålingen et billede af det.
Denne side handler om, hvorvidt Deres organisation kan bære AI — om der findes et fundament, hvorpå der kan træffes ansvarlige beslutninger. Et andet spørgsmål, som ikke besvares her, er, hvilken del af det faktiske arbejde AI ville kunne overtage. Det spørgsmål beregner werkscan fra FTE TO AI pr. opgave, så De kan se, hvor potentialet ligger, uafhængigt af spørgsmålet om, om organisationen allerede er klar til det.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.