Etik låter som ämnet för en arbetsgrupp som träffas två gånger om året. I praktiken är det den dimension som avgör om en AI-tillämpning får fortsätta köra så snart någon ställer en besvärlig fråga. Vem som beslutar att använda en output, vem som bär konsekvenserna om den output visar sig vara fel, och utifrån vilken avvägning det sker: om det inte finns ett svar på det, står en pilot på lös grund, även om tekniken fungerar.
Mognadsmätningen tittar inte på om det finns en etisk kod på intranätsidan. Den tittar på om etiska avvägningar landar någonstans i själva arbetet: i hur en AI-tillämpning godkänns, i vem som får dra tillbaka ett beslut, i hur man hanterar ett utfall som ingen hade förutsett. Det är inte frågor som existerar separat från resten av organisationen. De hänger samman med de dimensioner som måste komma tidigare: en organisation som ännu inte har en struktur för att förlägga AI-beslut, kan svårligen bära ett etiskt ramverk som går längre än en avsiktsförklaring. Detsamma gäller på infrastruktursidan och databehandlingen: den som inte vet vilken data en modell har använt, kan inte ge ett meningsfullt svar på frågan om det användandet var ansvarsfullt.
På baseline-nivå existerar etik som tema främst som reaktion på incidenter. Det finns inget fastställt ramverk; går något fel tittar man på det ad hoc, oftast av den som råkar stå bredvid. På foundation-nivå finns ett dokument, ofta hämtat från en branschstandard eller juridisk mall, men det konsulteras sällan innan ett beslut fattas — det existerar men fungerar inte.
Vid activation börjar ramverket löpa med i processen: det finns ett fast tillfälle där en ny AI-tillämpning bedöms för möjlig skada, snedvridning eller oavsiktlig användning, och det tillfället hoppas inte över. Vid insight matas den bedömningen av vad som faktiskt sker: utfall följs upp, avvikelser diskuteras, och ramverket anpassas utifrån vad praktiken visar snarare än vad som förväntades i förväg.
Intelligence-nivån är inte så mycket ett tjockare dokument som en organisation där etisk avvägning är sammanflätad med själva beslutsfattandet: människor på olika platser känner igen en gråzon innan den blir ett problem, och det finns en vana att göra den zonen diskuterbar utan att det kräver en formell eskaleringsväg.
Skillnaden mellan nivåerna ligger inte i texten i ett policydokument utan i vad som händer i det ögonblick något går fel. På de lägre nivåerna letar man då efter vem som gjorde felet. På de högre nivåerna tittar man på om ramverket hade kunnat fånga upp momentet, och om inte, vad som då ändras. En annan signal är vem som får ställa frågan. Om etiskt tvivel bara får föras uppåt via en formell kanal, blir det ofta liggande på vägen. Om alla som arbetar med en AI-tillämpning kan väcka en fråga utan att behöva motivera anledningen till det, är det ett tecken på att ramverket lever.
Denna dimension står inte fristående från de andra sex. Den rör exempelvis direkt hur er organisation hanterar integritet och säkerhet vid AI, för ett etiskt ramverk utan klarhet om vem som får se vilken data, är ett ramverk utan grund. Den rör också vad era medarbetare vet och kan när det gäller AI: en medarbetare som inte förstår hur en modell kommer fram till ett utfall, kan svårligen bedöma om det utfallet är etiskt försvarbart att använda. Och den rör hur prestationer mäts och diskuteras i en AI-miljö, eftersom ett bedömningssystem som bara styr på hastighet, behandlar etiska avvägningar som fördröjning istället för nödvändighet.
En enskild poäng på denna dimension säger lite. Vad som visar något är vad som händer när flera personer i organisationen, var för sig och utan samråd, ger sin egen bedömning. En CHRO som placerar ramverket på foundation-nivå medan en teamledare ser det på activation, pekar inte på ett mätfel utan på en organisation där ramverket finns på papper och i praktiken inte används som avsett. Den spridningen är precis vad plot-rundan är gjord för: inte för att beräkna ett genomsnitt, utan för att visa var bilderna går isär och varför.
Ett steg uppåt på denna dimension kräver sällan ett nytt dokument. Det kräver ett fast tillfälle i processen där frågan ställs, människor som känner sig fria att ställa den frågan, och ett sätt att lära av vad som händer när ramverket brister. Hur mycket det kostar i tid och uppmärksamhet beror på var organisationen redan står på de grundläggande dimensionerna; den som vill veta mer om det hittar en utredning hos vad det kostar att låta organisationsstrukturen stiga en nivå.
Mognadsmätningen visar om organisationen kan bära en AI-tillämpning, etiskt och i övrigt. Den säger ingenting om vilken del av själva arbetet som är lämplig att lämna över till AI. Den frågan besvarar arbetsmätningen från FTE TO AI: den räknar per uppgift ut vilken del av arbetet som kan tas över, givet de ramverk som redan finns. De två mätningarna kompletterar varandra, men börjar inte vid samma fråga; denna sida handlar om att bära, inte om att ta över.
Verktyget som utför denna mätning håller fortfarande på att byggas. Den som vill se resultatet så snart mätningen blir tillgänglig, kan anmäla sig till väntelistan.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.