Etik är i mognadsmätningen ingen separat avdelning och ingen uppförandekod som ligger i en låda. Det är den dimension som mäter om en organisation vet vilka beslut den lämnar åt ett system, vem som är ansvarig för det, och om det går att motivera inför kunder, medarbetare och tillsynsmyndigheter. Ett system kan fungera snabbt och korrekt och ändå vara ett problem om ingen kan förklara varför det ger detta resultat, eller om ingen i förväg har tänkt igenom de fall där det går fel.
Denna dimension hänger samman med andra, men står inte fristående. Den som inte vet vilken data en modell använder kan heller inte bedöma om ett resultat är förklarbart eller rättvist — det berör vad integritet och säkerhet redan måste ha i ordning. Och den som inte har utsett någon som får underkänna AI-resultat saknar ett steg som normalt hanteras vid prestationsstyrning: vem bedömer vad, och på vilken grund.
På nivån baseline är etik oftast inget tema. Det har inte inträffat någon incident, så det finns ingen anledning att fundera över förklarbarhet eller bias. Beslut om AI-användning fattas utan att någon ställer frågan om det är ansvarsfullt. Det är inte nödvändigtvis oklokt — det har ofta helt enkelt ännu inte varit aktuellt. Mer om vad den nivån innebär i praktiken finns att läsa under vad nivån baseline innebär.
På foundation finns oftast ett första dokument: ett internt ställningstagande, några överenskommelser om vilka tillämpningar som är acceptabla och vilka som inte är det. Det dokumentet konsulteras sällan innan en ny tillämpning påbörjas. Se vad nivån foundation innebär för det bredare sammanhanget kring den nivån.
På activation blir etik en del av processen: nya AI-tillämpningar granskas i förväg, det finns ett fast tillfälle där någon frågar vem som kan förklara resultatet och vem som är ansvarig om det går fel. På insight mäts den granskningen: organisationen håller reda på vilka tillämpningar som har bedömts, vilka avvikelser som hittats och hur de har åtgärdats. På intelligence är den etiska granskningen inte längre en separat process utan invävd i hur AI-tillämpningar utvecklas och underhålls, med en löpande överblick över var risk uppstår innan den blir verklighet.
Spridningen mellan vad olika personer i er organisation skattar på denna dimension är ofta större än vid andra dimensioner. En jurist ser risker som en operativ chef inte ser, och omvänt ser en operativ chef praxis som inte finns på papper. Den spridningen, synliggjord i plot-rundan, är oftast mer informativ än genomsnittet.
Vad det kostar att höja en nivå beror på var flaskhalsen ligger. Vid övergången från baseline till foundation handlar det ofta inte om pengar utan om tid från rätt personer: någon måste ställa den fråga som ännu ingen har ställt, och formulera ett första ramverk på papper. Det ramverket behöver inte vara komplett för att vara användbart.
Vid övergången från foundation till activation förändras uppgiftens karaktär. Då handlar det inte längre om ett dokument utan om en vana: ett fast tillfälle i varje projekt där någon ställer den etiska frågan, och en person som har befogenhet att på grundval av det stoppa en tillämpning. Det kräver något av människor och kompetenser, eftersom den personen måste kunna bedöma vad ett AI-system klarar av och inte, och det är en färdighet som inte finns överallt.
Vid övergången till insight och intelligence tillkommer mer: ett sätt att hålla reda på granskningar, känna igen mönster över flera tillämpningar, och lära av vad som tidigare gått fel. Det kostar ingen stor budget, men kräver uthållighet — det är lättare att göra ett granskningstillfälle en gång än att upprepa det systematiskt när trycket att leverera snabbt ökar.
Vad det inte kostar är en separat etikavdelning eller en extern granskningskommitté. De flesta organisationer som stiger på detta område gör det med de människor som redan finns, genom att ge frågan en fast plats i en process som redan existerar.
Denna dimension är en av sju, och står inte för sig själv. Etik stiger inte som organisation, IT-infrastruktur eller datahantering ännu inte har nått en nivå där resultat kan spåras — att förklara vad en modell gör kräver att ni vet vilken data som går in och hur systemet är uppbyggt. Vill ni se hur denna dimension förhåller sig till de andra sex och var spridningen i er egen organisation är störst, ger mognadsmätningen en bild av det.
Denna sida handlar om huruvida er organisation kan bära AI — om det finns ett fundament där ansvarsfulla beslut kan fattas. En annan fråga, som inte besvaras här, är vilken del av det faktiska arbetet AI skulle kunna ta över. Den frågan räknar FTE TO AI:s arbetsscan ut per uppgift, så att ni ser var potentialen finns oberoende av frågan om organisationen redan är redo för det.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.