Koliko je zrela vaša etika kada je riječ o AI

Etika zvuči kao tema za radnu skupinu koja se sastaje dvaput godišnje. U praksi je to dimenzija koja određuje smije li primjena AI-a nastaviti raditi u trenutku kada netko postavi neugodno pitanje. Tko odlučuje koristiti izlazni rezultat, tko snosi posljedice ako se taj rezultat pokaže pogrešnim, i na temelju kakvog razmatranja se to događa: ako na to nema odgovora, pilot stoji na klimavim temeljima, i to čak i kada tehnologija radi.

Što ova dimenzija mjeri

Mjerenje zrelosti ne gleda postoji li etički kodeks na intranet stranici. Gleda slijeću li etička razmatranja negdje u samom poslu: u načinu na koji se primjena AI-a odobrava, u tome tko može poništiti odluku, u tome kako se postupa s ishodom koji nitko nije predvidio. To nisu pitanja koja postoje odvojeno od ostatka organizacije. Povezana su s dimenzijama koje moraju biti postavljene prije: organizacija koja još nema strukturu za smještanje odluka o AI-u teško može nositi etički okvir koji ide dalje od izjave o namjerama. Isto vrijedi za infrastrukturnu stranu i obradu podataka: tko ne zna koje je podatke model koristio, ne može smisleno odgovoriti na pitanje je li ta upotreba bila opravdana.

Pet razina, od baseline do intelligence

Na razini baseline etika kao tema postoji uglavnom kao reakcija na incidente. Ne postoji utvrđen okvir; kada nešto pođe po zlu, na to se gleda ad hoc, obično od strane onoga tko se slučajno zatekne tamo. Na razini foundation postoji dokument, često preuzet od sektorskog standarda ili pravnog predloška, ali se rijetko konzultira prije donošenja odluke — postoji, ali ne funkcionira.

Kod activation okvir počinje sudjelovati u procesu: postoji utvrđen trenutak u kojem se nova primjena AI-a procjenjuje na moguću štetu, pristranost ili nenamjeravanu upotrebu, i taj se trenutak ne preskače. Kod insight ta se procjena hrani onim što se stvarno događa: ishodi se prate, odstupanja se razmatraju, a okvir se prilagođava na temelju onoga što praksa pokazuje, a ne onoga što se unaprijed očekivalo.

Razina intelligence nije toliko deblji dokument koliko organizacija u kojoj je etičko razmatranje isprepleteno sa samim odlučivanjem: ljudi na različitim mjestima prepoznaju sivo područje prije nego što postane problem, i postoji običaj da se to područje otvoreno razmatra bez potrebe za formalnim postupkom eskalacije.

Gdje vidite razliku

Razlika između razina ne leži u tekstu dokumenta o politici, nego u tome što se događa u trenutku kada nešto pođe po zlu. Na nižim razinama tada se traži tko je počinio pogrešku. Na višim razinama gleda se je li okvir mogao obuhvatiti taj trenutak, i ako nije, što se u vezi s tim mijenja. Drugi je signal tko može postaviti pitanje. Ako etička sumnja može ići prema gore samo putem formalnog kanala, ona često ostane usput. Ako svatko tko radi s primjenom AI-a može postaviti pitanje bez potrebe opravdati povod za to, to je znak da okvir živi.

Ova dimenzija nije odvojena od preostalih šest. Izravno se, na primjer, dotiče kako vaša organizacija postupa s privatnošću i sigurnošću kod AI-a, jer etički okvir bez jasnoće o tome tko može uvidjeti koje podatke, jest okvir bez temelja. Dotiče se i onoga što vaši ljudi znaju i mogu kada je riječ o AI-u: zaposlenik koji ne razumije kako model dolazi do ishoda, teško može procijeniti je li taj ishod etički opravdano koristiti. I dotiče se kako se performanse mjere i razmatraju u okruženju s AI-om, jer sustav ocjenjivanja koji upravlja samo brzinom, etička razmatranja tretira kao odgodu, a ne kao nužnost.

Krug prikaza: zašto raspršenost govori više od prosjeka

Jedan jedini rezultat na ovoj dimenziji govori malo. Ono što nešto pokazuje jest što se događa kada više ljudi u organizaciji, odvojeno, bez međusobnog dogovora, iznese vlastitu procjenu. CHRO koji okvir postavlja na razinu foundation dok voditelj tima to vidi na razini activation, ne upućuje na pogrešku mjerenja, nego na organizaciju u kojoj okvir postoji na papiru, a u praksi se ne koristi kako je zamišljeno. Ta raspršenost je upravo ono za što je krug prikaza namijenjen: ne za izračunavanje prosjeka, nego za prikazivanje gdje se slike razilaze i zašto.

Što zahtijeva jedna razina više

Korak više na ovoj dimenziji rijetko zahtijeva novi dokument. Zahtijeva utvrđen trenutak u procesu u kojem se pitanje postavlja, ljude koji se osjećaju slobodno postaviti to pitanje, i način učenja iz onoga što se događa kada okvir zakaže. Koliko to košta u vremenu i pažnji ovisi o tome gdje se organizacija već nalazi na temeljnim dimenzijama; tko o tome želi znati više, pronaći će razradu na stranici koliko košta podizanje organizacijske strukture na razinu više.

Mjerenje zrelosti pokazuje može li organizacija nositi primjenu AI-a, etički i inače. Ne govori ništa o tome koji je dio samog posla prikladan za prepuštanje AI-u. Na to pitanje odgovara radni sken FTE TO AI: on po zadatku izračunava koji se dio posla može preuzeti, s obzirom na okvire koji već postoje. Ta dva mjerenja nadopunjuju se, ali ne polaze od istog pitanja; ova stranica govori o nošenju, ne o preuzimanju.