Etika v měření vyspělosti není samostatné oddělení ani kodex chování, který leží v zásuvce. Je to dimenze, která měří, zda organizace ví, jaká rozhodnutí přenechává systému, kdo za ně nese odpovědnost a zda je to možné obhájit vůči klientům, zaměstnancům a dozorovým orgánům. Systém může fungovat rychle a správně, a přesto být problémem, pokud nikdo nedokáže vysvětlit, proč dává tento výsledek, nebo pokud si nikdo předem nepromyslel případy, kdy se to pokazí.
Tato dimenze souvisí s ostatními, ale nestojí od nich odděleně. Kdo neví, jaká data model používá, nemůže ani posoudit, zda je výsledek vysvětlitelný nebo spravedlivý — to se dotýká toho, co už musí mít v pořádku ochrana soukromí a zabezpečení. A kdo nikoho nejmenoval, aby mohl výsledky AI zamítnout, tomu chybí krok, který se běžně řeší u řízení výkonu: kdo posuzuje co, a na jakém základě.
Na úrovni baseline etika většinou není tématem. Nedošlo k žádnému incidentu, takže není důvod přemýšlet o vysvětlitelnosti nebo zkreslení (bias). Rozhodnutí o nasazení AI se přijímají, aniž by si kdokoli položil otázku, zda je to odpovědné. To není nutně nerozumné — často to jednoduše ještě nebylo aktuální. Více o tom, co tato úroveň v praxi znamená, si přečtete u co znamená úroveň baseline v praxi.
Na úrovni foundation obvykle existuje první dokument: interní stanovisko, několik dohod o tom, jaké aplikace jsou přijatelné a jaké ne. Tento dokument se málokdy konzultuje před spuštěním nové aplikace. Širší souvislosti této úrovně naleznete u co znamená úroveň foundation v praxi.
Na úrovni activation se etika stává součástí procesu: nové aplikace AI se předem posuzují, existuje pevný okamžik, kdy se někdo zeptá, kdo dokáže výsledek vysvětlit a kdo je odpovědný, pokud se to pokazí. Na úrovni insight se toto posuzování měří: organizace sleduje, jaké aplikace byly posouzeny, jaké odchylky byly zjištěny a jak byly vyřešeny. Na úrovni intelligence už etické posuzování není samostatným procesem, ale je zakomponováno do způsobu, jakým se aplikace AI vyvíjejí a udržují, s nepřetržitým přehledem o tom, kde vzniká riziko, dříve než se projeví.
Rozptyl mezi tím, jak různí lidé ve vaší organizaci hodnotí tuto dimenzi, je často větší než u jiných dimenzí. Právník vidí rizika, která provozní manažer nevidí, a naopak provozní manažer vidí praktiky, které na papíře neexistují. Tento rozptyl, zviditelněný v kole plotování, je obvykle výmluvnější než průměr.
Co stojí posun o úroveň výš, závisí na tom, kde je překážka. Při přechodu z baseline na foundation nejde často o peníze, ale o čas správných lidí: někdo musí položit otázku, kterou ještě nikdo nepoložil, a sepsat první rámec na papír. Tento rámec nemusí být úplný, aby byl užitečný.
Při přechodu z foundation na activation se povaha úkolu mění. Pak už nejde o dokument, ale o zvyk: pevný okamžik v každém projektu, kdy se někdo zeptá na etickou otázku, a osobu, která je oprávněná na základě toho aplikaci zastavit. To vyžaduje něco od lidí a dovedností, protože tato osoba musí umět posoudit, co systém AI zvládne a co ne, a to je dovednost, která není všude přítomná.
Při přechodu na insight a intelligence přibývá další: způsob, jak posuzování zaznamenávat, rozpoznávat vzorce napříč více aplikacemi a učit se z toho, co se dříve pokazilo. To nevyžaduje velký rozpočet, ale vyžaduje vytrvalost — je snazší provést posouzení jednou než ho soustavně opakovat, když roste tlak na rychlé dodání.
Co to nestojí, je samostatné etické oddělení nebo externí posuzovací komise. Většina organizací, které se v tomto ohledu posouvají výš, to dělá s lidmi, kteří už tam jsou, tím, že dají této otázce pevné místo v procesu, který už existuje.
Tato dimenze je jednou ze sedmi a nestojí samostatně. Etika se neposouvá výš jako organizace, IT infrastruktura nebo správa dat, pokud tyto ještě nedosáhly úrovně, na které lze výsledky vysledovat — vysvětlit, co model dělá, vyžaduje, abyste věděli, jaká data do něj vstupují a jak je systém nastaven. Chcete-li vidět, jak se tato dimenze vztahuje k ostatním šesti a kde je rozptyl ve vaší vlastní organizaci největší, obrázek o tom vám poskytne měření vyspělosti.
Tato stránka se zabývá tím, zda vaše organizace může AI unést — zda existuje základ, na kterém lze přijímat odpovědná rozhodnutí. Jiná otázka, na kterou tu není odpověď, je, jakou část skutečné práce by AI mohla převzít. Tuto otázku propočítá pracovní scan FTE TO AI po jednotlivých úkolech, abyste viděli, kde je potenciál, bez ohledu na to, zda je na to organizace už připravena.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.