Etyka w pomiarze dojrzałości nie jest osobnym działem ani kodeksem postępowania, który leży w szufladzie. Jest to wymiar, który mierzy, czy organizacja wie, jakie decyzje pozostawia systemowi, kto za to odpowiada i czy da się to uzasadnić wobec klientów, pracowników i organów nadzoru. System może działać szybko i poprawnie, a mimo to stanowić problem, jeśli nikt nie może wyjaśnić, dlaczego daje taki wynik, albo jeśli nikt wcześniej nie zastanowił się nad przypadkami, w których coś idzie źle.
Ten wymiar jest powiązany z innymi, ale nie funkcjonuje w oderwaniu od nich. Kto nie wie, jakich danych używa model, nie może również ocenić, czy wynik jest wyjaśnialny lub sprawiedliwy — to dotyka tego, co powinno być już uporządkowane w ramach prywatności i bezpieczeństwa. A kto nie wyznaczył nikogo, kto może odrzucić wyniki AI, brakuje kroku, który zwykle jest regulowany w ramach zarządzania wynikami: kto co ocenia i na jakiej podstawie.
Na poziomie baseline etyka zazwyczaj nie jest tematem. Nie było incydentu, więc nie ma powodu, by zastanawiać się nad wyjaślnialnością czy błędami systematycznymi (bias). Decyzje o zastosowaniu AI są podejmowane bez zadawania pytania, czy jest to odpowiedzialne. Nie jest to koniecznie nierozsądne — po prostu temat często jeszcze się nie pojawił. Więcej o tym, co ten poziom oznacza w praktyce, można przeczytać w co oznacza poziom baseline.
Na poziomie foundation zazwyczaj istnieje pierwszy dokument: wewnętrzne stanowisko, kilka ustaleń dotyczących tego, jakie zastosowania są akceptowalne, a jakie nie. Ten dokument rzadko jest konsultowany przed uruchomieniem nowego zastosowania. Zob. co oznacza poziom foundation dla szerszego kontekstu tego poziomu.
Na poziomie activation etyka staje się częścią procesu: nowe zastosowania AI są sprawdzane z wyprzedzeniem, istnieje ustalony moment, w którym ktoś zadaje pytanie, kto może wyjaśnić wynik i kto jest odpowiedzialny, jeśli coś pójdzie źle. Na poziomie insight to sprawdzanie jest mierzone: organizacja rejestruje, które zastosowania zostały ocenione, jakie odchylenia zostały znalezione i jak zostały rozwiązane. Na poziomie intelligence ocena etyczna nie jest już osobnym procesem, lecz jest wpleciona w sposób, w jaki zastosowania AI są rozwijane i monitorowane, z ciągłym wglądem w to, gdzie powstaje ryzyko, zanim się zmaterializuje.
Rozproszenie między tym, jak różne osoby w Państwa organizacji oceniają ten wymiar, jest często większe niż w przypadku innych wymiarów. Prawnik widzi ryzyka, których nie widzi menedżer operacyjny, i odwrotnie — menedżer operacyjny widzi praktyki, które na papierze nie istnieją. To rozproszenie, uwidocznione w rundzie plotowania, jest zwykle bardziej informacyjne niż średnia.
To, co kosztuje przejście na wyższy poziom, zależy od tego, gdzie leży punkt krytyczny. Przy przejściu z baseline do foundation zazwyczaj nie chodzi o pieniądze, lecz o czas odpowiednich ludzi: ktoś musi zadać pytanie, którego jeszcze nikt nie zadał, i spisać pierwszy zarys ram. Te ramy nie muszą być kompletne, aby być użyteczne.
Przy przejściu z foundation do activation zmienia się charakter zadania. Nie chodzi już o dokument, lecz o zwyczaj: ustalony moment w każdym projekcie, w którym ktoś zadaje pytanie etyczne, i osoba upoważniona do zatrzymania zastosowania na tej podstawie. To wymaga czegoś od ludzi i umiejętności, ponieważ ta osoba musi umieć ocenić, co system AI potrafi, a czego nie, a to jest umiejętność, która nie jest wszędzie obecna.
Przy przejściu do insight i intelligence dochodzi więcej: sposób rejestrowania ocen, rozpoznawania wzorców w wielu zastosowaniach oraz uczenia się z tego, co wcześniej poszło źle. To nie wymaga dużego budżetu, ale wymaga wytrwałości — łatwiej jest przeprowadzić moment oceny jeden raz, niż powtarzać go strukturalnie, gdy wzrasta presja szybkiego dostarczania.
Co nie jest potrzebne, to osobny dział etyki czy zewnętrzna komisja oceniająca. Większość organizacji, które w tym zakresie się rozwijają, robi to z ludźmi, którzy już są, dając temu pytaniu stałe miejsce w procesie, który już istnieje.
Ten wymiar jest jednym z siedmiu i nie funkcjonuje w oderwaniu. Etyka nie wzrośnie jako organizacja, jeśli infrastruktura IT lub zarządzanie danymi jeszcze nie osiągnęły poziomu, na którym wyniki są możliwe do zrekonstruowania — wyjaśnienie, co robi model, wymaga wiedzy, jakie dane do niego wchodzą i jak system jest skonstruowany. Jeśli chcą Państwo zobaczyć, jak ten wymiar odnosi się do pozostałych sześciu i gdzie rozproszenie w Państwa własnej organizacji jest największe, pomiar dojrzałości da Państwu na to obraz.
Ta strona dotyczy tego, czy Państwa organizacja może nieść AI — czy istnieje fundament, na którym można podejmować odpowiedzialne decyzje. Inne pytanie, na które tu nie odpowiadamy, to jaka część rzeczywistej pracy mogłaby zostać przejęta przez AI. Na to pytanie odpowiada skan pracy FTE TO AI, obliczany dla każdego zadania, dzięki czemu widzą Państwo, gdzie leży potencjał, niezależnie od tego, czy organizacja jest już na to gotowa.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.