Колко зряла е вашата етика, когато става дума за AI

Етиката звучи като тема за работна група, която се събира два пъти годишно. На практика тя е измерението, което определя дали едно AI приложение може да продължи да работи в момента, в който някой зададе труден въпрос. Кой решава дадено резултат да се използва, кой носи последствията, ако този резултат се окаже грешен, и на базата на каква преценка се взема това решение: ако на това няма отговор, пилотният проект стои на нестабилна основа, дори когато технологията работи.

Какво измерва това измерение

Измерването на зрелостта не гледа дали има етичен кодекс на страницата на интранет мрежата. То гледа дали етичните преценки намират място в самата работа: в начина, по който се одобрява AI приложение, в кой има право да върне назад дадено решение, в начина, по който се процедира с резултат, който никой не е предвидил. Това не са въпроси, които съществуват отделно от останалата част на организацията. Те са свързани с измеренията, които трябва да стоят преди тях: организация, която все още няма структура за възлагане на решения, свързани с AI, трудно може да носи етична рамка, която отива по-далеко от декларация за намерения. Същото важи и по отношение на инфраструктурата и обработката на данни: кой не знае какви данни е използвал даден модел, не може да даде смислен отговор на въпроса дали това използване е било отговорно.

Петте нива, от базово до intelligence

На базово ниво етиката съществува като тема най-вече в реакция на инциденти. Няма установена рамка; когато нещо се случи, се разглежда ad hoc, обикновено от когото случайно се окаже наблизо. На foundation ниво има документ, често взет от секторен стандарт или юридически шаблон, но той рядко се консултира преди да се вземе решение — съществува, но не функционира.

При activation рамката започва да участва в процеса: има фиксиран момент, в който новото AI приложение се оценява за възможна вреда, предразсъдъци или непредвидена употреба, и този момент не се пропуска. При insight тази оценка се захранва от това, което действително се случва: резултатите се следят, отклоненията се обсъждат, а рамката се коригира въз основа на това, което практиката показва, а не въз основа на предварителни очаквания.

Нивото intelligence не е толкова по-дебел документ, колкото организация, в която етичната преценка е вплетена в самото вземане на решения: хора на различни места разпознават сива зона преди тя да се превърне в проблем, и има навик тази зона да се обсъжда открито, без да е нужен формален ескалационен процес.

Къде се вижда разликата

Разликата между нивата не се крие в текста на политически документ, а в това какво се случва в момента, в който нещо се обърка. На по-ниските нива тогава се търси кой е направил грешката. На по-високите нива се разглежда дали рамката е могла да поеме този момент, и ако не — какво се променя в резултат на това. Друг сигнал е кой има право да зададе въпроса. Ако етично съмнение може да се повдигне само през формален канал, то често остава по пътя. Ако всеки, който работи с AI приложение, може да повдигне въпрос, без да трябва да оправдава причината за това, това е знак, че рамката е жива.

Това измерение не стои отделно от останалите шест. То пряко засяга например как вашата организация се справя с поверителността и сигурността при AI, защото етична рамка без ясен отговор кой има право да вижда какви данни, е рамка без основа. То засяга и какво знаят и могат вашите хора, когато става дума за AI: служител, който не разбира как модел достига до определен резултат, трудно може да прецени дали е етично отговорно този резултат да се използва. И то засяга как се измерват и обсъждат резултатите в AI среда, защото система за оценка, която управлява само по скорост, третира етичните преценки като забавяне, а не като необходимост.

Кръгът с графиката: защо разсейването казва повече от средна стойност

Един единствен резултат за това измерение казва малко. Онова, което наистина показва нещо, е какво се случва, когато няколко хора в организацията, отделно, без съгласуване, дадат собствената си оценка. CHRO, който постави рамката на foundation ниво, докато ръководител на екип я вижда на activation, не показва грешка в измерването, а организация, в която рамката съществува на хартия и на практика не се използва по предназначение. Точно за такова разсейване е създаден кръгът с графиката: не за да се изчисли средна стойност, а за да се покаже къде представите се разминават и защо.

Какво изисква едно ниво по-нагоре

Една стъпка нагоре в това измерение рядко изисква нов документ. Тя изисква фиксиран момент в процеса, в който се задава въпросът, хора, които се чувстват свободни да зададат този въпрос, и начин да се учи от случващото се, когато рамката не е достатъчна. Колко ще струва това във време и внимание зависи от къде вече стои организацията по фундаменталните измерения; за повече информация вижте разработката на какво струва да се повдигне организационната структура с едно ниво.

Измерването на зрелостта показва дали организацията може да носи отговорност за AI приложение, етично и не само. То не казва нищо за коя част от самата работа е подходяща да се предостави на AI. На този въпрос отговаря работният анализ на FTE TO AI: той изчислява по задача коя част от работата може да се предаде, при вече съществуващите рамки. Двете измервания се допълват взаимно, но не започват от един и същ въпрос; тази страница разглежда носенето на отговорност, не предаването на работата.