Етиката в измерването на зрелостта не е отделен отдел, нито кодекс за поведение, който лежи в чекмедже. Това е измерението, което показва дали организацията знае кои решения предоставя на система, кой носи отговорност за това и дали това може да се обоснове пред клиенти, служители и надзорни органи. Система може да работи бързо и коректно и все пак да представлява проблем, ако никой не може да обясни защо дава точно този резултат, или ако никой не е обмислил предварително случаите, в които нещо може да се обърка.
Това измерение е свързано с другите, но не стои отделно от тях. Който не знае какви данни използва модел, не може да прецени дали резултатът е обясним или справедлив — това засяга онова, което приватността и сигурността вече трябва да имат наред. А който не е определил никой, който може да отхвърли резултатите от AI, пропуска стъпка, която обикновено се урежда при управлението на резултатите: кой оценява какво и на какво основание.
На ниво baseline етиката обикновено не е тема. Не е имало инцидент, така че няма повод да се мисли за обясняемост или отклонение. Решенията за внедряване на AI се вземат, без някой да задава въпроса дали това е отговорно. Това не е задължително неразумно — просто често все още не е било разгледано. Повече за това какво означава това ниво на практика можете да прочетете при какво означава нивото baseline на практика.
На foundation обикновено има първи документ: вътрешна позиция, няколко договорености за кои приложения са приемливи и кои не. Този документ рядко се консултира преди стартиране на ново приложение. Вижте какво означава нивото foundation на практика за по-широкия контекст на това ниво.
На activation етиката става част от процеса: новите AI приложения се проверяват предварително, има фиксиран момент, в който някой пита кой може да обясни резултата и кой носи отговорност, ако нещо се обърка. На insight тази проверка се измерва: организацията следи кои приложения са били оценени, какви отклонения са открити и как са решени. На intelligence етичната проверка вече не е отделен процес, а е вплетена в начина, по който се разработват и поддържат AI приложенията, с непрекъснат поглед върху къде възниква риск, преди да се прояви.
Разпределението между това, което различните хора във вашата организация оценяват по това измерение, често е по-голямо отколкото при другите измерения. Юрист вижда рискове, които операционен ръководител не вижда, и обратно, операционен ръководител вижда практики, които на хартия не съществуват. Това разпределение, направено видимо в кръга на изобразяване (plot-ronde), обикновено носи повече информация от средната стойност.
Колко струва издигането на едно ниво, зависи от къде се намира препятствието. При преминаването от baseline към foundation често не става въпрос за пари, а за времето на правилните хора: някой трябва да зададе въпроса, който все още никой не е задал, и да постави първа рамка на хартия. Тази рамка не трябва да е пълна, за да е полезна.
При преминаването от foundation към activation характерът на задачата се променя. Тогава вече не става дума за документ, а за навик: фиксиран момент във всеки проект, в който някой задава етичния въпрос, и лице, което има правомощие да спре приложение на тази основа. Това изисква нещо от хората и уменията, защото това лице трябва да може да прецени какво AI система може и какво не може да поеме, и това е умение, което не е налично навсякъде.
При преминаването към insight и intelligence се добавя още повече: начин за проследяване на проверките, разпознаване на закономерности в множество приложения и учене от случилото се преди. Това не изисква голям бюджет, но изисква постоянство — по-лесно е да се направи проверка веднъж, отколкото да се повтаря структурно, когато натискът за бърза доставка се увеличава.
Което не изисква, е отделен отдел по етика или външна комисия за проверка. Повечето организации, които се издигат в тази област, го правят с хората, които вече имат, като дават на въпроса постоянно място в процес, който вече съществува.
Това измерение е едно от седем и не стои самостоятелно. Етиката не се издига като организация, ако IT-инфраструктурата или управлението на данни още не са достигнали ниво, при което резултатите могат да бъдат проследени — обяснението на това какво прави модел изисква да знаете какви данни влизат в него и как е изградена системата. Ако искате да видите как това измерение се съотнася с другите шест и къде разпределението във вашата собствена организация е най-голямо, измерването на зрелостта дава представа за това.
Тази страница разглежда дали вашата организация може да носи AI — дали има фундамент, върху който могат да се вземат отговорни решения. Друг въпрос, на който тук не се отговаря, е коя част от фактическата работа AI би могъл да поеме. Този въпрос се изчислява от работния скенер на FTE TO AI по задача, за да видите къде има потенциал, независимо от въпроса дали организацията вече е готова за това.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.