Az etika olyan témának hangzik, amivel egy munkacsoport foglalkozik, amely évente kétszer ül össze. A gyakorlatban ez az a dimenzió, amely eldönti, hogy egy AI-alkalmazás tovább működhet-e, amint valaki egy nehéz kérdést tesz fel. Ki dönt egy kimenet felhasználásáról, ki viseli a következményeket, ha az a kimenet hibásnak bizonyul, és milyen megfontolás alapján történik ez: ha erre nincs válasz, egy pilot bizonytalan alapokon áll, még akkor is, ha a technika működik.
Az érettségmérés nem azt vizsgálja, hogy van-e etikai kódex az intranet oldalon. Azt vizsgálja, hogy az etikai megfontolások valahol lecsapódnak-e a munkában magában: abban, ahogyan egy AI-alkalmazást jóváhagynak, abban, hogy ki vonhat vissza egy döntést, abban, hogyan bánnak egy olyan eredménnyel, amit senki nem látott előre. Ezek nem a szervezet többi részétől elszigetelten létező kérdések. Összefüggnek azokkal a dimenziókkal, amelyeknek korábban kell állniuk: egy szervezet, amelynek még nincs struktúrája az AI-döntések elhelyezésére, nehezen tud egy olyan etikai keretet fenntartani, amely túlmegy egy szándéknyilatkozaton. Ugyanez igaz az infrastruktúra és az adatkezelés oldalán is: aki nem tudja, milyen adatokat használt egy modell, nem tud érdemi választ adni arra a kérdésre, hogy az adott felhasználás felelős volt-e.
Baseline szinten az etika mint téma leginkább incidensekre reagálva létezik. Nincs rögzített keret; ha valami elromlik, ad hoc módon vizsgálják meg, általában az, aki éppen ott van. Foundation szinten van egy dokumentum, amelyet gyakran egy szektorstandardból vagy jogi sablonból vettek át, de ezt ritkán konzultálják egy döntés meghozatala előtt — létezik, de nem működik.
Az activation szintnél a keret elkezd beépülni a folyamatba: van egy fix pillanat, amikor egy új AI-alkalmazást felmérnek a lehetséges kár, torzítás vagy nem szándékolt felhasználás szempontjából, és ezt a pillanatot nem hagyják ki. Az insight szintnél ezt a felmérést az táplálja, amit valóban megfigyelnek: az eredményeket nyomon követik, az eltéréseket megbeszélik, és a keretet a gyakorlat által mutatott tapasztalatok alapján igazítják, nem pedig az előzetes elvárások alapján.
Az intelligence szint nem annyira egy vastagabb dokumentumot jelent, mint inkább egy olyan szervezetet, amelyben az etikai megfontolás összefonódik magával a döntéshozatallal: az emberek különböző pontokon felismerik a szürke területet, mielőtt az problémává válna, és van egy szokás, hogy ezt a területet megbeszélhetővé teszik anélkül, hogy ez formális eszkalációs folyamatot igényelne.
A szintek közötti különbség nem egy szabályzat szövegében rejlik, hanem abban, ami akkor történik, amikor valami elromlik. Az alacsonyabb szinteken ekkor azt keresik, ki hibázott. A magasabb szinteken azt vizsgálják, hogy a keret felkészülhetett volna-e erre a pillanatra, és ha nem, akkor mi változik ezen. Egy másik jelzés az, hogy ki teheti fel a kérdést. Ha egy etikai kétely csak egy formális csatornán juthat feljebb, gyakran útközben elakad. Ha bárki, aki egy AI-alkalmazással dolgozik, kérdést vethet fel anélkül, hogy indokolnia kellene azt, az annak jele, hogy a keret él.
Ez a dimenzió nem áll elszigetelten a másik hattól. Közvetlenül kapcsolódik például ahhoz, hogyan bánik az Önök szervezete a magánélettel és a biztonsággal az AI-nál, mert egy etikai keret anélkül, hogy tisztázott volna, ki milyen adatokhoz férhet hozzá, egy alap nélküli keret. Kapcsolódik ahhoz is, mit tudnak és mire képesek az Önök emberei, ha AI-ról van szó: egy munkatárs, aki nem érti, hogyan jut el egy modell egy eredményhez, nehezen tudja megítélni, hogy az az eredmény etikailag felelősen használható-e. És kapcsolódik ahhoz is, hogyan mérik és beszélik meg a teljesítményt egy AI-környezetben, mivel egy olyan értékelési rendszer, amely csak a sebességre irányul, az etikai megfontolásokat késlekedésként kezeli, nem szükségszerűségként.
Egyetlen pontszám ezen a dimenzión kevés mindent mond el. Ami valóban valamit megmutat, az az, hogy mi történik, amikor a szervezet több embere, egymástól függetlenül, tanács nélkül adja meg a saját becslését. Egy CHRO, aki a keretet foundation szintre helyezi, míg egy csapatvezető azt activation szinten látja, nem mérési hibára utal, hanem egy olyan szervezetre, amelyben a keret papíron létezik, de a gyakorlatban nem úgy használják, ahogyan szánták. Ez a szórás pontosan az, amire a plot-forduló készült: nem egy átlag kiszámítására, hanem annak megmutatására, hol térnek el a nézetek és miért.
Egy lépés feljebb ezen a dimenzión ritkán igényel új dokumentumot. Igényel egy fix pillanatot a folyamatban, amikor a kérdést feltesszék, embereket, akik szabadnak érzik magukat ezt a kérdést feltenni, és egy módot arra, hogy tanuljanak abból, ami akkor történik, amikor a keret nem elegendő. Az, hogy ez mennyi időt és figyelmet kíván, attól függ, hol áll már a szervezet az alapvető dimenziókon; aki erről többet szeretne tudni, egy kifejtést talál itt: mennyibe kerül, hogy a szervezeti struktúra egy szinttel feljebb lépjen.
Az érettségmérés megmutatja, hogy a szervezet elbír-e egy AI-alkalmazást, etikailag is, egyébként is. Nem mond semmit arról, mely része a munkának magának alkalmas arra, hogy az AI-ra bízzák. Erre a kérdésre az FTE TO AI munkaszkennere ad választ: az feladatonként kiszámítja, mely részét a munkának lehet átvenni, adott azokkal a keretekkel, amelyek már fennállnak. A két mérés kiegészíti egymást, de nem ugyanazzal a kérdéssel kezdődnek; ez az oldal az elbírásról szól, nem az átvételről.
Az eszköz, amely ezt a mérést végzi, még épül. Aki látni szeretné az eredményt, amint a mérés elérhető lesz, feliratkozhat a várólistára.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.