Etica nu este, în cadrul măsurării maturității, un departament separat și nici un cod de conduită care stă într-un sertar. Este dimensiunea care măsoară dacă o organizație știe ce decizii lasă în sarcina unui sistem, cine este responsabil pentru acestea și dacă acest lucru poate fi justificat față de clienți, angajați și autorități de supraveghere. Un sistem poate funcționa rapid și corect și totuși să reprezinte o problemă dacă nimeni nu poate explica de ce oferă acest rezultat, sau dacă nimeni nu s-a gândit dinainte la situațiile în care lucrurile pot merge greșit.
Această dimensiune este legată de celelalte, dar nu este independentă de ele. Cine nu știe ce date folosește un model, nu poate evalua nici dacă un rezultat este explicabil sau echitabil — acest lucru privește ceea ce confidențialitatea și securitatea trebuie deja să aibă în ordine. Și cine nu a numit pe nimeni care să poată respinge rezultatele AI, îi lipsește un pas care în mod normal este reglementat la managementul performanței: cine evaluează ce, și pe ce bază.
La nivelul baseline, etica de obicei nu este o temă. Nu a existat niciun incident, deci nu există un motiv pentru a reflecta asupra explicabilității sau a părtinirii. Deciziile privind utilizarea AI se iau fără ca cineva să pună întrebarea dacă acest lucru este responsabil. Acest lucru nu este neapărat neînțelept — de multe ori pur și simplu nu a fost încă o problemă abordată. Mai multe despre ce implică acest nivel în practică găsiți la ce înseamnă nivelul baseline.
La foundation există de obicei un prim document: un punct de vedere intern, câteva acorduri despre ce aplicații sunt acceptabile și care nu. Acest document este rareori consultat înainte de a lansa o nouă aplicație. Consultați ce înseamnă nivelul foundation pentru contextul mai larg al acestui nivel.
La activation, etica devine parte din proces: noile aplicații AI sunt evaluate în avans, există un moment fix la care cineva întreabă cine poate explica rezultatul și cine este responsabil dacă lucrurile merg greșit. La insight, această evaluare este măsurată: organizația urmărește ce aplicații au fost evaluate, ce abateri au fost găsite și cum au fost rezolvate. La intelligence, evaluarea etică nu mai este un proces separat, ci este integrată în modul în care sunt dezvoltate și întreținute aplicațiile AI, cu o vizibilitate continuă asupra locului în care apare riscul înainte ca acesta să se materializeze.
Dispersia dintre scorurile pe care diferite persoane din organizația dumneavoastră le obțin pe această dimensiune este de obicei mai mare decât la alte dimensiuni. Un jurist vede riscuri pe care un manager operațional nu le vede, și invers, un manager operațional vede practici care pe hârtie nu există. Această dispersie, vizibilă în runda de plotare, este de obicei mai informativă decât media.
Cât costă ridicarea unui nivel depinde de unde se situează blocajul. La trecerea de la baseline la foundation, de obicei nu este vorba despre bani, ci despre timpul persoanelor potrivite: cineva trebuie să pună întrebarea pe care nimeni nu a pus-o încă și să scrie un prim cadru pe hârtie. Acest cadru nu trebuie să fie complet pentru a fi util.
La trecerea de la foundation la activation, natura sarcinii se schimbă. Nu mai este vorba despre un document, ci despre un obicei: un moment fix în fiecare proiect la care cineva pune întrebarea etică, și o persoană care are autoritatea de a bloca o aplicație pe baza acesteia. Acest lucru cere ceva de la oameni și competențe, pentru că această persoană trebuie să poată evalua ce poate și ce nu poate face un sistem AI, iar aceasta este o competență care nu este prezentă pretutindeni.
La trecerea către insight și intelligence se adaugă mai multe: o modalitate de a urmări evaluările, de a identifica modele pe mai multe aplicații și de a învăța din ceea ce a mers greșit anterior. Acest lucru nu costă un buget mare, dar necesită perseverență — este mai simplu să faci un moment de evaluare o singură dată decât să îl repeți structural atunci când presiunea de a livra rapid crește.
Ce nu costă este un departament separat de etică sau o comisie externă de evaluare. Majoritatea organizațiilor care progresează pe acest plan o fac cu oamenii deja existenți, dând întrebării un loc fix într-un proces care deja există.
Această dimensiune este una dintre cele șapte și nu este independentă. Etica nu progresează ca organizație, infrastructură IT sau management de date dacă acestea nu au atins încă un nivel la care rezultatele pot fi trasate — a explica ce face un model necesită să știți ce date intră în el și cum este structurat sistemul. Dacă doriți să vedeți cum se raportează această dimensiune la celelalte șase și unde este cea mai mare dispersie în propria organizație, măsurarea maturității vă oferă o imagine în acest sens.
Această pagină tratează dacă organizația dumneavoastră poate susține AI — dacă există un fundament pe baza căruia se pot lua decizii responsabile. O altă întrebare, la care nu se răspunde aici, este ce parte din munca efectivă ar putea fi preluată de AI. Această întrebare este calculată pe sarcini de scanarea de lucru a FTE TO AI, astfel încât să vedeți unde se află potențialul, independent de întrebarea dacă organizația este deja pregătită pentru acest lucru.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.