L'etica non è, nella misurazione della maturità, un reparto separato né un codice di condotta chiuso in un cassetto. È la dimensione che misura se un'organizzazione sa quali decisioni affida a un sistema, chi ne è responsabile, e se questo è giustificabile nei confronti di clienti, dipendenti e autorità di controllo. Un sistema può funzionare velocemente e correttamente ed essere comunque un problema se nessuno può spiegare perché produce questo risultato, o se nessuno ha riflettuto in anticipo sui casi in cui le cose vanno male.
Questa dimensione è collegata alle altre, ma non ne è isolata. Chi non sa quali dati utilizza un modello, non può nemmeno valutare se un risultato è spiegabile o equo — questo riguarda ciò che privacy e sicurezza deve già avere a posto. E chi non ha designato nessuno che possa respingere i risultati dell'AI, manca un passaggio che normalmente viene regolato in gestione delle prestazioni: chi valuta cosa, e su quale base.
Al livello baseline l'etica di solito non è un tema. Non c'è stato alcun incidente, quindi non c'è motivo di riflettere su spiegabilità o bias. Le decisioni sull'impiego dell'AI vengono prese senza che nessuno si chieda se ciò sia responsabile. Questo non è necessariamente sconsiderato — spesso semplicemente non si è ancora posta la questione. Per saperne di più su cosa significhi questo livello nella pratica, consulti cosa significa il livello baseline.
Al livello foundation di solito esiste un primo documento: una posizione interna, qualche accordo su quali applicazioni sono accettabili e quali no. Questo documento viene raramente consultato prima di avviare una nuova applicazione. Consulti cosa significa il livello foundation per il contesto più ampio di questo livello.
Al livello activation l'etica diventa parte del processo: le nuove applicazioni AI vengono valutate in anticipo, esiste un momento fisso in cui qualcuno chiede chi può spiegare il risultato e chi è responsabile se le cose vanno male. Al livello insight questa valutazione viene misurata: l'organizzazione tiene traccia di quali applicazioni sono state valutate, quali deviazioni sono state trovate e come sono state risolte. Al livello intelligence la valutazione etica non è più un processo separato ma è integrata nel modo in cui le applicazioni AI vengono sviluppate e monitorate, con una visione continua di dove nasce il rischio prima che si manifesti.
La dispersione tra i punteggi che persone diverse della sua organizzazione ottengono su questa dimensione è spesso maggiore che su altre dimensioni. Un giurista vede rischi che un responsabile operativo non vede, e viceversa un responsabile operativo vede prassi che sulla carta non esistono. Questa dispersione, rendata visibile nel giro di confronto, è di solito più informativa della media.
Quanto costa salire di un livello dipende da dove si trova l'ostacolo. Nella transizione da baseline a foundation spesso non si tratta di denaro ma di tempo delle persone giuste: qualcuno deve porre la domanda che nessuno ha ancora posto, e mettere per scritto un primo quadro di riferimento. Questo quadro non deve essere completo per essere utile.
Nella transizione da foundation a activation la natura del compito cambia. Non si tratta più di un documento ma di un'abitudine: un momento fisso in ogni progetto in cui qualcuno pone la domanda etica, e una persona autorizzata a bloccare un'applicazione sulla base di ciò. Questo richiede qualcosa da persone e competenze, perché questa persona deve poter valutare cosa un sistema AI può e non può gestire, e questa è una competenza non presente ovunque.
Nella transizione verso insight e intelligence si aggiunge di più: un modo per tenere traccia delle valutazioni, riconoscere pattern su più applicazioni, e imparare da ciò che è andato male in precedenza. Questo non richiede un grande budget, ma richiede perseveranza — è più facile eseguire una volta un momento di valutazione che ripeterlo strutturalmente quando aumenta la pressione a consegnare rapidamente.
Ciò che non costa è un reparto etico separato o una commissione di valutazione esterna. La maggior parte delle organizzazioni che salgono su questo fronte lo fanno con le persone già presenti, dando alla domanda un posto fisso in un processo già esistente.
Questa dimensione è una delle sette, e non è isolata. L'etica non sale se l'organizzazione, l'infrastruttura IT o la gestione dei dati non hanno ancora raggiunto un livello in cui i risultati sono ricostruibili — spiegare cosa fa un modello richiede di sapere quali dati vi entrano e come è strutturato il sistema. Se desidera vedere come questa dimensione si relaziona alle altre sei e dove la dispersione nella sua organizzazione è maggiore, la misurazione della maturità ne offre un quadro.
Questa pagina riguarda se la sua organizzazione può sostenere l'AI — se esiste una base su cui prendere decisioni responsabili. Un'altra domanda, a cui qui non viene data risposta, è quale parte del lavoro effettivo l'AI potrebbe rilevare. Questa domanda viene calcolata per compito dalla scansione del lavoro di FTE TO AI, così che possa vedere dove si trova il potenziale indipendentemente dal fatto che l'organizzazione sia già pronta per questo.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.