Un sistema di AI che risponde a email, valuta una richiesta o redige un parere, lo fa in base a ciò che può fare. Non ciò che è in grado di fare — che è spesso più di quanto desiderato — ma ciò che gli è consentito fare. Le regole degli agenti sono i confini stabiliti di quel mandato: quali decisioni un sistema prende autonomamente, quali sottopone a valutazione, e quali restano fuori portata, indipendentemente dall'input.
Senza queste regole, un sistema prende decisioni implicite. Qualcuno da qualche parte ha impostato una soglia, scelto un esempio, ignorato un'eccezione. Funziona in un pilota con una manciata di casi di test. Diventa un rischio invisibile non appena il sistema opera su larga scala e nessuno riesce più a ricostruire perché ha fatto ciò che ha fatto.
Le regole degli agenti vengono spesso trattate come qualcosa per la fase di implementazione — un'impostazione che il fornitore gestisce. È un equivoco con conseguenze. La regola secondo cui un sinistro sotto un certo importo viene gestito automaticamente è una scelta di governance sull'accettazione del rischio, non un parametro tecnico. Chi lascia quella scelta alla tecnica ne scopre le conseguenze solo quando qualcosa va storto.
Questa è una delle ragioni per cui la differenza tra affidare l'AI e cedere all'AI viene così spesso sottovalutata. Cedere — far eseguire un compito — è visibile e concreto. Affidare — l'organizzazione che stabilisce entro quali confini ciò avviene, chi lo verifica e cosa cambia se la situazione cambia — resta inespresso finché non va storto per la prima volta.
Le regole degli agenti stabiliscono cosa un sistema può decidere. Non risolvono la questione se l'organizzazione sia in grado di sorvegliare quelle regole. Un insieme di regole che nessuno verifica periodicamente, che diventa obsoleto rispetto a una normativa modificata o che non viene mai rivisto dopo un incidente, è completo sulla carta e inutile nella pratica.
Ecco subito il limite di ciò che queste regole possono fare. Sono uno strumento, non una garanzia. Un'organizzazione senza una chiara responsabilità sulla qualità dei dati, o senza un'infrastruttura che renda tracciabile quale decisione è stata presa, quando e perché, ha poco su cui fare affidamento con le sole regole — per quanto precisamente siano state formulate. La regola è affidabile quanto le fondamenta su cui si basa.
Nella maggior parte dei consigli direttivi non c'è consenso su quanto mandato dovrebbe avere un sistema. Un dirigente vuole velocità e accetta che un sistema decida autonomamente entro margini ampi. Un altro vuole vedere ogni esito controllato prima che vada all'esterno. Entrambe le posizioni sono difendibili, e la differenza spiega in gran parte perché il vostro consiglio direttivo è in disaccordo sul ritmo dell'AI.
Le regole degli agenti rendono concreta quella discussione. Invece di discutere di ambizione in termini generali, la domanda diventa: a quale importo, quale eccezione, quale tipo di cliente il sistema passa la mano a una persona? È una domanda a cui si può rispondere, purché l'organizzazione sappia cosa può realmente sostenere — non solo cosa desidera.
Un errore comune è trattare le regole come un lavoro da fare una volta sola. Stabilite, implementate, finito. Nella pratica, le circostanze su cui si basa una regola cambiano: nuova normativa, un parco clienti diverso, un incidente che rivela un punto cieco. Le regole che non si adattano a questo, a un certo punto proteggono da un rischio che non esiste più, e non dal rischio che invece esiste.
Ecco anche perché quanto spesso una misurazione della maturità deve essere ripetuta è una domanda che va oltre un semplice appuntamento sul calendario. Le regole adeguate oggi al livello dell'organizzazione potrebbero non esserlo più entro un anno — in entrambe le direzioni. Un'organizzazione diventata più matura può giustificare più mandato. Un'organizzazione crescita senza far crescere di pari passo la sorveglianza può risultare invece in grado di sostenere meno di quanto le regole sulla carta consentano.
Questo testo non descrive passaggi di implementazione né un modello per un documento di regole. Ogni organizzazione stabilisce i propri confini, basati sulla propria propensione al rischio e sulla propria supervisione. Ciò che vale per ogni organizzazione: chi redige le regole degli agenti solo dopo che un sistema è già operativo, le redige sotto pressione di tempo e spesso in seguito a un incidente. È il modo più costoso per imparare questa lezione. La domanda non è se le regole siano necessarie, ma se esistano prima di essere messe alla prova dalla pratica. E chi guarda solo a ciò che accade nella finestra di chat perde ciò che non si vede se si conosce solo la finestra di chat — cioè tutto ciò che è stato stabilito in anticipo e ciò che accade non appena un caso esce dal confine fissato.
Le regole degli agenti determinano i confini del mandato. Non dicono nulla su quale parte del lavoro sia effettivamente idonea alla cessione, e cosa debba restare in mano a una persona per altri motivi. A questa domanda risponde la scansione del lavoro di FTE TO AI: calcola per ogni compito quale parte del lavoro può essere cedimento, gettando così le basi su cui costruire successivamente le regole degli agenti — regole senza un quadro chiaro del lavoro stesso sono difficili da giustificare, e un'analisi dei compiti senza regole chiare non produce un confine utilizzabile.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.