Un sistem AI care răspunde la e-mailuri, evaluează o cerere sau întocmește un sfat, face acest lucru pe baza a ceea ce îi este permis. Nu ceea ce poate — asta este adesea mai mult decât este de dorit — ci ceea ce îi este permis. Regulile pentru agenți sunt limitele consemnate ale acelui mandat: ce decizii ia un sistem de sine stătător, pe care le înaintează spre aprobare și care rămân în afara razei sale de acțiune, indiferent de datele de intrare.
Fără aceste reguli, un sistem ia decizii implicite. Cineva a stabilit undeva un prag, a ales un exemplu, a ignorat o excepție. Acest lucru funcționează într-un pilot cu câteva cazuri de test. Devine un risc invizibil de îndată ce sistemul funcționează la scară largă și nimeni nu mai poate reconstitui de ce a făcut ceea ce a făcut.
Regulile pentru agenți sunt adesea tratate ca fiind ceva specific fazei de implementare — o setare pe care furnizorul o rezolvă. Aceasta este o concepție greșită cu consecințe. Regula conform căreia o daună sub un anumit prag este procesată automat este o decizie de conducere privind acceptarea riscului, nu un parametru tehnic. Cel care lasă această decizie în sarcina departamentului tehnic descoperă consecințele abia atunci când ceva nu merge bine.
Aceasta este unul dintre motivele pentru care diferența dintre a susține AI și a lăsa AI să preia controlul este atât de des subestimată. Preluarea controlului — a lăsa o sarcină să fie executată — este vizibilă și concretă. Susținerea — organizația care stabilește în cadrul căror limite se întâmplă acest lucru, cine verifică acest lucru și ce se schimbă atunci când situația se schimbă — rămâne nediscutată până în momentul în care ceva nu merge bine pentru prima dată.
Regulile pentru agenți stabilesc ce poate decide un sistem. Ele nu rezolvă întrebarea dacă organizația este capabilă să supravegheze aceste reguli. Un set de reguli pe care nimeni nu îl verifică periodic, care devine desuet în raport cu legislația modificată sau care nu este niciodată ajustat după un incident, este complet pe hârtie și inutil în practică.
Aceasta este imediat și limita a ceea ce pot face aceste reguli. Ele sunt un instrument, nu o garanție. O organizație fără o responsabilitate clară pentru calitatea datelor sau fără o infrastructură care să facă trasabilă decizia luată — când și de ce — are prea puțin sprijin doar din regulile respective, oricât de precis ar fi acestea formulate. Regula este la fel de fiabilă ca fundațiile pe care se sprijină.
În majoritatea consiliilor de conducere nu există un consens asupra cât mandat ar trebui să aibă un sistem. Un director dorește viteză și acceptă că un sistem decide de sine stătător în cadrul unor marje largi. Un altul dorește ca fiecare rezultat să fie verificat înainte de a fi transmis extern. Ambele poziții sunt de apărat, iar diferența explică în mare parte de ce conducerea dumneavoastră este în dezacord cu privire la ritmul AI.
Regulile pentru agenți fac această discuție concretă. În loc să se discute despre ambiție în termeni generali, întrebarea devine: la ce sumă, ce excepție, ce tip de client trece sistemul la un om? Aceasta este o întrebare la care se poate răspunde, cu condiția ca organizația să știe ce poate cu adevărat susține — nu doar ce își dorește.
O greșeală frecventă este tratarea regulilor ca fiind o activitate unică. Stabilite, implementate, terminat. În practică, circumstanțele pe care se bazează o regulă se schimbă: legislație nouă, un portofoliu de clienți diferit, un incident care dezvăluie un punct nevăzut. Regulile care nu se adaptează la acestea protejează, la un moment dat, împotriva unui risc care nu mai există, și nu împotriva riscului care există cu adevărat.
Acesta este și motivul pentru care cât de des trebuie repetată o măsurare a maturității este o întrebare care merge mai departe decât o programare în calendar. Regulile care sunt astăzi adecvate nivelului organizației pot să nu mai fie așa peste un an — în ambele direcții. O organizație care a devenit mai matură poate justifica un mandat mai mare. O organizație care a crescut fără ca supravegherea să crească odată cu ea poate să susțină, de fapt, mai puțin decât permit regulile pe hârtie.
Acest text nu descrie pași de implementare și nici un șablon pentru un document de reguli. Fiecare organizație stabilește propriile limite, pe baza propriei toleranțe la risc și a propriei supravegheri. Ce se aplică totuși oricărei organizații: cel care întocmește reguli pentru agenți doar după ce un sistem este deja în funcțiune le întocmește sub presiunea timpului și adesea ca urmare a unui incident. Acesta este cel mai costisitor mod de a învăța acest lucru. Întrebarea nu este dacă sunt necesare reguli, ci dacă acestea există înainte de a fi puse la încercare de practică. Iar cel care se uită doar la ceea ce se întâmplă în fereastra de chat pierde ce nu vedeți dacă cunoașteți doar fereastra de chat — adică tot ceea ce a fost stabilit în avans și ce se întâmplă de îndată ce un caz cade în afara limitei stabilite.
Regulile pentru agenți stabilesc limitele mandatului. Ele nu spun nimic despre ce parte a muncii este cu adevărat eligibilă pentru preluare și ce trebuie să rămână, din alte motive, în sarcina unui om. Această întrebare este la care răspunde scanarea de lucru a FTE TO AI: aceasta calculează, pe fiecare sarcină, ce parte a muncii poate fi preluată și pune astfel bazele pe care pot fi construite apoi regulile pentru agenți — reguli fără o imagine clară a muncii propriu-zise sunt dificil de fundamentat, iar o analiză a sarcinilor fără reguli clare nu oferă o limită utilizabilă.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.