System AI, który odpowiada na maile, ocenia wniosek lub sporządza porady, robi to na podstawie tego, co mu wolno. Nie tego, co może — to jest często więcej niż pożądane — ale tego, co mu wolno. Reguły agentów to ustalone granice tego mandatu: które decyzje system podejmuje samodzielnie, które przedkłada dalej, a które pozostają poza jego zasięgiem, niezależnie od tego, jakie są dane wejściowe.
Bez tych reguł system podejmuje ukryte decyzje. Ktoś gdzieś ustalił próg, wybrał przykład, zignorował wyjątek. To działa w pilocie z kilkoma przypadkami testowymi. Staje się niewidocznym ryzykiem, gdy system działa na dużą skalę i nikt nie może już zrekonstruować, dlaczego zrobił to, co zrobił.
Reguły agentów są często traktowane jako coś na etap wdrożenia — ustawienie, którym zajmuje się dostawca. To błędne przekonanie z konsekwencjami. Reguła, że roszczenie poniżej określonej kwoty jest obsługiwane automatycznie, jest decyzją zarządczą dotyczącą akceptacji ryzyka, a nie parametrem technicznym. Kto pozostawia ten wybór technice, odkrywa konsekwencje dopiero wtedy, gdy coś pójdzie źle.
Jest to jeden z powodów, dla których różnica między obarczeniem AI a przekazaniem AI jest tak często niedoceniana. Przekazanie — zlecenie wykonania zadania — jest widoczne i konkretne. Obarczenie — ustalenie przez organizację, w jakich granicach to się dzieje, kto to weryfikuje i co się zmienia, gdy sytuacja się zmienia — pozostaje niewypowiedziane do momentu, gdy coś pójdzie źle po raz pierwszy.
Reguły agentów określają, co system może decydować. Nie rozwiązują tego, czy organizacja jest w stanie te reguły nadzorować. Zestaw reguł, którego nikt okresowo nie weryfikuje, który staje się przestarzały w stosunku do zmienionych przepisów lub nigdy nie zostaje skorygowany po incydencie, jest kompletny na papierze i bezwartościowy w praktyce.
To jest zarazem granica tego, co te reguły mogą osiągnąć. Są instrumentem, nie gwarancją. Organizacja bez jasnej odpowiedzialności za jakość danych lub bez infrastruktury, która umożliwia śledzenie, jaka decyzja została podjęta, kiedy i dlaczego, ma niewielkie oparcie w samych regułach — niezależnie od tego, jak precyzyjnie zostały sformułowane. Reguła jest tak wiarygodna, jak fundamenty, na których się opiera.
W większości zarządów nie ma zgody co do tego, jak duży mandat powinien mieć system. Jeden dyrektor chce tempa i akceptuje, że system decyduje samodzielnie w szerokich granicach. Inny chce widzieć każdy wynik skontrolowany, zanim trafi na zewnątrz. Obie pozycje są uzasadnione, a różnica w dużej mierze wyjaśnia, dlaczego wasz zarząd nie zgadza się co do tempa AI.
Reguły agentów konkretyzują tę rozmowę. Zamiast dyskutować o ambicji w ogólnych kategoriach, pytanie brzmi: przy jakiej kwocie, jakim wyjątku, jakim typie klienta system przełącza się na człowieka? To pytanie, na które można odpowiedzieć, o ile organizacja wie, co naprawdę jest w stanie unieść — nie tylko czego chce.
Częstym błędem jest traktowanie reguł jako jednorazowej pracy. Ustalone, wdrożone, gotowe. W praktyce okoliczności, na których oparta jest reguła, zmieniają się: nowe przepisy, inna baza klientów, incydent, który odkrywa martwy punkt. Reguły, które się do tego nie dostosowują, w pewnym momencie chronią przed ryzykiem, które już nie istnieje, a nie przed ryzykiem, które faktycznie istnieje.
To jest również powód, dla którego jak często trzeba powtarzać pomiar dojrzałości jest pytaniem, które wykracza poza kwestię terminarza. Reguły odpowiednie dziś dla poziomu organizacji mogą za rok już nie być odpowiednie — w obu kierunkach. Organizacja, która stała się bardziej dojrzała, może uzasadnić większy mandat. Organizacja, która wzrosła bez odpowiedniego rozwoju nadzoru, może okazać się w stanie unieść mniej, niż reguły na papierze pozwalają.
Ten tekst nie opisuje kroków wdrożeniowych ani szablonu dokumentu z regułami. Każda organizacja ustala własne granice, oparte na własnej skłonności do ryzyka i własnym nadzorze. Co jednak obowiązuje każdą organizację: kto ustala reguły agentów dopiero po tym, jak system już działa, ustala je pod presją czasu i często w reakcji na incydent. To najkosztowniejszy sposób nauczenia się tego. Pytanie nie brzmi, czy reguły są potrzebne, ale czy istnieją, zanim zostaną wystawione na próbę przez praktykę. A kto patrzy tylko na to, co dzieje się w oknie czatu, przeoczy czego nie widzicie, znając tylko okno czatu — czyli wszystko, co zostało ustalone z wyprzedzeniem i co się dzieje, gdy dany przypadek wykracza poza ustaloną granicę.
Reguły agentów określają granice mandatu. Nie mówią nic o tym, jaka część pracy faktycznie kwalifikuje się do przekazania, a co z innych powodów musi pozostać przy człowieku. Na to pytanie odpowiada skan pracy FTE TO AI: oblicza on dla każdego zadania, jaką część pracy można przekazać, i tym samym tworzy podstawę, na której można następnie budować reguły agentów — reguły bez wyraźnego obrazu samej pracy trudno jest uzasadnić, a analiza zadań bez jasnych reguł nie daje użytecznej granicy.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.