AI система, която отговаря на имейли, оценява заявка или изготвя препоръка, прави това въз основа на това какво й е позволено. Не какво може — това често е повече от желаното — а какво й е позволено. Правилата за агенти са фиксираните граници на този мандат: кои решения системата взема самостоятелно, кои представя за одобрение и кои остават извън обхват, независимо какви са входните данни.
Без тези правила системата взема неявни решения. Някой някъде е зададен праг, избран пример, пренебрегнато изключение. Това работи в пилотен проект с шепа тестови случаи. То се превръща в невидим риск веднага щом системата заработи в мащаб и никой не може вече да възстанови защо е направила това, което е направила.
Правилата за агенти често се третират като нещо за фазата на внедряване — настройка, която доставчикът урежда. Това е погрешна представа с последствия. Правилото, че претенция под определена сума се обработва автоматично, е управленско решение относно приемане на риск, не технически параметър. Който остави този избор на техниката, открива последствията едва когато нещо се обърка.
Това е една от причините, поради които разликата между поемане на AI и предаване на AI толкова често се подценява. Предаването — да оставиш задача да се изпълнява — е видимо и конкретно. Поемането — организацията, която определя в какви граници се случва това, кой го проверява и какво се променя, когато ситуацията се промени — остава необсъдено до първия път, когато нещо се обърка.
Правилата за агенти фиксират какво системата може да решава. Те не решават дали организацията е способна да наблюдава тези правила. Набор от правила, който никой не проверява периодично, който остарява редом с изменено законодателство или никога не се преразглежда след инцидент, е пълен на хартия и безполезен на практика.
Това е и границата на това какво тези правила могат. Те са инструмент, не гаранция. Организация без ясна отговорност за качеството на данните или без инфраструктура, която прави проследимо кое решение кога и защо е взето, има малка опора само от правилата — колкото и точно да са формулирани. Правилото е толкова надеждно, колкото основите, на които се крепи.
В повечето управителни съвети няма консенсус относно колко мандат трябва да има система. Един ръководител иска скорост и приема, че система решава самостоятелно в широки граници. Друг иска всеки резултат да бъде проверен преди да излезе навън. И двете позиции могат да се защитят, и разликата обяснява в голяма степен защо вашето ръководство е разделено относно темпото на AI.
Правилата за агенти правят този разговор конкретен. Вместо да се дискутира амбицията в общи термини, въпросът става: при каква сума, кое изключение, какъв тип клиент системата превключва към човек? Това е въпрос, на който може да се отговори, при условие че организацията знае какво наистина може да поеме — не само какво иска.
Честа грешка е да се третират правилата като еднократна работа. Определени, внедрени, готово. На практика обстоятелствата, на които се основава правило, се променят: ново законодателство, различна клиентска база, инцидент, който разкрива слабо място. Правила, които не се движат заедно с това, на определен момент защитават срещу риск, който вече не съществува, а не срещу риска, който наистина съществува.
Това е и причината, поради която колко често трябва да се повтаря измерване на зрелостта е въпрос, който отива отвъд запис в календара. Правилата, които днес са подходящи за нивото на организацията, могат да не бъдат такива след година — в двете посоки. Организация, която е станала по-зряла, може да оправдае повече мандат. Организация, която е нараснала, без надзорът да расте заедно с нея, може всъщност да се окаже способна да поема по-малко, отколкото правилата на хартия позволяват.
Този текст не описва стъпки за внедряване и не е шаблон за документ с правила. Всяка организация определя собствени граници, базирани на собствената си склонност към риск и собствения си надзор. Какво важи за всяка организация: който съставя правила за агенти едва след като система вече работи, ги съставя под времеви натиск и често вследствие на инцидент. Това е най-скъпият начин да се научи това. Въпросът не е дали правилата са необходими, а дали съществуват преди да бъдат проверени от практиката. И който гледа само какво се случва в чат прозореца, пропуска какво не виждате, ако познавате само чат прозореца — а именно всичко, което е предварително фиксирано, и какво се случва веднага щом случай попадне извън зададената граница.
Правилата за агенти определят границите на мандата. Те не казват нищо за коя част от работата действително е подходяща за поемане и коя, поради други причини, трябва да остане при човек. На този въпрос отговаря работният скенер на FTE TO AI: той изчислява за всяка задача коя част от работата може да бъде поета, и по този начин полага основата, върху която впоследствие могат да се изградят правилата за агенти — правила без ясна представа за самата работа са трудни за обосноваване, а анализ на задачите без ясни правила не дава практична граница.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.