AI-järjestelmä, joka vastaa sähköposteihin, arvioi hakemuksen tai laatii neuvon, tekee sen sen perusteella, mitä sen sallitaan tehdä. Ei sen perusteella, mitä se pystyy tekemään — se on usein enemmän kuin toivottavaa — vaan sen perusteella, mitä sen sallitaan tehdä. Agenttisäännöt ovat tämän toimivallan kirjatut rajat: mitkä päätökset järjestelmä tekee itsenäisesti, mitkä se esittää eteenpäin, ja mitkä pysyvät sen ulottumattomissa, olipa syöte mikä tahansa.
Ilman näitä sääntöjä järjestelmä tekee implisiittisiä päätöksiä. Joku on jossain asettanut kynnysarvon, valinnut esimerkin, sivuuttanut poikkeuksen. Se toimii pilotissa muutamalla testitapauksella. Siitä tulee näkymätön riski heti kun järjestelmä toimii laajassa mittakaavassa ja kukaan ei enää pysty jäljittämään, miksi se teki niin kuin teki.
Agenttisääntöjä käsitellään usein toteutusvaiheeseen kuuluvana asiana — asetuksena, jonka toimittaja hoitaa. Se on virhekäsitys, jolla on seurauksia. Sääntö, jonka mukaan tietyn summan alittava vaatimus käsitellään automaattisesti, on hallinnollinen valinta riskin hyväksymisestä, ei tekninen parametri. Se, jonka jättää tämän valinnan tekniikan hoidettavaksi, huomaa seuraukset vasta kun jotain menee pieleen.
Tämä on yksi syy, miksi AI:n kantamisen ja AI:n vastaanottamisen ero aliarvioidaan niin usein. Vastaanottaminen — tehtävän suorittaminen jonkun puolesta — on näkyvää ja konkreettista. Kantaminen — organisaation määrittely siitä, missä rajoissa tämä tapahtuu, kuka sitä valvoo ja mitä muuttuu tilanteen muuttuessa — jää käsittelemättä siihen asti, kunnes se ensimmäisen kerran menee pieleen.
Agenttisäännöt kirjaavat, mitä järjestelmä saa päättää. Ne eivät ratkaise, kykeneekö organisaatio valvomaan näitä sääntöjä. Sääntökokonaisuus, jota kukaan ei tarkista säännöllisesti, joka vanhenee muuttuneen lainsäädännön rinnalla tai jota ei koskaan päivitetä välikohtauksen jälkeen, on paperilla täydellinen ja käytännössä arvoton.
Tämä on juuri niiden sääntöjen rajoitus. Ne ovat työkalu, ei tae. Organisaatiolla, jolla ei ole selkeää vastuuta datan laadusta tai infrastruktuuria, joka tekee jäljitettäväksi, mikä päätös on tehty milloin ja miksi, on säännöistä yksin vähän tukea — kuinka tarkasti tahansa ne on laadittu. Sääntö on juuri niin luotettava kuin perusta, jolle se rakentuu.
Useimmissa johtoryhmissä ei ole yksimielisyyttä siitä, kuinka paljon toimivaltaa järjestelmällä pitäisi olla. Yksi johtaja haluaa nopeutta ja hyväksyy, että järjestelmä päättää itsenäisesti laajoissa rajoissa. Toinen haluaa nähdä joka tuloksen tarkastettuna ennen kuin se menee ulos organisaatiosta. Molempia kantoja voi puolustaa, ja ero selittää pitkälti miksi johtoryhmänne on eri mieltä AI-tahdista.
Agenttisäännöt tekevät tästä keskustelusta konkreettisen. Sen sijaan, että keskusteltaisiin ambitiosta yleisin termein, kysymys muuttuu: millä summalla, millä poikkeuksella, millä asiakastyypillä järjestelmä siirtää asian ihmiselle? Se on kysymys, joka voidaan vastata, kunhan organisaatio tietää, mitä se todella kykenee kantamaan — ei vain mitä se haluaa.
Yleinen virhe on käsitellä sääntöjä kertaluonteisena työnä. Vahvistettu, toteutettu, valmis. Käytännössä olosuhteet, joihin sääntö perustuu, muuttuvat: uusi lainsäädäntö, erilainen asiakaskunta, välikohtaus, joka paljastaa sokean pisteen. Säännöt, jotka eivät mukaudu tähän, alkavat jossain vaiheessa suojata riskiä, jota ei enää ole olemassa, eivät riskiä, joka todella on olemassa.
Tämä on myös syy, miksi kuinka usein kypsyysmittaus on tehtävä uudelleen on kysymys, joka ylittää kalenterisopimuksen. Säännöt, jotka ovat tänään sopivat organisaation tasolle, eivät välttämättä ole sitä vuoden kuluttua — molempiin suuntiin. Organisaatio, joka on kypsynyt, voi perustella laajempaa toimivaltaa. Organisaatio, joka on kasvanut kasvattamatta valvontaa samassa tahdissa, voi osoittautua kantavan vähemmän kuin säännöt paperilla sallivat.
Tämä teksti ei kuvaa toteutusvaiheita eikä tarjoa mallia sääntödokumentille. Jokainen organisaatio määrittää omat rajansa, perustuen omaan riskinsietokykyynsä ja omaan valvontaansa. Se, mikä pätee kaikkiin organisaatioihin: se, joka laatii agenttisäännöt vasta sen jälkeen kun järjestelmä on jo käynnissä, laatii ne aikapaineen alla ja usein välikohtauksen seurauksena. Se on kallein tapa oppia tämä. Kysymys ei ole siitä, tarvitaanko sääntöjä, vaan siitä, ovatko ne olemassa ennen kuin käytäntö testaa niitä. Ja se, joka katsoo vain sitä, mitä chat-ikkunassa tapahtuu, jää huomaamatta mitä ette näe, jos tunnette vain chat-ikkunan — nimittäin kaiken, mikä on kirjattu etukäteen ja mitä tapahtuu heti, kun tapaus ylittää asetetun rajan.
Agenttisäännöt määrittävät toimivallan rajat. Ne eivät kerro, mikä osa työstä todella soveltuu vastaanotettavaksi ja mikä osa jää muista syistä ihmisen tehtäväksi. Tähän kysymykseen vastaa FTE TO AI:n työskannaus: se laskee tehtäväkohtaisesti, mikä osa työstä on siirrettävissä, ja luo siten perustan, jolle agenttisäännöt voidaan sen jälkeen rakentaa — sääntöjä on vaikea perustella ilman selkeää kuvaa itse työstä, ja tehtäväanalyysi ilman selkeitä sääntöjä ei tuota käyttökelpoista rajaa.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.