Ένα σύστημα AI που απαντά σε e-mails, αξιολογεί ένα αίτημα ή συντάσσει μια συμβουλή, το κάνει με βάση αυτό που επιτρέπεται. Όχι αυτό που μπορεί — αυτό είναι συχνά περισσότερο από το επιθυμητό — αλλά αυτό που επιτρέπεται. Οι κανόνες πρακτόρων είναι τα καθορισμένα όρια αυτής της εντολής: ποιες αποφάσεις παίρνει αυτόνομα ένα σύστημα, ποιες υποβάλλει προς έγκριση, και ποιες παραμένουν εκτός εμβέλειας, ανεξάρτητα από τα δεδομένα εισόδου.
Χωρίς αυτούς τους κανόνες, ένα σύστημα παίρνει σιωπηρές αποφάσεις. Κάποιος έχει κάπου καθορίσει ένα κατώφλι, έχει επιλέξει ένα παράδειγμα, έχει αγνοήσει μια εξαίρεση. Αυτό λειτουργεί σε ένα πιλοτικό πρόγραμμα με μερικές δοκιμαστικές περιπτώσεις. Γίνεται αόρατος κίνδυνος τη στιγμή που το σύστημα λειτουργεί σε κλίμακα και κανείς δεν μπορεί πλέον να ανακατασκευάσει γιατί έκανε αυτό που έκανε.
Οι κανόνες πρακτόρων αντιμετωπίζονται συχνά ως κάτι για τη φάση υλοποίησης — μια ρύθμιση που διαχειρίζεται ο προμηθευτής. Αυτή είναι μια εσφαλμένη αντίληψη με συνέπειες. Ο κανόνας ότι μια απαίτηση κάτω από ένα συγκεκριμένο ποσό διεκπεραιώνεται αυτόματα, είναι μια διοικητική επιλογή σχετικά με την αποδοχή κινδύνου, όχι μια τεχνική παράμετρος. Όποιος αφήνει αυτή την επιλογή στην τεχνολογία, ανακαλύπτει τις συνέπειες μόνο όταν κάτι πάει στραβά.
Αυτός είναι ένας από τους λόγους που η διαφορά μεταξύ της μεταφοράς και της ανάληψης του AI υποτιμάται τόσο συχνά. Η ανάληψη — η εκτέλεση μιας εργασίας — είναι ορατή και συγκεκριμένη. Η μεταφορά — η οργάνωση που καθορίζει εντός ποιων ορίων συμβαίνει αυτό, ποιος το ελέγχει και τι αλλάζει όταν αλλάζει η κατάσταση — παραμένει ασυζήτητη μέχρι την πρώτη φορά που κάτι πάει στραβά.
Οι κανόνες πρακτόρων καθορίζουν τι μπορεί να αποφασίσει ένα σύστημα. Δεν λύνουν το ζήτημα αν η οργάνωση είναι σε θέση να επιβλέπει αυτούς τους κανόνες. Ένα σύνολο κανόνων που κανείς δεν ελέγχει περιοδικά, που ξεπερνιέται από τη μεταβαλλόμενη νομοθεσία ή που ποτέ δεν αναπροσαρμόζεται μετά από ένα περιστατικό, είναι πλήρες στα χαρτιά και άχρηστο στην πράξη.
Αυτό είναι ακριβώς το όριο του τι μπορούν να κάνουν αυτοί οι κανόνες. Είναι ένα εργαλείο, όχι μια εγγύηση. Μια οργάνωση χωρίς σαφή ευθύνη για την ποιότητα των δεδομένων ή χωρίς υποδομή που κάνει ανιχνεύσιμο ποια απόφαση ελήφθη πότε και γιατί, έχει ελάχιστη στήριξη μόνο από κανόνες — όσο ακριβείς και να έχουν συνταχθεί. Ο κανόνας είναι τόσο αξιόπιστος όσο τα θεμέλια στα οποία βασίζεται.
Στις περισσότερες διοικήσεις δεν υπάρχει συναίνεση για το πόση εντολή θα έπρεπε να έχει ένα σύστημα. Ένα στέλεχος θέλει ταχύτητα και δέχεται ότι ένα σύστημα αποφασίζει αυτόνομα εντός ευρέων περιθωρίων. Ένα άλλο θέλει να βλέπει κάθε αποτέλεσμα ελεγμένο πριν αυτό βγει προς τα έξω. Και οι δύο θέσεις είναι υπερασπίσιμες, και η διαφορά εξηγεί σε μεγάλο βαθμό γιατί η διοίκησή σας διαφωνεί για τον ρυθμό του AI.
Οι κανόνες πρακτόρων κάνουν αυτή τη συζήτηση συγκεκριμένη. Αντί να συζητάτε για τη φιλοδοξία σε γενικούς όρους, το ερώτημα γίνεται: σε ποιο ποσό, ποια εξαίρεση, ποιο τύπο πελάτη το σύστημα μεταβαίνει σε άνθρωπο; Αυτό είναι ένα ερώτημα που μπορεί να απαντηθεί, εφόσον η οργάνωση γνωρίζει τι μπορεί πραγματικά να αναλάβει — όχι μόνο τι θέλει.
Ένα συχνό λάθος είναι η αντιμετώπιση των κανόνων ως εφάπαξ εργασία. Καθορίστηκαν, εφαρμόστηκαν, τέλος. Στην πράξη, οι συνθήκες στις οποίες βασίζεται ένας κανόνας μετατοπίζονται: νέα νομοθεσία, διαφορετική πελατειακή βάση, ένα περιστατικό που αποκαλύπτει ένα τυφλό σημείο. Οι κανόνες που δεν προσαρμόζονται σε αυτό, προστατεύουν σε κάποια στιγμή από έναν κίνδυνο που δεν υπάρχει πλέον, και όχι από τον κίνδυνο που υπάρχει.
Αυτός είναι επίσης ο λόγος που πόσο συχνά πρέπει να επαναλαμβάνεται μια μέτρηση ωριμότητας είναι ένα ερώτημα που ξεπερνά ένα ημερολογιακό ζήτημα. Οι κανόνες που σήμερα είναι κατάλληλοι για το επίπεδο της οργάνωσης, μπορεί να μην είναι πλέον κατάλληλοι σε έναν χρόνο — και προς τις δύο κατευθύνσεις. Μια οργάνωση που έχει ωριμάσει, μπορεί να δικαιολογήσει περισσότερη εντολή. Μια οργάνωση που έχει μεγαλώσει χωρίς να μεγαλώσει και η επίβλεψη μαζί, μπορεί αντίθετα να αντέχει λιγότερα από όσα επιτρέπουν οι κανόνες στα χαρτιά.
Αυτό το κείμενο δεν περιγράφει βήματα υλοποίησης ούτε πρότυπο για ένα έγγραφο κανόνων. Κάθε οργάνωση καθορίζει τα δικά της όρια, με βάση τη δική της διάθεση για ανάληψη κινδύνου και τη δική της επίβλεψη. Αυτό όμως ισχύει για κάθε οργάνωση: όποιος συντάσσει κανόνες πρακτόρων μόνο αφού ένα σύστημα λειτουργεί ήδη, τους συντάσσει υπό πίεση χρόνου και συχνά ως αποτέλεσμα ενός περιστατικού. Αυτός είναι ο πιο ακριβός τρόπος να το μάθει κανείς. Το ερώτημα δεν είναι αν χρειάζονται κανόνες, αλλά αν υπάρχουν πριν δοκιμαστούν από την πράξη. Και όποιος κοιτάζει μόνο τι συμβαίνει στο παράθυρο συνομιλίας, χάνει τι δεν βλέπετε αν γνωρίζετε μόνο το παράθυρο συνομιλίας — δηλαδή, όλα όσα έχουν καθοριστεί εκ των προτέρων και τι συμβαίνει τη στιγμή που μια περίπτωση ξεφεύγει από το καθορισμένο όριο.
Οι κανόνες πρακτόρων καθορίζουν τα όρια της εντολής. Δεν λένε τίποτα για ποιο μέρος της εργασίας πραγματικά αξίζει να αναληφθεί, και τι πρέπει να παραμείνει σε άνθρωπο για άλλους λόγους. Αυτό το ερώτημα το απαντά η σάρωση εργασιών (werkscan) της FTE TO AI: υπολογίζει ανά εργασία ποιο μέρος της εργασίας μπορεί να αναληφθεί, και έτσι θέτει τη βάση επί της οποίας μπορούν στη συνέχεια να χτιστούν οι κανόνες πρακτόρων — κανόνες χωρίς σαφή εικόνα της ίδιας της εργασίας είναι δύσκολο να τεκμηριωθούν, και μια ανάλυση εργασιών χωρίς σαφείς κανόνες δεν προσφέρει κανένα χρήσιμο όριο.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.