Um sistema de IA que responde e-mails, avalia um pedido ou elabora um parecer, fá-lo com base no que pode fazer. Não no que é capaz de fazer — isso é frequentemente mais do que o desejado — mas no que tem permissão para fazer. As regras de agentes são os limites estabelecidos desse mandato: quais decisões um sistema toma de forma autónoma, quais submete para aprovação, e quais permanecem fora de alcance, independentemente da entrada.
Sem essas regras, um sistema toma decisões implícitas. Alguém, em algum lugar, definiu um limiar, escolheu um exemplo, ignorou uma excepção. Isso funciona num piloto com um punhado de casos de teste. Torna-se um risco invisível a partir do momento em que o sistema opera à escala e já ninguém consegue reconstruir por que fez o que fez.
As regras de agentes são frequentemente tratadas como algo da fase de implementação — uma configuração que o fornecedor resolve. Trata-se de um equívoco com consequências. A regra de que um sinistro abaixo de determinado valor é processado automaticamente é uma escolha de gestão sobre aceitação de risco, não um parâmetro técnico. Quem deixa essa escolha à técnica só descobre as consequências quando algo corre mal.
Esta é uma das razões pelas quais a diferença entre a IA como apoio e a IA como substituta é tão frequentemente subestimada. Assumir uma tarefa — deixar que ela seja executada — é visível e concreto. Sustentar — a organização que determina dentro de que limites isso acontece, quem verifica isso e o que muda quando a situação muda — permanece por discutir até à primeira vez que algo corre mal.
As regras de agentes fixam o que um sistema pode decidir. Não resolvem se a organização é capaz de vigiar essas regras. Um conjunto de regras que ninguém revê periodicamente, que fica desactualizado face a legislação alterada ou que nunca é ajustado após um incidente, é completo no papel e inútil na prática.
Esse é precisamente o limite do que estas regras conseguem fazer. São um instrumento, não uma garantia. Uma organização sem responsabilidade clara pela qualidade dos dados ou sem infraestrutura que permita reconstruir qual decisão foi tomada, quando e por quê, tem pouco apoio apenas com regras — independentemente da precisão com que foram elaboradas. A regra é tão fiável quanto os fundamentos em que se apoia.
Na maioria das direções não há consenso sobre quanto mandato um sistema deveria ter. Um administrador quer velocidade e aceita que um sistema decida de forma autónoma dentro de margens amplas. Outro quer ver cada resultado controlado antes de ser divulgado externamente. Ambas as posições são defensáveis, e essa diferença explica em grande parte por que a sua direção está em desacordo sobre o ritmo da IA.
As regras de agentes tornam essa conversa concreta. Em vez de discutir a ambição em termos gerais, a questão passa a ser: a partir de que valor, que excepção, que tipo de cliente é que o sistema transfere o caso para uma pessoa? Essa é uma pergunta que se pode responder, desde que a organização saiba realmente o que é capaz de sustentar — não apenas o que deseja.
Um erro comum é tratar as regras como um trabalho pontual. Estabelecidas, implementadas, prontas. Na prática, as circunstâncias em que uma regra se baseia mudam: nova legislação, uma carteira de clientes diferente, um incidente que revela um ponto ciego. Regras que não acompanham essa evolução acabam, num dado momento, a proteger contra um risco que já não existe, e não contra o risco que realmente existe.
É também por isso que com que frequência uma medição de maturidade deve ser repetida é uma pergunta que vai além de um compromisso de calendário. As regras que hoje são adequadas ao nível da organização podem já não o ser dentro de um ano — em ambos os sentidos. Uma organização que se tornou mais madura pode justificar mais mandato. Uma organização que cresceu sem deixar a vigilância crescer com ela pode, pelo contrário, revelar-se capaz de sustentar menos do que as regras no papel permitem.
Este texto não descreve passos de implementação nem um modelo para um documento de regras. Cada organização estabelece os seus próprios limites, com base na sua própria tolerância ao risco e na sua própria supervisão. O que se aplica a todas as organizações: quem só elabora as regras de agentes depois de um sistema já estar em funcionamento, fá-lo sob pressão de tempo e, muitas vezes, na sequência de um incidente. É a forma mais cara de aprender isto. A questão não é se as regras são necessárias, mas se existem antes de serem testadas pela prática. E quem apenas observa o que acontece na janela de chat perde o que não vê se só conhece a janela de chat — ou seja, tudo o que foi definido previamente e o que acontece quando um caso ultrapassa o limite estabelecido.
As regras de agentes determinam os limites do mandato. Não dizem nada sobre que parte do trabalho é efetivamente elegível para ser assumida pelo sistema, e o que, por outras razões, deve permanecer com uma pessoa. Essa pergunta é respondida pelo scan de trabalho da FTE TO AI: este calcula, tarefa a tarefa, que parte do trabalho pode ser assumida, estabelecendo assim a base sobre a qual as regras de agentes podem depois ser construídas — regras sem uma visão clara do próprio trabalho são difíceis de fundamentar, e uma análise de tarefas sem regras claras não produz um limite utilizável.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.