A ética não é, na medição de maturidade, um departamento separado nem um código de conduta guardado numa gaveta. É a dimensão que mede se uma organização sabe quais decisões deixa a cargo de um sistema, quem é responsável por isso, e se isso pode ser justificado perante clientes, colaboradores e órgãos de supervisão. Um sistema pode funcionar rápido e corretamente e, ainda assim, ser um problema se ninguém conseguir explicar por que motivo produz este resultado, ou se ninguém pensou antecipadamente nos casos em que algo corre mal.
Esta dimensão está relacionada com outras, mas não é independente delas. Quem não sabe que dados um modelo utiliza também não pode avaliar se um resultado é explicável ou justo — isso está ligado ao que privacidade e segurança já deve ter em ordem. E quem não designou ninguém com autoridade para rejeitar resultados de IA está a faltar um passo que normalmente é regulado em gestão de desempenho: quem avalia o quê, e com base em quê.
No nível baseline, a ética normalmente não é um tema. Não houve nenhum incidente, por isso não há motivo para pensar sobre explicabilidade ou parcialidade. Decisões sobre a utilização de IA são tomadas sem que ninguém coloque a questão de saber se isso é responsável. Isso não é necessariamente imprudente — muitas vezes simplesmente ainda não foi abordado. Pode ler mais sobre o que este nível significa na prática em o que significa o nível baseline na prática.
No foundation, geralmente já existe um primeiro documento: uma posição interna, alguns acordos sobre quais aplicações são aceitáveis e quais não são. Esse documento raramente é consultado antes de se iniciar uma nova aplicação. Consulte o que significa o nível foundation na prática para o contexto mais amplo desse nível.
No activation, a ética passa a fazer parte do processo: novas aplicações de IA são avaliadas antecipadamente, existe um momento fixo em que alguém pergunta quem pode explicar o resultado e quem é responsável se algo correr mal. No insight, essa avaliação é medida: a organização regista quais aplicações foram avaliadas, quais desvios foram encontrados e como foram resolvidos. No intelligence, a avaliação ética já não é um processo separado, mas está entrelaçada na forma como as aplicações de IA são desenvolvidas e monitorizadas, com uma visão contínua de onde surge o risco antes de este se manifestar.
A dispersão entre as pontuações que diferentes pessoas da sua organização atribuem a esta dimensão é, frequentemente, maior do que noutras dimensões. Um jurista vê riscos que um gestor operacional não vê, e vice-versa, um gestor operacional vê práticas que no papel não existem. Essa dispersão, tornada visível na ronda de plotagem, é geralmente mais informativa do que a média.
O que custa subir um nível depende de onde está o ponto de estrangulamento. Na transição de baseline para foundation, muitas vezes não se trata de dinheiro, mas de tempo das pessoas certas: alguém tem de colocar a pergunta que ainda ninguém colocou, e redigir um primeiro quadro de referência. Esse quadro não precisa de estar completo para ser útil.
Na transição de foundation para activation, a natureza da tarefa muda. Já não se trata de um documento, mas de um hábito: um momento fixo em cada projeto em que alguém coloca a questão ética, e uma pessoa com autoridade para, com base nisso, impedir uma aplicação. Isso exige algo de pessoas e competências, porque essa pessoa tem de conseguir avaliar o que um sistema de IA consegue e não consegue fazer, e essa é uma competência que não está presente em todo o lado.
Na transição para insight e intelligence, acrescenta-se mais: uma forma de registar as avaliações, reconhecer padrões em várias aplicações, e aprender com o que correu mal anteriormente. Isso não exige um orçamento elevado, mas exige persistência — é mais fácil fazer um momento de avaliação uma vez do que repeti-lo de forma estruturada quando a pressão para entregar rapidamente aumenta.
O que não custa é um departamento de ética separado ou uma comissão de avaliação externa. A maioria das organizações que sobe de nível nesta área fá-lo com as pessoas que já tem, dando à questão um lugar fixo num processo que já existe.
Esta dimensão é uma de sete, e não existe isoladamente. A ética não sobe de nível como organização se a infraestrutura de TI ou a gestão de dados ainda não tiverem atingido um nível em que os resultados possam ser rastreados — explicar o que um modelo faz exige que se saiba que dados entram e como o sistema está estruturado. Se quiser ver como esta dimensão se relaciona com as outras seis e onde a dispersão na sua própria organização é maior, a medição de maturidade dá-lhe uma imagem disso.
Esta página trata de saber se a sua organização consegue suportar a IA — se existe uma base sobre a qual se podem tomar decisões responsáveis. Uma outra pergunta, que aqui não é respondida, é qual parte do trabalho efetivo a IA poderia assumir. Essa pergunta é calculada pela análise de trabalho da FTE TO AI por tarefa, para que veja onde está o potencial, independentemente da questão de saber se a organização já está preparada para isso.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.