Ética parece um assunto para um grupo de trabalho que se reúne duas vezes por ano. Na prática, é a dimensão que determina se uma aplicação de IA pode continuar a funcionar no momento em que alguém faz uma pergunta difícil. Quem decide utilizar um resultado, quem assume as consequências se esse resultado se revelar incorreto, e com base em que ponderação isso acontece: se não houver resposta a isso, um projeto-piloto assenta em terreno instável, mesmo que a técnica funcione.
A medição de maturidade não verifica se existe um código de ética publicado na intranet. Verifica se as ponderações éticas efetivamente aterram no próprio trabalho: na forma como uma aplicação de IA é aprovada, em quem pode reverter uma decisão, na forma como se lida com um resultado que ninguém tinha previsto. Não são questões que existam separadas do resto da organização. Estão relacionadas com as dimensões que devem estar primeiro estabelecidas: uma organização que ainda não tem estrutura para atribuir decisões de IA dificilmente pode sustentar um quadro ético que vá além de uma declaração de intenções. O mesmo se aplica ao lado da infraestrutura e do tratamento de dados: quem não sabe que dados um modelo utilizou não pode dar uma resposta significativa à pergunta se essa utilização foi responsável.
Ao nível baseline, a ética existe como tema principalmente em reação a incidentes. Não há um quadro formalizado; quando algo corre mal, é analisado de forma ad hoc, geralmente por quem calha estar presente. Ao nível foundation existe um documento, muitas vezes adaptado de uma norma setorial ou modelo jurídico, mas raramente é consultado antes de uma decisão ser tomada — existe, mas não funciona.
No activation, o quadro começa a integrar-se no processo: há um momento fixo em que uma nova aplicação de IA é avaliada quanto a possíveis danos, preconceitos ou uso não intencional, e esse momento não é ignorado. No insight, essa avaliação é alimentada pelo que efetivamente acontece: os resultados são acompanhados, os desvios são discutidos, e o quadro é ajustado com base no que a prática revela em vez do que era esperado antecipadamente.
O nível intelligence não é tanto um documento mais extenso, mas sim uma organização em que a ponderação ética está entrelaçada com a própria tomada de decisão: pessoas em diferentes posições reconhecem uma zona cinzenta antes de esta se tornar um problema, e há o hábito de tornar essa zona discutível sem que isso exija um processo formal de escalonamento.
A distinção entre os níveis não está no texto de um documento de política, mas no que acontece no momento em que algo corre mal. Nos níveis mais baixos, procura-se então quem cometeu o erro. Nos níveis mais elevados, analisa-se se o quadro poderia ter acomodado o momento, e, caso não, o que muda a esse respeito. Outro sinal é quem pode fazer a pergunta. Se a dúvida ética só pode subir através de um canal formal, muitas vezes fica pelo caminho. Se qualquer pessoa que trabalhe com uma aplicação de IA pode levantar uma questão sem ter de justificar um motivo para isso, é sinal de que o quadro está vivo.
Esta dimensão não está isolada das outras seis. Relaciona-se, por exemplo, diretamente com a forma como a sua organização lida com privacidade e segurança em IA, pois um quadro ético sem clareza sobre quem pode aceder a que dados é um quadro sem fundamento. Relaciona-se também com o que os seus colaboradores sabem e são capazes de fazer em relação a IA: um colaborador que não compreende como um modelo chega a um resultado dificilmente pode avaliar se esse resultado é eticamente responsável de utilizar. E relaciona-se com a forma como o desempenho é medido e discutido num ambiente de IA, porque um sistema de avaliação que apenas orienta pela velocidade trata as ponderações éticas como atraso em vez de necessidade.
Uma única pontuação nesta dimensão diz pouco. O que revela algo é o que acontece quando várias pessoas na organização, separadamente, sem consulta entre si, dão a sua própria avaliação. Um CHRO que coloca o quadro no nível foundation enquanto um chefe de equipa o vê no nível activation não indica um erro de medição, mas sim uma organização em que o quadro existe no papel e não é utilizado na prática como pretendido. Essa dispersão é exatamente para o que a ronda de plotagem foi concebida: não para calcular uma média, mas para mostrar onde as perceções divergem e porquê.
Subir um passo nesta dimensão raramente exige um novo documento. Exige um momento fixo no processo em que a pergunta é feita, pessoas que se sintam livres para fazer essa pergunta, e uma forma de aprender com o que acontece quando o quadro falha. Quanto isso custa em tempo e atenção depende de onde a organização já se encontra nas dimensões fundamentais; quem quiser saber mais sobre isso encontra um desenvolvimento em o que custa fazer subir a estrutura organizacional um nível.
A medição de maturidade mostra se a organização consegue sustentar uma aplicação de IA, eticamente e de resto. Não diz nada sobre que parte do próprio trabalho é adequada para ser confiada à IA. Essa pergunta é respondida pela análise de trabalho da FTE TO AI: esta calcula, por tarefa, que parte do trabalho pode ser assumida, dados os quadros já existentes. As duas medições complementam-se, mas não partem da mesma pergunta; esta página trata do sustentar, não do assumir.
A ferramenta que realiza esta medição ainda está a ser construída. Quem quiser ver o resultado assim que a medição estiver disponível pode inscrever-se na lista de espera.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.