Dans la mesure de maturité, l'éthique n'est ni un département à part ni un code de conduite qui dort dans un tiroir. C'est la dimension qui mesure si une organisation sait quelles décisions elle confie à un système, qui en est responsable, et si cela peut être justifié auprès des clients, des collaborateurs et des autorités de contrôle. Un système peut fonctionner rapidement et correctement et pourtant poser problème si personne ne peut expliquer pourquoi il produit ce résultat, ou si personne n'a réfléchi au préalable aux cas où cela dérape.
Cette dimension est liée aux autres, mais n'en est pas indépendante. Qui ne sait pas quelles données un modèle utilise ne peut pas non plus juger si un résultat est explicable ou équitable — cela touche à ce que la confidentialité et la sécurité doivent déjà maîtriser. Et qui n'a désigné personne pour pouvoir rejeter les résultats de l'IA passe à côté d'une étape qui, normalement, relève de la gestion de la performance : qui évalue quoi, et sur quelle base.
Au niveau baseline, l'éthique n'est généralement pas un sujet. Aucun incident ne s'est produit, il n'y a donc pas de raison de réfléchir à l'explicabilité ou aux biais. Les décisions relatives au déploiement de l'IA sont prises sans que personne ne se demande si cela est responsable. Ce n'est pas nécessairement imprudent — la question ne s'est souvent simplement pas encore posée. Pour en savoir plus sur ce que ce niveau signifie en pratique, consultez ce que signifie le niveau baseline.
Au niveau foundation, il existe généralement un premier document : une position interne, quelques accords sur les applications acceptables ou non. Ce document est rarement consulté avant le lancement d'une nouvelle application. Voir ce que signifie le niveau foundation pour le contexte plus large de ce niveau.
Au niveau activation, l'éthique devient partie intégrante du processus : les nouvelles applications d'IA sont évaluées au préalable, il existe un moment fixe où quelqu'un demande qui peut expliquer le résultat et qui est responsable en cas de problème. Au niveau insight, cette évaluation est mesurée : l'organisation suit quelles applications ont été évaluées, quels écarts ont été constatés et comment ils ont été résolus. Au niveau intelligence, l'évaluation éthique n'est plus un processus séparé mais s'intègre dans la manière même dont les applications d'IA sont développées et suivies, avec une vue continue sur les zones où un risque naît avant qu'il ne se manifeste.
L'écart entre ce que différentes personnes de votre organisation obtiennent sur cette dimension est souvent plus important que pour d'autres dimensions. Un juriste voit des risques qu'un responsable opérationnel ne voit pas, et inversement, un responsable opérationnel constate des pratiques qui n'existent pas sur le papier. Cet écart, rendu visible dans le tour de restitution graphique, est généralement plus riche d'enseignements que la moyenne.
Ce que coûte le passage à un niveau supérieur dépend de l'endroit où se situe le point de blocage. Lors du passage de baseline à foundation, il ne s'agit souvent pas d'argent mais du temps des bonnes personnes : quelqu'un doit poser la question que personne n'a encore posée, et rédiger un premier cadre sur papier. Ce cadre n'a pas besoin d'être complet pour être utile.
Lors du passage de foundation à activation, la nature de la tâche change. Il ne s'agit plus alors d'un document mais d'une habitude : un moment fixe dans chaque projet où quelqu'un pose la question éthique, et une personne habilitée à bloquer une application sur cette base. Cela demande quelque chose du côté de des personnes et des compétences, car cette personne doit être capable de juger ce qu'un système d'IA peut ou ne peut pas gérer, une compétence qui n'est pas présente partout.
Lors du passage vers insight et intelligence, s'ajoute davantage : un moyen de suivre les évaluations, de reconnaître des schémas récurrents à travers plusieurs applications, et d'apprendre de ce qui s'est mal passé auparavant. Cela ne nécessite pas un grand budget, mais bien de la persévérance — il est plus facile de réaliser un moment d'évaluation une fois que de le répéter structurellement lorsque la pression pour livrer rapidement augmente.
Ce que cela ne coûte pas, c'est un département d'éthique à part ou un comité d'évaluation externe. La plupart des organisations qui progressent sur ce plan le font avec les personnes déjà présentes, en donnant à la question une place fixe dans un processus qui existe déjà.
Cette dimension est l'une des sept, et ne se situe pas de manière isolée. L'éthique ne progresse pas si l'organisation, l'infrastructure informatique ou la gestion des données n'ont pas encore atteint un niveau où les résultats sont traçables — expliquer ce que fait un modèle exige de savoir quelles données y entrent et comment le système est conçu. Si vous souhaitez voir comment cette dimension se situe par rapport aux six autres et où l'écart est le plus important dans votre propre organisation, la mesure de maturité vous en donne une image.
Cette page traite de la question de savoir si votre organisation peut porter l'IA — s'il existe un fondement sur lequel des décisions responsables peuvent être prises. Une autre question, à laquelle il n'est pas répondu ici, est de savoir quelle part du travail effectif l'IA pourrait reprendre. C'est la question que le scan de travail de FTE TO AI calcule tâche par tâche, afin que vous puissiez voir où se situe le potentiel, indépendamment de la question de savoir si l'organisation y est déjà prête.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.