L'éthique semble être le sujet d'un groupe de travail qui se réunit deux fois par an. Dans la pratique, c'est la dimension qui détermine si une application d'IA peut continuer à fonctionner dès que quelqu'un pose une question délicate. Qui décide d'utiliser un résultat, qui porte les conséquences si ce résultat s'avère erroné, et sur la base de quelle réflexion cela se fait : si aucune réponse n'existe à cela, un pilote repose sur un terrain instable, même si la technique fonctionne.
La mesure de maturité ne vérifie pas si un code éthique figure sur la page intranet. Elle examine si les considérations éthiques trouvent un ancrage quelque part dans le travail lui-même : dans la manière dont une application d'IA est approuvée, dans qui peut annuler une décision, dans la façon dont on gère un résultat que personne n'avait prévu. Ce ne sont pas des questions qui existent indépendamment du reste de l'organisation. Elles sont liées aux dimensions qui doivent être établies au préalable : une organisation qui n'a pas encore de structure pour ancrer les décisions liées à l'IA peut difficilement porter un cadre éthique qui va au-delà d'une déclaration d'intention. Il en va de même du côté de l'infrastructure et du traitement des données : qui ne sait pas quelles données un modèle a utilisées ne peut pas donner de réponse sensée à la question de savoir si cette utilisation était responsable.
Au niveau baseline, l'éthique existe comme thème surtout en réaction à des incidents. Il n'existe aucun cadre formalisé ; si quelque chose tourne mal, on l'examine de manière ad hoc, généralement par la personne qui se trouve là par hasard. Au niveau foundation, il existe un document, souvent repris d'une norme sectorielle ou d'un modèle juridique, mais il est rarement consulté avant qu'une décision ne soit prise — il existe, mais ne fonctionne pas.
Au niveau activation, le cadre commence à s'intégrer dans le processus : il existe un moment fixe où une nouvelle application d'IA est évaluée quant aux dommages possibles, aux biais ou à une utilisation non prévue, et ce moment n'est pas sauté. Au niveau insight, cette évaluation est nourrie par ce qui se passe réellement : les résultats sont suivis, les écarts sont discutés, et le cadre est ajusté en fonction de ce que révèle la pratique plutôt que de ce qui était prévu au départ.
Le niveau intelligence n'est pas tant un document plus épais qu'une organisation dans laquelle la réflexion éthique est entrelacée avec la prise de décision elle-même : des personnes à différents endroits reconnaissent une zone grise avant qu'elle ne devienne un problème, et il existe une habitude d'en parler ouvertement sans que cela nécessite une procédure d'escalade formelle.
La distinction entre les niveaux ne se trouve pas dans le texte d'un document de politique mais dans ce qui se passe au moment où quelque chose tourne mal. Aux niveaux inférieurs, on cherche alors qui a commis l'erreur. Aux niveaux supérieurs, on examine si le cadre aurait pu absorber ce moment, et sinon, ce qui doit changer à cet égard. Un autre signal est de savoir qui a le droit de poser la question. Si le doute éthique ne peut remonter que par un canal formel, il reste souvent bloqué en chemin. Si toute personne travaillant avec une application d'IA peut soulever une question sans devoir en justifier le motif, c'est un signe que le cadre est vivant.
Cette dimension n'est pas indépendante des six autres. Elle touche par exemple directement la manière dont votre organisation gère la vie privée et la sécurité en matière d'IA, car un cadre éthique sans clarté sur qui peut consulter quelles données est un cadre sans fondement. Elle touche aussi à ce que vos collaborateurs savent et peuvent faire en matière d'IA : un collaborateur qui ne comprend pas comment un modèle arrive à un résultat peut difficilement évaluer si ce résultat est éthiquement acceptable à utiliser. Et elle touche à la manière dont les performances sont mesurées et discutées dans un environnement d'IA, car un système d'évaluation qui ne pilote que sur la vitesse traite les considérations éthiques comme un ralentissement plutôt que comme une nécessité.
Un score unique sur cette dimension ne dit pas grand-chose. Ce qui en dit davantage, c'est ce qui se passe quand plusieurs personnes de l'organisation donnent séparément, sans concertation, leur propre évaluation. Une DRH qui situe le cadre au niveau foundation alors qu'un chef d'équipe le voit au niveau activation ne révèle pas une erreur de mesure mais une organisation où le cadre existe sur papier et n'est pas utilisé dans la pratique comme prévu. Cette dispersion est précisément ce pour quoi le tour de tracé a été conçu : non pas pour calculer une moyenne, mais pour montrer où les perceptions divergent et pourquoi.
Un pas en avant sur cette dimension ne demande que rarement un nouveau document. Il demande un moment fixe dans le processus où la question est posée, des personnes qui se sentent libres de poser cette question, et une manière d'apprendre de ce qui se passe quand le cadre s'avère insuffisant. Ce que cela coûte en temps et en attention dépend de là où l'organisation se situe déjà sur les dimensions fondamentales ; qui souhaite en savoir plus trouvera un développement dans ce que coûte le fait de faire monter la structure organisationnelle d'un niveau.
La mesure de maturité montre si l'organisation peut porter une application d'IA, éthiquement et par ailleurs. Elle ne dit rien sur quelle part du travail lui-même se prête à être confiée à l'IA. Cette question, c'est le scan de travail de FTE TO AI qui y répond : il calcule, tâche par tâche, quelle part du travail peut être reprise, compte tenu des cadres déjà en place. Les deux mesures se complètent, mais ne partent pas de la même question ; cette page concerne le fait de porter, pas celui de reprendre.
L'outil qui effectue cette mesure est encore en construction. Qui souhaite voir le résultat dès que la mesure sera disponible peut s'inscrire sur la liste d'attente.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.