La ética suena como el tema para un grupo de trabajo que se reúne dos veces al año. En la práctica es la dimensión que determina si una aplicación de IA puede seguir funcionando en el momento en que alguien plantea una pregunta incómoda. Quién decide usar un resultado, quién asume las consecuencias si ese resultado resulta ser erróneo, y en base a qué criterio se toma esa decisión: si no hay respuesta a eso, un piloto se sostiene sobre terreno inestable, incluso si la técnica funciona.
La medición de madurez no examina si hay un código ético publicado en la intranet. Examina si las consideraciones éticas se traducen en algún punto en el trabajo mismo: en la forma en que se aprueba una aplicación de IA, en quién puede revertir una decisión, en cómo se gestiona un resultado que nadie había previsto. No son cuestiones que existan separadas del resto de la organización. Están relacionadas con las dimensiones que deben establecerse primero: una organización que aún no tiene una estructura para asignar decisiones de IA difícilmente puede sostener un marco ético que vaya más allá de una declaración de intenciones. Lo mismo ocurre en el lado de la infraestructura y el tratamiento de datos: quien no sabe qué datos ha utilizado un modelo no puede dar una respuesta razonable a la pregunta de si ese uso fue responsable.
En el nivel baseline, la ética existe como tema principalmente en reacción a incidentes. No hay un marco establecido; si algo sale mal, se examina de forma ad hoc, generalmente por quien esté presente en ese momento. En el nivel foundation hay un documento, a menudo adoptado de un estándar sectorial o una plantilla jurídica, pero rara vez se consulta antes de tomar una decisión: existe, pero no funciona.
En activation, el marco empieza a formar parte del proceso: hay un momento fijo en el que una nueva aplicación de IA se evalúa en cuanto a posible daño, sesgo o uso no previsto, y ese momento no se omite. En insight, esa evaluación se nutre de lo que realmente ocurre: se siguen los resultados, se discuten las desviaciones, y el marco se ajusta en función de lo que muestra la práctica en lugar de lo que se esperaba de antemano.
El nivel intelligence no es tanto un documento más extenso como una organización en la que la consideración ética está entrelazada con la toma de decisiones misma: personas en distintos lugares reconocen una zona gris antes de que se convierta en un problema, y existe la costumbre de plantear esa zona abiertamente sin que ello requiera un procedimiento formal de escalado.
La distinción entre los niveles no está en el texto de un documento de política, sino en lo que ocurre en el momento en que algo sale mal. En los niveles inferiores, entonces se busca quién cometió el error. En los niveles superiores, se examina si el marco podría haber previsto ese momento, y si no, qué cambia al respecto. Otra señal es quién puede plantear la pregunta. Si la duda ética solo puede subir a través de un canal formal, a menudo se queda por el camino. Si cualquiera que trabaje con una aplicación de IA puede plantear una pregunta sin tener que justificar un motivo para ello, es una señal de que el marco está vivo.
Esta dimensión no está separada de las otras seis. Se relaciona, por ejemplo, directamente con cómo gestiona su organización la privacidad y la seguridad en la IA, pues un marco ético sin claridad sobre quién puede acceder a qué datos es un marco sin fundamento. También se relaciona con qué saben y pueden hacer sus personas cuando se trata de IA: un empleado que no entiende cómo un modelo llega a un resultado difícilmente puede evaluar si es ético usar ese resultado. Y se relaciona con cómo se miden y se discuten los resultados en un entorno de IA, porque un sistema de evaluación que solo se orienta hacia la velocidad trata las consideraciones éticas como un retraso en lugar de como una necesidad.
Una única puntuación en esta dimensión dice poco. Lo que sí muestra algo es lo que ocurre cuando varias personas de la organización, por separado y sin consultarse, dan su propia valoración. Un CHRO que sitúa el marco en el nivel foundation mientras un jefe de equipo lo ve en activation no indica un error de medición, sino una organización en la que el marco existe en el papel y en la práctica no se usa como estaba previsto. Esa dispersión es exactamente para lo que se ha diseñado la ronda de gráficos: no para calcular un promedio, sino para mostrar dónde difieren las percepciones y por qué.
Un paso hacia arriba en esta dimensión raramente requiere un nuevo documento. Requiere un momento fijo en el proceso en el que se plantee la pregunta, personas que se sientan libres de plantear esa pregunta, y una manera de aprender de lo que ocurre cuando el marco resulta insuficiente. Cuánto cuesta esto en tiempo y atención depende de en qué punto se encuentre ya la organización en las dimensiones fundamentales; quien quiera saber más sobre esto, encontrará un análisis en qué cuesta hacer subir un nivel a la estructura organizativa.
La medición de madurez muestra si la organización puede sostener una aplicación de IA, éticamente y por lo demás. No dice nada sobre qué parte del trabajo en sí es adecuada para dejar en manos de la IA. Esa pregunta la responde el escáner de trabajo de FTE TO AI: este calcula, por tarea, qué parte del trabajo puede transferirse, dado el marco ya existente. Las dos mediciones se complementan, pero no parten de la misma pregunta; esta página trata sobre sostener, no sobre transferir.
La herramienta que realiza esta medición todavía está en construcción. Quien quiera ver el resultado en cuanto la medición esté disponible puede inscribirse en la lista de espera.
Vraag maar wat er moet staan voordat AI in uw organisatie kan landen.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.