A/78/310 Principio Significado o alcance Explanation (Explicación) Se debe proporcionar evidencia, apoyo o razonamiento relacionado con un resultado o un proceso de un sistema de [inteligencia artificial]. Meaningful (Significado entendible) Se debe explicar en términos que le permitan a la persona comprender la explicación. En otras palabras, este principio busca que la explicación sea inteligible para determinada audiencia. Muchos factores inciden en una buena explicación, razón por la cual se debe tener presente el público objetivo o la audiencia a la cual se dirige la explicación. Explanation Accuracy Este principio exige rigurosidad, precisión y completitud de (Explicación precisa) la explicación técnica. Knowledge Limits (Límites del conocimiento) Identificar y declarar los límites de conocimiento implica dejar claro que el sistema no es perfecto ni infalible porque la [inteligencia artificial] opera dentro de cierto límites y condicionamientos en los que ha sido programada. También depende, entre otras, de la calidad y la cantidad de información procesada. 57. Se ha planteado que la explicación debe: a) “ser comprensible y convincente para el usuario”; b) “reflejar de manera precisa el razonamiento del sistema; c) “ser completa”, y d) “ser específica en el sentido de usuarios diferentes con diferentes circunstancias o diferentes resultados, deberían obtener explicaciones diferenciadas” 50. Adicionalmente, se pone de presente que: la explicabilidad de la inteligencia artificial es una aspiración que se entiende desde un punto de vista ético e incluso legal, pero que tiene unas profundas dificultades técnicas que conviene conocer y, probablemente, gran parte de la solución sea también técnica, en la medida que se consiga rediseñar algoritmos o identificar otros nuevos que satisfagan las aspiraciones éticas y normativas 51. La UNESCO, por su parte, indica que: La explicabilidad supone hacer inteligibles los resultados de los sistemas de [inteligencia artificial] y facilitar información sobre ellos. La explicabilidad de los sistemas de [inteligencia artificial] también se refiere a la inteligibilidad de la entrada, salida y funcionamiento de cada componente algorítmico y la forma en que contribuye a los resultados de los sistemas 52. 58. Para precisar el alcance del principio de explicabilidad es necesario tener presente su objetivo y, a partir de este, establecer lo necesario para alcanzarlo. En línea con lo anterior, se ha señalado que: si con el principio de explicabilidad se quiere que cualquier ser humano conozca por qué razón una decisión es tomada a partir del tratamiento de sus datos con herramientas de [inteligencia artificial], pues, por lo menos la explicación debería ser clara, sencilla, completa, veraz y fácilmente entendible por quien __________________ 50 51 52 23-15851 Gavilán, Ignacio, “Cuatro principios para una buena explicabilidad de los algoritmos ” (2022). Disponible en: https://ignaciogavilan.com/cuatro -principios-para-una-buena-explicabilidad-delos-algoritmos/. Ibid. Véase https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa , pág. 23. 19/21