A/78/310 29. En la recomendación de la UNESCO se indica que: En el caso específico de los sistemas de [inteligencia artificial], la transparencia puede permitir a las personas comprender cómo se implementa cada etapa de un sistema de [inteligencia artificial], en función del contexto y la sensibilidad del sistema en cuestión. También puede proporcionar información sobre los factores que influyen en una predicción o decisión específicas, y sobre la existencia o no de garantías adecuadas (como medidas de seguridad o de equidad) 25. 30. El Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial ha puesto de presente que, para lograr una inteligencia artificial fiable, se deben garantizar algunos requisitos entre los cuales se encuentra la transparencia, que implica: Comunicar información a las partes interesadas, de un modo claro y proactivo, sobre las capacidades y limitaciones de los sistemas de [inteligencia artificial], posibilitando el establecimiento de expectativas realistas, así como sobre el modo en que se cumplen los requisitos[;] y [s]er transparentes acerca del hecho de que se está trabajando con un sistema de [inteligencia artificial]” 26. En el mismo sentido, la mencionada recomendación de la UNESCO explicita que “los actores de la [inteligencia artificial] deberían informar a los usuarios cuando un producto o servicio se proporcione directamente o con la ayuda de sistemas de [inteligencia artificial] de manera adecuada y oportuna” 27. 31. Así pues, según recomendación de la UNESCO: [L]a explicabilidad está estrechamente relacionada con la transparencia, ya que los resultados y los subprocesos que conducen a ellos deberían aspirar a ser comprensibles y trazables, apropiados al contexto. Los actores de la [inteligencia artificial] deberían comprometerse a velar por que los algoritmos desarrollados sean explicables. En el caso de las aplicaciones de [inteligencia artificial] cuyo impacto en el usuario final no es temporal, fácilmente reversible o de bajo riesgo, debería garantizarse que se proporcione una explicación satisfactoria con toda decisión que haya dado lugar a la acción tomada, a fin de que el resultado se considere transparente 28. 32. El Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial explica que la transparencia “guarda una relación estrecha con el principio de explicabilidad e incluye la transparencia de los elementos pertinentes para un sistema de [inteligencia artificial]: los datos, el sistema y los modelos de negocio” 29. Adicionalmente, señala la relevancia de la trazabilidad, la explicabilidad y comunicación en los siguientes términos: • Trazabilidad: Los conjuntos de datos y los procesos que dan lugar a la decisión del sistema de [inteligencia artificial], incluidos los relativos a la recopilación y etiquetado de los datos, así como a los algoritmos utilizados, deberían documentarse con arreglo a la norma más rigurosa posible con el fin de posibilitar la trazabilidad y aumentar la transparencia. Esto también es aplicable a las decisiones que adopte el sistema de [inteligencia artificial]. Esto permitirá identificar los motivos de una decisión errónea por parte del sistema, lo que a __________________ 25 26 27 28 29 23-15851 Véase https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa , pág. 22. Véase https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai, págs. 2 y 3. Véase https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa , pág. 22. Ibid., pág. 23. Véase https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai, pág. 22. 11/21