A/78/310
19.
Explica la doctrina que:
los datos de entrada están afectados principalmente por dos variables: los sesgos
(incorporación de datos parciales, insuficientes, no actualizados o manipulados)
y la pertinencia (relevancia, inconsistencia o completitud de los datos); por su
parte, el desarrollo del algoritmo se puede ver afectado por los patrones (sesgos
de la lógica de programación, inclusión de funciones no previstas y fallas
inherentes de las funciones utilizadas para su codificación) y los errores
(condiciones de la operación que reflejan un funcionamiento diferente al
previsto y que atentan contra las premisas del diseño planteado). Finalmente,
los riesgos en las decisiones de salida están relacionados con la pertinencia y
precisión del resultado de la ejecución del algoritmo y como respuesta al análisis
de los datos de entrada 18.
IV. Principio de transparencia en el tratamiento de datos
personales
20. La transparencia es un concepto usado en diversas disciplinas como las ciencias
de la computación, el acceso a la información, el derecho y el tratamiento de datos
personales. Para la UNESCO, “la transparencia tiene como objetivo proporcionar
información adecuada a los respectivos destinatarios para permitir su comprensión y
fomentar la confianza”19.
21. No existe consenso sobre el alcance de este concepto en cada caso y, dentro de
cada uno, presenta diferentes connotaciones. Por ejemplo, es diferente referirse al
principio de transparencia en el tratamiento de datos personales en general que si se
hace referencia a dicho principio en el contexto de la inteligencia artificial. En el
presente informe se hace referencia a la transparencia en el tratamient o de datos
personales en general y de forma específica en la inteligencia artificial.
__________________
18
19
8/21
Alejandro Useche y Jeimy Cano, Robo-Advisors: Asesoría automatizada en el mercado de
valores, Universidad del Rosario y Autorregulador del Mercado de Valores de Colombia (2019),
págs. 9 y 10. Disponible en: https://www.researchgate.net/publication/331358231_Robo Advisors_Asesoria_automatizada_en_el_mercado_de_valores .
UNESCO, Recomendación sobre la ética de la inteligencia artificial (2021), pág. 22.
23-15851