A/78/310 • Sistemas que actúan racionalmente (por ejemplo, agentes de software inteligentes y robots incorporados que logran objetivos mediante la percepción, la planificación, el razonamiento, el aprendizaje, la comunicación, la toma de decisiones y la actuación). 8. Todos esos sistemas procesan información para generar resultados, y esa información contiene, entre otros, datos personales. En este sentido, la Comisión Europea ha precisado lo siguiente: A los efectos del presente Libro Blanco, así como de todo posible debate sobre iniciativas políticas en el futuro, parece importante clarificar cuáles son los principales elementos que integran la inteligencia artificial, a saber: los «datos» y los «algoritmos». La inteligencia artificial puede incorporarse en los equipos informáticos. En lo que se refiere a las técnicas de aprendizaje automático, que constituyen un subapartado de la inteligencia artificial, los algoritmos son entrenados para inferir determinados modelos a partir de un conjunto de datos, a fin de determinar las acciones que se requieren para alcanzar un objetivo determinado10. 9. En otras palabras, para desarrollar inteligencia artificial se recolectan, almacenan, analizan y procesan enormes cantidades de información, usada para generar diversos resultados, acciones o comportamientos por parte de las máquinas o de los usuarios de estas. No obstante, como lo exige la citada recomendación de la UNESCO, “[l]a privacidad, que constituye un derecho esencial para la protección de la dignidad, la autonomía y la capacidad de actuar de los seres humanos, debe ser respetada, protegida y promovida a lo largo del ciclo de vida de los sistemas de [inteligencia artificial]” 11. 10. El debido tratamiento de datos personales es imprescindible para evitar que, con el desarrollo de la inteligencia artificial, los derechos humanos se vean lesionados o amenazados, según el caso. Existen varias iniciativas y organizaciones que han trabajado para exigir un desarrollo de inteligencia artificial respetuoso de los derechos humanos y, a continuación, se presentan algunos ejemplos. 11. En primer lugar, la Asamblea Global de Privacidad adoptó, en el mes de octubre de 2020, la Resolución sobre la Rendición de Cuentas Responsable en el Desarrollo y la Utilización de Inteligencia Artificial 12. Esa resolución, entre otras, insta a las organizaciones que desarrollan o utilizan sistemas de inteligencia artificial a considerar la implementación de las siguientes medidas: • Evaluar el potencial impacto en los derechos humanos (incluidos los derechos de protección de datos y privacidad) previo al desarrollo y/o uso de la inteligencia artificial; • Previo a su utilización, comprobar la solidez, credibilidad, exactitud y seguridad de los datos en la inteligencia artificial. Esto incluye la identificación y el tratamiento de los sesgos de los sistemas, así como de los datos que se utilizan, los cuales podrían conducir a resultados injustos; ��� Implementar medidas de responsabilidad demostrada que sean apropiadas con respecto a los riesgos de interferencia con los derechos humanos. __________________ 10 11 12 23-15851 Comisión Europea, Libro blanco sobre la inteligencia artificial - un enfoque europeo orientado a la excelencia y la confianza , COM(2020) 65 final (2020). Disponible en: https://eurlex.europa.eu/legal-content/ES/TXT/?qid=1603192201335&uri=CELEX%3A52020DC0065 . Véase https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa , pág. 22. Véase https://globalprivacyassembly.org/wp-content/uploads/2020/11/GPA-Resolution-onAccountability-in-the-Development-and-Use-of-AI-ES.pdf, pág. 3. 5/21