A/78/310 III. Riesgos inherentes a la inteligencia artificial 15. La sociedad, y su transformación digital, está siendo influenciada por la inteligencia artificial, la cual se encuentra presente en diversos aspectos de nuestra vida diaria, la economía, la ciencia, la educación, la salud y muchas otras áreas o actividades. 16. Si bien son innegables las oportunidades y los beneficios de la inteligencia artificial en la sociedad en general, no debe perderse de vista que puede entrañar desafíos, peligros o amenazas que son intrínsecos a la inteligencia artificial. A título enunciativo, por ejemplo, dichos riesgos pueden incluir aspectos como la falta de ética en el desarrollo o uso de la inteligencia artificial, o la toma de decisiones sesgadas, no transparentes o incorrectas sobre seres humanos. 17. Los niveles de riesgos dependen de cada situación particular. La Comisión Europea considera que, en general, una aplicación de [inteligencia artificial] determinada debe considerarse de riesgo elevado en función de lo que esté en juego, y considerando si tanto el sector como el uso previsto suponen riesgos significativos, en especial desde la perspectiva de la protección de la seguridad, los derechos de los consumidores y los derechos fundamentales. De manera más específica, una aplicación de [inteligencia artificial] debe considerarse de riesgo elevado cuando presente la suma de los dos criterios siguientes: a) En primer lugar, que la aplicación de [inteligencia artificial] se emplee en un sector en el que, por las características o actividades que se llevan a cabo normalmente, es previsible que existan riesgos significativos. […]. Por ejemplo, la sanidad, el transporte, la energía y determinados ámbitos del sector público […]; b) En segundo lugar, que la aplicación de [inteligencia artificial] en el sector en cuestión se use, además, de manera que puedan surgir riesgos significativos. […] La evaluación del nivel de riesgo de un uso determinado puede basarse en las repercusiones para las partes afectadas. Por ejemplo, el uso de aplicaciones de [inteligencia artificial] con efectos jurídicos o similares en los derechos de un particular o de una empresa; aplicaciones que presenten el riesgo de causar lesiones, la muerte, o daños materiales o inmateriales significativos; aplicaciones que produzcan efectos que las personas físicas o jurídicas no puedan evitar razonablemente 16. 18. La inteligencia artificial involucra diferentes tipos de riesgos. Entre las contingencias a tener en cuenta deben considerarse, entre otras, las inherentes a la operación de los algoritmos ―sesgos humanos, fallas técnicas, vulnerabilidad de seguridad y fallas en la implementación―, y a su diseño. Sobre este punto se han identificado aspectos que inciden en la gestión de riesgos de los algoritmos que se ilustran en la siguiente gráfica17: __________________ 16 17 23-15851 Véase https://eur-lex.europa.eu/legalcontent/ES/TXT/?qid=1603192201335&uri=CELEX%3A52020DC0065 . Véase https://www.redipd.org/sites/default/files/2020-02/guia-recomendaciones-generalestratamiento-datos-ia.pdf, pág. 18. 7/21