A/78/310 III. Risques inhérents à l’intelligence artificielle 15. La société, de même que sa transformation numérique, est influencée par l’intelligence artificielle qui est présente dans différents aspects de notre vie quotidienne, de l’économie, de la science, de l’éducation, de la santé et de bien d’autres domaines ou activités. 16. Si les possibilités et les avantages de l’intelligence artificielle pour la société en général sont indéniables, il ne faut pas perdre de vue qu’elle peut être source de défis, de dangers ou de risques qui lui sont inhérents. Parmi ces risques, on peut par exemple citer le manque d’éthique dans le développement ou l’utilisation de l’intelligence artificielle, ou encore la prise de décisions biaisées, non transparentes ou inappropriées concernant les êtres humains. 17. Les degrés de risque dépendent de chaque situation. La Commission européenne considère qu’une application d’[intelligence artificielle] devrait généralement être considérée comme étant à haut risque en fonction de ce qui est en jeu, en examinant si des risques importants sont associés à la fois au secteur et à l’utilisation envisagée, notamment du point de vue de la protection de la sécurité, des droits des consommateurs et des droits fondamentaux. En particulier, une application d’[intelligence artificielle] devrait être considérée comme étant à haut risque si elle remplit cumulativement les deux critères suivants : a) Premièrement, l’application d’[intelligence artificielle] est employée dans un secteur où, compte tenu des caractéristiques de s activités normalement menées, des risques importants sont à prévoir. […]. Par exemple, les soins de santé ; les transports ; l’énergie et certains pans du secteur public […] ; b) Deuxièmement, l’application d’[intelligence artificielle] dans le secteur en question est, de surcroît, utilisée de façon telle que des risques importants sont susceptibles d’apparaître. […] L’appréciation du niveau de risque d’une utilisation donnée pourrait reposer sur ses conséquences pour les parties concernées. Par exemple, les utilisations d’applications d’[intelligence artificielle] qui produisent des effets juridiques sur les droits d ’une personne physique ou d’une entreprise, ou l’affectent de manière significative de façon similaire ; qui occasionnent un risque de blessure, de décès ou de dommage matériel ou immatériel important ; dont les effets ne peuvent être évités par les personnes physiques ou morales 16. 18. L’intelligence artificielle implique différents types de risques. Parmi les éventualités à prendre en compte figurent notamment celles inhérentes au fonctionnement des algorithmes – biais humains, défaillances techniques, vulnérabilités en matière de sécurité, défaillances de mise en œuvre –, ainsi qu’à leur conception. Le schéma suivant représente les éléments considérés comme ayant une incidence sur la gestion des risques liés aux algorithmes 17 : __________________ 16 17 23-15851 cumplimiento de los principios y derechos que rigen la protección de los datos personales en los proyectos de inteligencia artificial (2019), Disponible sur : https://www.redipd.org/sites/ default/files/2020-02/guia-orientaciones-espec%C3%ADficas-proteccion-datos-ia.pdf. Voir https://eur-lex.europa.eu/legal-content/FR/TXT/?qid=1603192201335&uri=CELEX% 3A52020DC0065. Voir https://www.redipd.org/sites/default/files/2020-02/guia-recomendaciones-generalestratamiento-datos-ia.pdf, p. 18. 7/22