A/78/310 29. La recommandation de l’UNESCO indique que : Concernant spécifiquement les systèmes d’[intelligence artificielle], la transparence peut permettre aux individus de comprendre comment chaque étape d’un système d’[intelligence artificielle] est mise en place, en fonction du contexte et du degré de sensibilité du système concerné. Il est possible également de fournir des informations sur les facteurs qui influencent une prévision ou une décision particulière, et sur l’existence ou non des garanties appropriées (telles que des mesures de sécurité ou d ’équité) 25. 30. Le Groupe d’experts de haut niveau sur l’intelligence artificielle a mis en évidence que, pour parvenir à une intelligence artificielle digne de confiance, un certain nombre d’exigences doivent être respectées, en particulier la transparence, ce qui implique de : Fournir de façon proactive des informations claires aux parties prenantes sur les capacités et les limites des systèmes d’[intelligence artificielle], afin de leur permettre de formuler des attentes réalistes, ainsi que sur la manière dont les exigences sont mises en œuvre [;] et [f]aire preuve de transparence sur le fait qu’elles interagissent avec un système d’[intelligence artificielle] 26. De même, la recommandation précitée de l’UNESCO explique que « les acteurs de l’[intelligence artificielle] devraient informer les utilisateurs lorsqu ’un produit ou un service est fourni directement ou par le biais de systèmes d’intelligence artificielle de manière appropriée et en temps utile » 27. 31. Ainsi, selon ladite recommandation de l’UNESCO : [L]’explicabilité est donc étroitement liée à la transparence, puisqu ’il convient de rendre les résultats et les sous-processus qui y conduisent intelligibles et traçables, en fonction du contexte. Les acteurs de l’[intelligence artificielle] devraient s’engager à assurer l’explicabilité des algorithmes mis au point. Dans le cas d’applications de l’[intelligence artificielle] dont l’impact sur l’utilisateur final n’est pas temporaire, facilement réversible ou à faible risque, il convient de s’assurer qu’une explication valable est fournie avec toute décision ayant entraîné l’action entreprise, afin que les résultats soient considérés comme transparents 28. 32. Le Groupe d’experts de haut niveau sur l’intelligence artificielle explique que la transparence « est étroitement liée au principe de l’explicabilité et comprend la transparence des éléments pertinents d’un système d’[intelligence artificielle] : les données, le système et les modèles économiques » 29. Le Groupe souligne en outre dans les termes suivants l’importance de la traçabilité, de l’explicabilité et de la communication : • Traçabilité : Les ensembles de données et les processus permettant au système d’[intelligence artificielle] de rendre une décision, y compris les processus de collecte et d’étiquetage de données, ainsi que les algorithmes utilisés, devraient être documentés selon les normes les plus strictes afin de permettre la traçabilité ainsi qu’une amélioration de la transparence. Ce principe s’applique également aux décisions rendues par le système d’[intelligence artificielle]. Cela permet de déterminer les raisons pour lesquelles une décision d’[intelligence __________________ 25 26 27 28 29 23-15851 Voir https://unesdoc.unesco.org/ark:/48223/pf0000381137_fre, p. 22 et 23. Voir https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai, p. 3. Voir https://unesdoc.unesco.org/ark:/48223/pf0000381137_fre, p. 22. Ibid., p. 23. Voir https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai, p. 22. 11/22