A/78/310 souvent prises sur la base d’un traitement automatisé de leurs données à l’aide de divers outils technologiques. 49. Les êtres humains peuvent être affectés positivement ou négativement par les décisions prises à leur sujet à partir de l’utilisation et du traitement des données dans les projets d’intelligence artificielle. La protection des droits des personnes concernées par les décisions prises à leur sujet à l’aide d’outils ou de technologies d’intelligence artificielle suscite des inquiétudes. Le Livre blanc sur l’intelligence artificielle, par exemple, relève que : « [à] l’instar de toute technologie nouvelle, l’utilisation de l’[intelligence artificielle] crée à la fois des possibilités et des risques. Les citoyens craignent d’être impuissants à défendre leurs droits et leur sécurité lorsqu’ils sont confrontés à l’asymétrie de l’information en matière de prise de décision algorithmique » 41. 50. Par conséquent, il est nécessaire que les personnes sachent quelles données ont été utilisées pour prendre une décision qui les concerne et quelle a été la logique utilisée pour y parvenir. L’accès à ces informations, entre autres, aidera la personne concernée à savoir si la décision prise à son égard est correcte et, si elle ne l ’est pas, à se défendre. En d’autres termes, ces informations sont indispensables pour garantir une procédure régulière, car ce seront les preuves sur lesquelles se fonder pour examiner les éventuelles inexactitudes ou injustices commises à l’égard d’une personne à l’occasion du traitement de ses données personnelles dans le cadre de processus d’intelligence artificielle. À cet égard, le Groupe d’experts de haut niveau sur l’intelligence artificielle a insisté sur le fait que l’explicabilité : est essentielle pour renforcer et conserver la confiance des utilisateurs envers les systèmes d’[intelligence artificielle]. Cela signifie que les processus doivent être transparents, que les capacités et la finalité des systèmes d’[intelligence artificielle] doivent être communiquées ouvertement, et que les décisions – dans la mesure du possible – doivent pouvoir être expliquées aux personnes directement et indirectement concernées. Sans ces informations, une décision ne peut être dûment contestée. […]. La mesure dans laquelle l’explicabilité est nécessaire dépend fortement du contexte et de la gravité des conséquences si ce résultat est erroné ou imprécis d’une autre manière 42. 51. Pour toutes ces raisons, la transparence dans le domaine de l ’intelligence artificielle est primordiale, sachant que l’intelligence artificielle ne doit être ni obscure, ni secrète, ni trompeuse. C’est pourquoi la Déclaration européenne précitée indique que : Toute personne devrait être en mesure de bénéficier des avantages qu’offrent les systèmes algorithmiques et d’intelligence artificielle, y compris en faisant des choix libres et éclairés dans l’environnement numérique, tout en étant protégée contre les risques et les atteintes à sa santé, à sa sécurité et à ses droits fondamentaux 43. 52. Dans l’esprit de ce qui précède, le Réseau ibéro-américain de protection des données a recommandé en 2019 d’accroître la transparence à l’égard des titulaires des données à caractère personnel 44. __________________ 41 42 43 44 23-15851 Voir https://eur-lex.europa.eu/legalcontent/FR/TXT/?qid=1603192201335&uri=CELEX%3A52020DC0065, p. 10. Voir https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai, p. 16. Voir https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=OJ%3AJOC_2023_023_R_0001. Voir https://www.redipd.org/sites/default/files/2020-02/guia-recomendaciones-generalestratamiento-datos-ia.pdf, p. 23 et 24. 17/22