CERD/C/GC/36 « danger » que la personne représente en fonction d’une note donnée par l’algorithme, qui reste habituellement secrète. Cette utilisation du profilage algorithmique soulève des préoccupations analogues à celles qui ont été évoquées au paragraphe 33 ci-dessus. 35. L’utilisation croissante des technologies de reconnaissance faciale et de surveillance pour le suivi et le contrôle de certains groupes démographiques est problématique pour bon nombre de droits de l’homme, notamment le droit au respect de la vie privée, la liberté de réunion et d’association pacifiques, la liberté d’expression et la liberté de circulation. L’objectif est de pouvoir identifier automatiquement les individus d’après la géométrie de leur visage29, ce qui peut aboutir à un profilage des personnes fondé sur des motifs de discrimination comme la race, la couleur, l’origine nationale ou ethnique ou le sexe30. Les caméras à technologie de reconnaissance faciale en temps réel sont largement utilisées pour le repérage et la surveillance des personnes31, ce qui peut permettre aux gouvernements et à d’autres acteurs de conserver un état des déplacements d’un grand nombre d’individus, parfois sur la base de caractéristiques bénéficiant d’une protection32. De plus, il a pu être démontré que la précision de la technologie de reconnaissance faciale peut varier en fonction de la couleur, de l’origine ethnique ou du sexe de la personne concernée, ce qui peut être source de discrimination33. 36. Les algorithmes sont parfois utilisés dans le cadre des analyses d’ADN pour déterminer l’origine ethnique ou la nationalité des personnes. Les résultats ainsi obtenus peuvent aboutir à un profilage. Le Comité rappelle que selon le consensus établi parmi les scientifiques, il n’existe pas de lien direct entre la composition de l’ADN d’un individu et son origine ethnique ou sa nationalité. Dès lors, il condamne l’utilisation du profilage de l’ADN par les États et les autorités concourant à l’application de la loi, en particulier les autorités chargées de la sécurité des frontières. En outre, les résultats du profilage de l’ADN ont parfois été exploités par les autorités concourant à l’application de la loi pour attribuer faussement à certaines minorités ethniques une propension plus grande à la violence, en conséquence de quoi ces groupes ont subi des pratiques policières discriminatoires 34. VIII. Recommandations 37. Diverses stratégies ont été adoptées par les gouvernements, les autorités concourant à l’application de la loi et les organisations de la société civile pour lutter contre le problème du profilage racial. Le Comité est d’avis que ces stratégies offrent une bonne assise à ses recommandations aux États et aux autres acteurs. A. Mesures législatives et de politique générale 38. Une législation complète contre la discrimination raciale, qui incorpore le droit civil et le droit administratif, ainsi que le droit pénal, est un préalable indispensable pour lutter efficacement contre le profilage racial, sans préjudice des mesures supplémentaires qui peuvent être prises. Les États doivent élaborer, et appliquer efficacement, des lois et des politiques qui définissent et interdisent la pratique du profilage racial par les représentants de la loi. Parallèlement, des directives précises doivent être adressées aux organes concourant à l’application de la loi, de sorte que les politiques internes, y compris les règlements et codes de conduite, respectent les normes et les principes des droits de l’homme. Les États doivent 29 30 31 32 33 34 GE.20-17272 A/HRC/44/57, par. 14. A/HRC/41/35, par. 12. A/HRC/39/29, par. 14. A/HRC/41/35, par. 12. Voir Joy Buolamwini and Timnit Gebru, « Gender shades: intersectional accuracy disparities in commercial gender classification », Proceedings of Machine Learning Research, vol. 81 (2018), actes de la Conférence sur l’équité, la responsabilité et la transparence ; et Inioluwa Deborah Raji et Joy Buolamwini, « Actionable auditing: investigating the impact of publicly naming biased performance results of commercial AI products » (2019), Conférence sur l’intelligence artificielle, l’éthique et la société. Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Code (Polity, 2019). 9