A/HRC/42/59 69. Le Groupe de travail reconnaît que la collecte de données ventilées et la disponibilité de données ouvertes ont suscité un intérêt public pour des analyses plus approfondies et plus critiques des disparités raciales bien ancrées et des résultats racialement biaisés qui pénalisent systématiquement les personnes d’ascendance africaine. Ces analyses ont permis de mieux comprendre les facteurs qui sont à l’origine de la persistance des préjugés raciaux et des disparités raciales. 70. Le Groupe de travail considère qu’il importe que les États Membres accordent la priorité aux questions de l’ouverture des données, de l’accès public et de l’amélioration de la diversité parmi les spécialistes des données. 71. Il reste que les systèmes de données et les algorithmes sont conçus fonctionnent de telle manière que, bien souvent, ils intègrent, dissimulent perpétuent le racisme. Le Groupe de travail se dit préoccupé par le fait que phénomène est considéré comme un prix acceptable à payer pour disposer solutions efficaces de gestion de données. et et ce de 72. Le Groupe de travail tient à souligner que les techniques de maintien de l’ordre entachées de préjugés, comme celle fondée sur la théorie des « carreaux cassés », les palpations de sécurité aléatoires et la collecte de renseignements identificatoires, contribuent à produire des données de police biaisées. L’application d’anciens ensembles de données dans de nouvelles analyses et l’utilisation de techniques de maintien de l’ordre entachées de préjugés pour produire de nouvelles données constituent de graves menaces pour les droits de l’homme. 73. Le Groupe de travail constate avec préoccupation qu’à peu près aucun effort n’a été fait pour que les préjugés raciaux présents dans l’ensemble de la société ne soient pas intégrés dans les algorithmes, le codage et les produits commerciaux et militaires fondés sur des données, comme les logiciels de reconnaissance faciale, les systèmes d’armes autonomes et les programmes de ciblage par « frappe signature ». 74. Le Groupe de travail comprend l’influence continue des mentalités, comme les préjugés raciaux, qui orientent certains discours et demeurent ancrées dans les processus décisionnels, et reconnaît l’importance de mettre ces mentalités en évidence pour atténuer leurs effets, en particulier dans les algorithmes informatiques qui sont parfois dépourvus de capacité de réflexion ou de dispositif de contrôle indépendant efficace. 75. Le Groupe de travail fait observer que les personnes d’ascendance africaine ont toujours fait l’objet d’expérimentations et, notamment, d’une collecte de données et d’une surveillance sans leur consentement. Il s’inquiète de ce que l’on retrouve des formes similaires d’exploitation et d’expérimentation par le biais des médias sociaux et d’autres initiatives ayant trait aux mégadonnées. 76. Le développement de nouvelles technologies doit se caractériser par un engagement ferme en faveur des droits de l’homme et de la dignité humaine. Il faudrait veiller à ce que le recours à des algorithmes pour déterminer des risques, repérer des actes répréhensibles et mener des opérations ne porte pas atteinte aux droits fondamentaux des personnes d’ascendance africaine. 77. Le Groupe de travail souligne l’importance des données rétrospectives pour les personnes d’ascendance africaine qui ont perdu leur famille, leur culture et leur identité dans la traite transatlantique d’esclaves africains. Ces données ont eu un pouvoir libérateur et permis aux personnes d’ascendance africaine de la diaspora de connaître la vérité, de découvrir leur histoire et d’envisager des voies de réparation et de réconciliation. 78. Le Groupe de travail constate en outre que la réussite économique, même lorsqu’elle est fondée sur l’exploitation et l’esclavage, est depuis toujours reconnue comme un élément valorisant plutôt que disqualifiant ; que les pays, les personnages historiques importants, les institutions, l’Église et les universités se sont enrichis et ont acquis un certain statut grâce à l’esclavage des personnes d’ascendance africaine ; et que le risque associé à cette dynamique d’exploitation subsiste aujourd’hui. 16 GE.19-13932