CERD/C/GC/36 dans le domaine de l’application de la loi respectent les normes des droits de l’homme. Les États devraient aussi garantir l’adoption et la révision périodique des principes directeurs et des codes de conduite que les entreprises doivent observer dans la programmation, l’utilisation et la commercialisation d’algorithmes qui risquent de provoquer la discrimination raciale ou, plus généralement, toute autre forme de discrimination potentiellement contraire à la Convention. 64. Les États devraient adopter des réglementations qui garantissent que les organismes publics, les entreprises privées et les autres acteurs concernés, lorsqu’ils élaborent, acquièrent, commercialisent et utilisent des algorithmes : a) se conforment au principe d’égalité et de non-discrimination, et respectent les droits de l’homme en général, conformément aux Principes directeurs relatifs aux entreprises et aux droits de l’homme (en particulier les principes nos 1 à 3, 11 et 24) ; b) respectent le principe de précaution et toute mesure administrative ou législative adoptée pour garantir la transparence ; c) informent le public si les autorités concourant à l’application de la loi ont accès à des données privées concernant les particuliers ; et d) s’abstiennent de provoquer des effets hétérogènes ou disproportionnés sur les groupes sociaux protégés par la Convention. 65. Les États devraient veiller à ce que tous les cas de partialité algorithmique soient soumis à une enquête en bonne et due forme et à ce que des sanctions soient prises. 66. Les États devraient veiller à ce que les entreprises qui réalisent, vendent ou exploitent des systèmes de profilage algorithmique pour les besoins de l’application de la loi soient tenues d’y associer des spécialistes de disciplines multiples, dont la sociologie, les sciences politiques, l’informatique et le droit, pour définir les risques pour les droits de l’homme, et garantir le respect de ces droits. À cet effet, les États devraient inciter les entreprises à accomplir des processus de diligence raisonnable en matière de droits de l’homme, ce qui consiste : a) à mener des évaluations pour détecter et évaluer tout effet réel ou potentiellement néfaste sur le plan des droits de l’homme ; b) à intégrer ces évaluations et à prendre les mesures voulues pour empêcher et atténuer les effets néfastes sur les droits de l’homme qui ont été détectés ; c) à contrôler l’efficacité des mesures prises ; et d) à rendre compte officiellement de ce qu’elles ont fait pour remédier aux conséquences de leurs activités pour les droits de l’homme39. 67. Au moment de détecter, d’évaluer, de prévenir et d’atténuer les conséquences néfastes de leurs activités pour les droits de l’homme, les entreprises devraient prêter une attention particulière aux facteurs liés aux données dont il est question plus haut au paragraphe 27. Les données devraient être sélectionnées, et les modèles être conçus pour la formation de telle sorte qu’il n’en résulte pas d’effets discriminatoires ni d’autres conséquences néfastes pour les droits de l’homme. En outre, les entreprises devraient appliquer la diversité, l’équité et d’autres moyens d’inclusion au sein des équipes qui élaborent les systèmes de profilage algorithmique. Les entreprises devraient aussi être ouvertes à des audits indépendants de leurs systèmes de profilage algorithmique par de tierces parties40. S’il a été déterminé que le risque de discrimination ou d’autres violations des droits de l’homme est trop élevé ou ne peut être corrigé, notamment en raison de l’utilisation qu’un État pourrait en faire, un acteur du secteur privé devrait s’abstenir de vendre ou d’installer un système de profilage algorithmique. 68. Les États devraient réunir des données sur les cas de discrimination raciale liés à l’intelligence artificielle, ainsi que les mesures de prévention, les sanctions et les recours, et faire figurer ces renseignements dans leurs rapports au Comité. 69. Les organes des droits de l’homme, les États, les institutions nationales des droits de l’homme et les organisations de la société civile devraient mener des études et en diffuser les résultats, répertorier les bonnes pratiques s’agissant des mesures efficaces pour lutter contre les préjugés raciaux découlant de l’intelligence artificielle, notamment en ce qui concerne le 39 40 14 A/HRC/39/29, par. 45 ; et Principes directeurs relatifs aux entreprises et aux droits de l’homme, principes directeurs no 17 à 21. Voir aussi Amnesty International et Access Now, Déclaration de Toronto : Protéger le droit à l’égalité et à la non-discrimination dans les systèmes reposant sur l’apprentissage automatique. Voir Déclaration de Toronto : Protéger le droit �� l’égalité et à la non-discrimination dans les systèmes reposant sur l’apprentissage automatique. GE.20-17272