A/78/310 • Systèmes qui agissent comme un humain (par exemple le raisonnement automatisé et l’apprentissage). • Systèmes qui pensent rationnellement (par exemple les inférences). • Systèmes qui agissent rationnellement (par exemple les agents logiciels intelligents et les robots intégrés qui atteignent des objectifs par la perception, la planification, le raisonnement, l’apprentissage, la communication, la prise de décision et l’action). 8. Tous ces systèmes traitent des informations pour produire des résultats, et ces informations contiennent notamment des données à caractère personnel. À cet égard, la Commission européenne a apporté les précisions suivantes : Aux fins du présent Livre blanc ainsi que des débats qui pourront avoir lieu sur d’autres initiatives éventuelles, il semble important de préciser les principaux éléments dont se compose l’intelligence artificielle, à savoir les « données » et les « algorithmes ». L’intelligence artificielle peut être intégrée dans des dispositifs matériels. Dans le cas des techniques d’apprentissage automatique, qui constituent l’une des branches de l’intelligence artificielle, les algorithmes sont entraînés à reconnaître des structures à partir d’un ensemble de données afin de déterminer les actions à prendre pour atteindre un objectif donné 10. 9. En d’autres termes, pour développer l’intelligence artificielle, d’énormes quantités d’informations sont collectées, stockées, analysées, traitées et utilisées pour générer divers résultats, actions ou comportements de la part des machines ou de leurs utilisateurs. Cependant, comme l’exige la recommandation précitée de l’UNESCO, « [l]a vie privée, qui constitue un droit essentiel pour la protection de la dignité, de l’autonomie et de la capacité d’action des êtres humains, doit être respectée, protégée et promue tout au long du cycle de vie des systèmes d ’intelligence artificielle » 11. 10. Un traitement approprié des données personnelles est indispensable pour éviter que les droits humains soient lésés ou menacés, le cas échéant, par le développement de l’intelligence artificielle. Plusieurs initiatives et organisations , dont voici quelques exemples, ont œuvré pour exiger un développement de l’intelligence artificielle qui respecte les droits humains. 11. L’Assemblée mondiale pour la protection de la vie privée a adopté en octobre 2020 la Résolution sur la responsabilisation dans le développement et l’utilisation de l’intelligence artificielle 12. Cette résolution, entre autres, exhorte les organisations qui développent ou utilisent des systèmes d’intelligence artificielle à envisager de mettre en œuvre les mesures suivantes : • Évaluer l’impact potentiel sur les droits de l’Homme (y compris la protection des données personnelles et le droit à la vie privée) avant le développement et/ou l’utilisation de l’intelligence artificielle ; • Tester la robustesse, la fiabilité, l’exactitude et la sécurité des données de l’intelligence artificielle avant de la mettre en œuvre, y compris en identifiant et en traitant les biais dans les systèmes et les données qu’ils utilisent qui peuvent conduire à des résultats inéquitables ; __________________ 10 11 12 23-15851 Commission européenne, Livre blanc sur l’intelligence artificielle – Une approche européenne axée sur l’excellence et la confiance, COM(2020) 65 final (2020). Disponible sur : https://eurlex.europa.eu/legal-content/FR/TXT/?qid=1603192201335&uri=CELEX%3A52020DC0065 . Voir https://unesdoc.unesco.org/ark:/48223/pf0000381137_fre, p. 22. Voir https://globalprivacyassembly.org/wp-content/uploads/2020/11/GPA-Resolution-onAccountability-in-the-Development-and-Use-of-AI-FR.pdf, p. 3 et 4. 5/22