Collaborer avec les fondations Mozilla et Rockefeller pour combler le « fossé des droits de la personne » dans la gouvernance de l’IA
Phil Dawson Phil Dawson
31 octobre 5 min

Collaborer avec les fondations Mozilla et Rockefeller pour combler le « fossé des droits de la personne » dans la gouvernance de l’IA

Si l’intelligence artificielle (IA) doit être conçue, développée et déployée au service du bien public, elle doit commencer par le respect des droits et libertés fondamentaux. Les systèmes d’IA étant utilisés pour répandre la propagande haineuse et la désinformation en ligne, cibler des groupes de population par la reconnaissance faciale ou créer des systèmes de notation du crédit social, il est clair que l’autoréglementation et les principes éthiques des entreprises sont insuffisants.

Un certain nombre d’experts ont fait valoir que l’application du cadre des droits de la personne à la gouvernance de l’IA, avec son accent sur la loi, les droits, l’imputabilité et les recours, pourrait aider à combler cette lacune.1 Bien que peu de gens contestent l’importance de protéger des droits comme la confidentialité, l’égalité, la non-discrimination et la liberté d’expression et d’opinion, pour de nombreux gouvernements et entreprises, la nature précise du rôle que le cadre des droits de la personne devrait jouer dans la gouvernance de l’IA n’est pas encore claire. S’agit-il d’un substitut légitime aux approches d’autorégulation qui sont enracinées dans l’éthique? Ou est-ce le complément de renforcement qui fournit une base juridique? Que devons-nous faire pour opérationnaliser une approche des droits de la personne pour gouverner l’IA?

En partenariat avec la Fondation Rockefeller et la Fondation Mozilla, Element AI a récemment organisé un atelier réunissant des experts mondiaux des domaines des droits de la personne, du droit, de l’éthique, des politiques publiques et de la technologie pour répondre à certains de ces enjeux* :

  • Les rôles croisés du droit des droits de la personne et de l’éthique dans la gouvernance de l’IA;
  • Si les institutions publiques et les lois existantes sont en mesure de faire face aux risques pour les droits de la personne auxquels l’IA est exposée;
  • Comment la politique industrielle et les investisseurs en IA peuvent encourager un marché qui favorise la conception, le développement et le déploiement d’une IA responsable;
  • Comment les gouvernements peuvent encourager les bonnes pratiques de gouvernance telles que les études des retombées sur les droits de la personne, la diligence raisonnable ou le dessein des droits de la personne;
  • Le potentiel de mécanismes novateurs de gouvernance des données, tels que les fiducies de données, pour permettre la protection des droits de la personne et assurer une imputabilité significative;
  • La nécessité d’une collaboration internationale et multipartite pour faire face aux risques liés aux droits de la personne liés à l’IA.


L’atelier a abouti à un consensus sur un certain nombre de ces enjeux, et nous avons été en mesure d’élaborer une série de recommandations concrètes sur les institutions, la réglementation et la gouvernance. Nous utiliserons ces recommandations pour concevoir une boîte à outils d’options politiques afin d’aider les États, les entreprises et toutes les parties prenantes à progresser vers la réalisation de l’IA respectueuse des droits. Un rapport contenant un résumé des discussions de l’atelier, ainsi que la boîte à outils de recommandations pour la gouvernance de l’IA, sera publié lors du Forum sur la gouvernance de l’Internet 2019, qui se tiendra du 25 au 29 novembre 2019 à Berlin, Allemagne.

L’équipe d’Element AI tient à remercier chacun des participants pour leur contribution réfléchie à ce travail, ainsi que ses généreux partenaires, la Fondation Mozilla et la Fondation Rockefeller, sans qui cette rencontre multipartite n’aurait pu avoir lieu.

Cet effort s’appuie sur la participation d’Element AI à l’élaboration des lignes directrices éthiques du Groupe d’experts européens de haut niveau pour une IA digne de confiance, des Principes sur l’intelligence artificielle de l’Organisation de coopération et de développement économiques, et reflète l’engagement continu de la compagnie à créer un environnement favorable au déploiement de l’IA qui soit socialement avantageux et durable à long terme. Nous sommes enthousiastes à l'idée de continuer à travailler avec la Fondation Mozilla comme nouveau partenaire et collaborateur pour construire une IA responsable.

Si vous souhaitez en savoir plus sur ce projet, veuillez envoyer un courriel à philip.dawson@elementai.com.


* Parmi les participants à l’atelier figuraient des représentants de la Fondation Rockefeller, de la Fondation Mozilla, du Haut-Commissariat des Nations Unies aux droits de l’homme, du Conseil de l’Europe, de la Commission australienne des droits de l’homme, de la Stanford Global Digital Policy Incubator, de Data & Society, d’Access Now, de la Harvard Kennedy School Carr Center for Human Rights Policy, du Alan Turing Institute, de Microsoft Corporation, des conseillers d’Article One, et du Berggruen Institute. Les résidents du mois thématique sur l’IA de la Fondation Rockefeller ont également été invités à partager leur expertise.


1 Latonero, M. Governing Artificial Intelligence: Upholding Human Rights & Dignity, Data & Society, 10 octobre 2018; Access Now, Human Rights in the Age of Artificial Intelligence, 8 novembre 2018; McGregor, L., Murray, D., & Ng, V. (2019). International Human Rights Law as a Framework for Algorithmic Accountability. International and Comparative Law Quarterly, 68(2), 309-343; Donahoe, E., Metzger. M. Artificial Intelligence and Human Rights. Journal of Democracy, vol. 30 n° 2, 2019, p. 115-126; Conseil de l'Europe, Responsibility and AI: A study of the implications of advanced digital technologies (including AI systems) for the concept of responsibility within a human rights framework, 9 octobre 2019; Australian Human Rights Commission, World Economic Forum. Livre blanc : Artificial Intelligence: governance and leadership, 2019.