Le balado AI Element S2E1: «Ouvrir la boîte noire de l'IA»
Element AI Element AI
4 septembre 4 min

Le balado AI Element S2E1: «Ouvrir la boîte noire de l'IA»

Aujourd’hui, nous sommes fiers de lancer la deuxième saison de notre balado : The Element AI. Ce balado traite de ce que l’intelligence artificielle peut réellement faire. Lorsque l’IA fait la une des manchettes, ce n’est pas toujours pour les bonnes raisons, et nous voulons creuser davantage dans les grandes histoires et voir comment l’intelligence artificielle change réellement les choses. Nous voulons que les auditeurs apprennent un nouveau vocabulaire et une nouvelle façon de voir et d’aborder certains des sujets clés dans ce domaine.

Notre première saison s’est concentrée sur les utilisations actuelles de l’IA et les implications pour les entreprises, grandes et petites. Pour la deuxième saison, nous voulions nous concentrer sur les grandes questions auxquelles nous sommes confrontés alors que l’IA commence à changer le monde qui nous entoure.

Au fur et à mesure que l’adoption se répand, le besoin de comprendre les principes fondamentaux des systèmes d’IA se fait de plus en plus sentir. Le défi pour l’IA est que, contrairement aux technologies précédentes, la façon dont elle fonctionne et la raison pour laquelle elle fonctionne ne sont pas toujours évidentes. C’est ce que nous appelons l’explicabilité, c’est-à-dire la capacité d’un modèle d’IA d’expliquer les raisons qui sous-tendent ses décisions. Il s’agit de faire correspondre les entrées d’un système d’IA à ses sorties et de fournir une explication de la prise de décision machine qui soit compréhensible par l’homme.

Cela peut sembler obscur ou un peu philosophique, mais l’explicabilité a de grandes implications. On demande aux humains d’expliquer constamment leurs propres décisions, qu’il s’agisse d’une décision de la Cour suprême ou d’un débat sur les garnitures de pizza. L’utilisation de l’IA pour certaines applications dans des domaines réglementés comme les soins de santé ou les services bancaires aux particuliers signifie qu’une explication pourrait être légalement nécessaire. Dans d’autres cas, comme la fabrication ou le service à la clientèle, des explications peuvent être essentielles pour cerner les problèmes ou optimiser la performance de l’IA.

AI Element Podcast Season 2 Episode 1: Opening the AI Black Box

Notre premier épisode traite des définitions et des fondements de l’explicabilité et de l’IA explicable, le domaine de recherche consacré à l’explicabilité. C’est un mot à la mode dans le domaine de l’IA à l’heure actuelle, car la prise de décision machine commence à changer le monde, et les gens veulent savoir comment les systèmes d’IA en viennent à prendre ces décisions.

Nicole Rigillo, chercheuse de l’Institut Berggruen chez Element AI, clarifie la définition de l’explicabilité et d’autres idées clés, dont l’interprétabilité et la confiance. Cynthia Rudin, professeure d’informatique à l’Université Duke, parle de son travail sur des modèles explicables, qui améliore les modèles de calcul de libération conditionnelle utilisés dans certaines juridictions américaines et évaluant le risque de crise chez les patients médicaux. Et Benjamin Thelonious Fels, fondateur de l’entreprise en démarrage macro-eyes œuvrant en IA dans le domaine de la santé, estime que les humains doivent comprendre les systèmes d’IA afin de leur faire confiance.

Le reste cette deuxième saison explore les possibilités d’explicabilité sous différents angles. Nous nous entretiendrons avec certains des principaux décideurs qui travaillent sur la gouvernance de l’IA, dont l’explicabilité est un élément clé. Vous devez comprendre le fonctionnement d’un système d’IA si vous souhaitez élaborer les lois et les règlements appropriés qui l’entourent. Nous discutons également avec d’éminents penseurs en droit, en informatique, en design, et plus, au sujet des droits de la personne et de l’éthique, de l’interaction homme-ordinateur, de l’écosystème de l’IA et de l’avenir de l’intelligence amplifiée. N’hésitez pas à vous joindre à nous!

Visitez notre page balado pour les derniers épisodes, les notes d’émission et les liens vers d’autres lectures. Notre nouveau lecteur Web vous permet aussi d’écouter la première saison.

Vous aimeriez que nous traitions de certains enjeux ou sujets dans l’émission? Écrivez-nous sur Twitter à @element_AI et utilisez le mot-clic #theaielement, et nous les couvrirons dans un prochain épisode.