Jenny Benois Pineau anime l’atelier « Explainable Deep learning/AI » au congrès IAPR IEEE ICPR’2021.
En rapport avec le projet émergeant Explanable AI du LABRI, il s’agit de proposer des méthodes pour "comprendre" et "expliquer" comment ces systèmes produisent leurs décisions.
Les systèmes d'IA peuvent produire des erreurs, peuvent présenter des biais manifestes ou subtils, peuvent être sensibles au bruit dans les données et manquent souvent de transparence et d'explicabilité technique et judiciaire. Ces lacunes soulèvent de nombreuses préoccupations éthiques et politiques qui empêchent une plus large adoption de cette technologie potentiellement très bénéfique. Dans divers domaines d'application de la reconnaissance des formes et de l'IA, tels que la santé, l'écologie, les voitures à conduite autonome, la sécurité, la culture, il est indispensable de comprendre comment les prévisions sont corrélées avec la perception de l'information et la prise de décision par les experts et ont un impact sur la société et les entreprises... Les objectifs de cet atelier d'une journée entière sont de rassembler la communauté des chercheurs qui travaillent sur la question de l'amélioration de l'explicabilité des algorithmes et des systèmes d'IA et de reconnaissance de formes. L'atelier s'inscrit dans le cadre de la CIPR 2020 et est soutenu par le projet de recherche XAI-LaBRI.
En savoir plus, ici.