Histoires post-universitaires

Marouane Il Idrissi cherchera à débloquer l’explicabilité et l’interprétabilité des modèles de boîte noire

En tant que boursier postdoctoral distingué de l’INCASS 2025, Marouane Il Idrissi participera à un programme complet qui comprend l’enseignement, la collaboration interdisciplinaire ou appliquée, le développement professionnel et un projet de recherche qui vise à comprendre le fonctionnement interne des modèles de boîte noire comme les réseaux neuronaux profonds. Il travaillera sous la supervision du professeur Arthur Charpentier (Université du Québec à Montréal) et de la professeure Marie-Pier Côté (Université Laval).

Programme : Bourse postdoctorale distinguée de l’INCASS
Région : Nationale
Date : 2025–2027

Domaines d’intervention du projet

L’explicabilité et l’interprétabilité sont cruciales pour les modèles prédictifs car elles servent de pont entre les techniques avancées d’apprentissage automatique et leurs applications dans le monde réel. Bien que les modèles de boîte noire comme les réseaux neuronaux profonds présentent souvent des performances prédictives remarquables, leur fonctionnement interne peut rester impénétrable, ce qui rend leurs décisions difficiles à faire confiance, à expliquer et à déboguer. Dans des contextes de décision à enjeux élevés tels que les soins de santé, la finance et les assurances, ou les véhicules autonomes, la capacité à comprendre ces modèles est primordiale pour la responsabilité, l’équité et la conformité réglementaire.

L’interprétation des modèles de boîte noire devient beaucoup plus difficile lorsque les caractéristiques prédictives sont corrélées. La corrélation entre les caractéristiques peut conduire à une multicolinéarité, auquel cas la contribution unique de chaque variable aux prédictions du modèle est difficile à discerner. Dans de tels cas, les techniques d’interprétabilité doivent démêler le réseau complexe d’interactions entre les fonctionnalités, soulignant davantage l’importance de méthodes robustes pour comprendre ces systèmes d’apprentissage automatique complexes et réels.

Les recherches de Marouane Il Idrissi s’appuieront sur des ensembles de données d’assurance du monde réel. Pour les candidatures, il utilisera autant que possible des bases de données du domaine public. Au cours du projet, il recevra une formation en méthodologie statistique et en sciences actuarielles et aura l’occasion d’enseigner et d’encadrer des étudiants de premier et de deuxième cycle. De plus, il aura l’occasion d’aider à organiser des ateliers et de présenter des conférences nationales et internationales.

Faire connaissance avec Marouane

Marouane Il Idrissi a obtenu son doctorat en Mathématiques Appliquées à l’Université de Toulouse en 2024 sous la direction de Jean-Michel Loubes, Fabrice Gamboa, Nicolas Bousquet et Bertrand Iooss. Sa thèse porte sur le développement de méthodes d’interprétabilité en apprentissage automatique pour la certification de l’intelligence artificielle aux systèmes critiques.

L’objectif principal de ce travail était d’améliorer la transparence et la responsabilité des modèles de boîte noire déployés dans des domaines à enjeux élevés, tels que la production et la distribution d’énergie, où la fiabilité et la sécurité des décisions basées sur l’intelligence artificielle (IA) sont cruciales.

Dans sa candidature au Programme de bourses postdoctorales distinguées (BPDS) de l’INCASS, Marouane a souligné son parcours universitaire diversifié – d’une concentration initiale sur l’économie aux statistiques avancées et aux mathématiques appliquées – et ses expériences professionnelles dans de nombreux secteurs critiques, notamment l’assurance, les soins de santé et l’énergie, qui, selon lui, ont approfondi sa compréhension des implications concrètes de l’IA.

Il a également exprimé un vif intérêt pour l’enseignement et a déclaré : « Mon objectif en tant qu’éducateur est de doter les étudiants des compétences techniques et de la conscience éthique nécessaires pour naviguer de manière responsable et efficace dans le paysage en constante évolution de la prise de décision basée sur les données. »

Marouane considère le programme BPDI non seulement comme une opportunité de recherche, mais aussi comme « une chance unique d’atteindre mon objectif de devenir un membre prolifique et à long terme de la communauté universitaire canadienne ».

Je considère cette bourse non seulement comme une opportunité de recherche, mais aussi comme une chance unique d’atteindre mon objectif de devenir un membre prolifique et à long terme de la communauté universitaire canadienne.