L'IA explicable explique-t-elle vraiment? XAI, interprétabilité mécanique et raisons

Assistez en ligne à la conférence du professeur Arturs Logins dans le cadre de la Semaine IA et société 2026: vers des usages responsables?, organisée par l'Université de Rennes (France).

Le problème dit de « boîte noire » tient au fait que, malgré des performances remarquables dans de nombreuses tâches, le fonctionnement interne des modèles d'IA contemporains — notamment les réseaux de neurones profonds — demeure opaque et invisible tant pour les usagers que pour leurs concepteurs. Pour atténuer ce problème, les chercheurs ont récemment proposé des approches d'IA explicable (XAI) ainsi que des approches d'interprétabilité mécanique (MI). Malgré ces avancées, les critiques demeurent pessimistes : ces méthodes — qui consistent essentiellement à construire un modèle simplifié du modèle pour tenter de l'expliquer — sont incapables de fournir une explication authentique du raisonnement interne des modèles boîtes noires (cf. Babic et al. 2021), se limitant à des explications causales contrefactuelles (on modifie les entrées du modèle pour observer les changements dans les sorties) et typiquement post-hoc (produites après que les recommandations du modèle ont été émises).

Certains philosophes des sciences ont récemment défendu les approches XAI en les comparant à des idéalisations scientifiques. Dans ce travail, outre la présentation des approches XAI et MI, je suggérerai que, malgré ces parallèles éclairants, il est peu probable qu'elles puissent relever le défi: le vrai problème n'est pas de reconstituer les causes d'une décision du modèle, mais d'en identifier les raisons. Je présente ce problème sous un angle spécifiquement épistémique, et j'explorerai en guise de piste alternative la possibilité d'une interprétabilité par les raisons — il s'agirait, suivant la notion de thought logging proposée par David Chalmers, d'accéder directement aux états internes du modèle qui jouent le rôle de prémisses dans son raisonnement et de les consigner, rendant ainsi ses outputs véritablement intelligibles, plutôt que de reconstituer après coup les causes d'une décision par manipulation externe des entrées et des sorties.

Lien pour suivre la conférence en direct