Ecole d'été XAIDATA

Les systèmes d'IA influencent de plus en plus les décisions dans les domaines de la science, de la politique et de la vie quotidienne. Il est essentiel de comprendre les données et leur relation avec les modèles entraînés pour développer des systèmes d'IA sûrs, fiables et conformes dans diverses applications, car toutes les décisions des modèles trouvent leur origine dans les données d'entraînement. À cette fin, trois familles complémentaires de méthodes d'interprétabilité ont été proposées pour éclairer les systèmes de décision automatisés à forte intensité de données : (a) l'IA explicable, qui se concentre sur l'attribution des caractéristiques pour comprendre quelles caractéristiques d'entrée déterminent les décisions du modèle ; (b) l'IA centrée sur les données, qui met l'accent sur l'attribution des données pour analyser comment les exemples d'entraînement façonnent le comportement du modèle ; (c) l'interprétabilité fonctionnelle, qui examine l'attribution des composants pour comprendre comment les composants internes du modèle contribuent aux résultats. Différentes méthodes d'interprétabilité sont actuellement utilisées pour les différentes tâches des pipelines modernes nécessaires à la construction de systèmes d'IA modernes. L'école de printemps ETIS proposée sur l'explicabilité des systèmes d'IA à forte intensité de données vise à réunir des chercheurs et des étudiants issus des domaines de la gestion des données, de l'intelligence artificielle et de l'informatique responsable afin d'explorer comment la transparence et l'interprétabilité peuvent être efficacement intégrées dans des environnements pilotés par les données. L'atelier examinera comment l'explicabilité peut fournir des informations exploitables dans différents contextes d'apprentissage, tels que les classements de recommandations, les prédictions de délai d'événement, la classification ou la régression basée sur des graphes, les pipelines de génération augmentée par la recherche (RAG) et la sélection de caractéristiques causales.