Site IMT Mines Alès
Quelle est l’incidence des techniques de XAI sur la collaboration Homme-Machine ?
Dans le cadre du projet européen ENFIELD, qui vise à établir un centre d’excellence européen distinctif axé sur l’avancement de la recherche fondamentale en matière d’IA adaptative, soutenable, centrée sur l’humain et digne de confiance, vous contribuerez à :
- L’évaluation des variations des résultats produits par les méthodes XAI dans des contextes d’étude spécifiques (par exemple, des tâches de classification d’images et des techniques XAI basées sur l’interprétabilité locale à l’aide de méthodes d’attribution).
- L’évaluation de l’impact des méthodes XAI sur la collaboration homme-machine dans des contextes simplifiés de prise de décision :
- évaluation de la performance de l’opérateur humain dans l’exécution d’une tâche, dans différents contextes : seul, avec l’aide d’un modèle prédictif pour lequel les décisions seront expliquées/non expliquées, à l’aide d’une technique XAI,
- évaluation de la collaboration homme-machine : délégation, substitution ou médiation,
- évaluation des biais potentiels induits par les techniques de XAI.
Vous participerez à :
- Définir des contextes d’étude (par exemple les jeux, la classification d’images) et des protocoles de test à prendre en compte.
- Sélectionner et à implémenter de modèles prédictifs et de techniques XAI.
- Mettre en place des outils nécessaires à la réalisation des expériences couvertes par les protocoles d’étude, par exemple le développement de jeux simples, d’interfaces décisionnelles.
- Mettre en œuvre des protocoles susmentionnés sur des cohortes d’opérateurs humains.
- Evaluer et la valoriser les résultats obtenus.
Pré-requis du poste
Compétences, connaissances et expériences requises :
- Modèles d’apprentissage profond, et leur mise en œuvre via PyTorch (capacité à entraîner et à affiner des modèles pré-entraînés sur des ensembles de données spécifiques sur des ressources informatiques GPU dédiées), évaluation des modèles entraînés selon des protocoles standard.
- Techniques XAI ; connaissance des principales méthodes XAI (par exemple les méthodes locales et d’attribution) et des outils dans le domaine. Les compétences peuvent être améliorées au cours de la mission, mais la connaissance de ces aspects est souhaitable.
Compétences, connaissances et expériences appréciées :
Une partie importante de la mission porte sur l’évaluation des collaborations homme-machine, c’est-à-dire l’évaluation de l’impact des modèles d’IA et de XIA sur la prise de décision humaine ; une première expérience de travail avec des cohortes humaines serait un plus.
Niveau de formation et/ou expérience minimums requis :
Doctorat en informatique sur une thématique en lien avec l’apprentissage automatique et/ou profond