Site IMT Mines Alès
La mission qui vous est proposée vise à fournir des éléments de réponse à cette question : Quelle est l’incidence des techniques de XAI sur la collaboration Homme-Machine ?
Ainsi, dans de nombreux cas, les modèles d’IA sont des systèmes complexes qui traitent d’énormes quantités de données et effectuent des calculs difficiles à interpréter intuitivement. L’objectif de l’explicabilité est de fournir aux utilisateurs des informations sur la logique de prise de décision du modèle de manière à ce qu’ils puissent comprendre et faire confiance aux résultats de l’IA. Si l’intelligibilité des conclusions d’une IA peut modifier la confiance accordée à cette IA, la collaboration Homme-Machine peut-elle évoluer vers une relation de médiation, de délégation ou de substitution ?
Ce sont les questions que nous nous proposons d’aborder dans le cadre de cette étude.
Celle-ci fait partie du projet européen ENFIELD. ENFIELD vise à établir un centre d’excellence européen distinctif axé sur l’avancement de la recherche fondamentale en matière d’IA adaptative, soutenable, centrée sur l’humain et digne de confiance.
Vous contribuez à :
- L’évaluation des variations des résultats produits par les méthodes XAI dans des contextes d’étude spécifiques (par exemple, des tâches de classification d’images et des techniques XAI basées sur l’interprétabilité locale à l’aide de méthodes d’attribution).
- L’évaluation de l’impact des méthodes XAI sur la collaboration homme-machine dans des contextes simplifiés de prise de décision :
- évaluation de la performance de l’opérateur humain dans l’exécution d’une tâche, dans différents contextes : seul, avec l’aide d’un modèle prédictif pour lequel les décisions seront expliquées/non expliquées, à l’aide d’une technique XAI,
- évaluation de la collaboration homme-machine : délégation, substitution ou médiation,
- évaluation des biais potentiels induits par les techniques d’IAO.
Vous participez à la définition :
- Des contextes d’étude (par exemple les jeux, la classification d’images) et des protocoles de test à prendre en compte.
- A la sélection et à l’implémentation de modèles prédictifs et de techniques XAI.
- A la mise en place des outils nécessaires à la réalisation des expériences couvertes par les protocoles d’étude, par exemple le développement de jeux simples, d’interfaces décisionnelles.
- A la mise en œuvre des protocoles susmentionnés sur des cohortes d’opérateurs humains.
- L’évaluation et la valorisation des résultats obtenus.
Vous trouvez plus d’information sur le descriptif du poste via URL candidature