Vidéo de présentation de l'Institut Mines-Télécom
Missions
De nombreuses procédures s'appuient à l'heure actuelle sur les prédictions réalisées par un modèle d'Intelligence Artificielle (IA) et interviennent alors comme un élément d'aide à la décision pour des opérateurs humains.
Pour améliorer ce type de collaboration entre l'Homme et la Machine, il peut être pertinent de fournir à l'opérateur humain des informations sur le comportement global du prédicteur, ainsi que d'enrichir les prédictions avec des éléments visant à les expliquer. Par exemple, il s'agit de fournir des informations permettant d'expliciter, pour une entrée donnée, la prédiction d'un modèle d'apprentissage profond, tel qu'un Vision Transformer : pourquoi ce modèle aboutit-il à un certain résultat de classification pour une image donnée ? Des techniques d'IA explicable ou XAI (eXplainable AI) ont été proposées et étudiées dans la littérature. Elles permettent d'évaluer le comportement global des modèles entraînés et d'expliquer des prédictions spécifiques en fonction des entrées (via des méthodes d'interprétabilité locale). Ces techniques s'appuient sur des hypothèses concernant la compréhension des processus de traitement des modèles prédictifs et l'importance accordée aux informations qui leur sont fournies.
Quelle est l'impact des techniques de XAI sur la collaboration entre l'Homme et la Machine ? Le Post-Doc proposé vise à apporter des éléments de réponse à cette question. En effet, dans de nombreux cas, les modèles d'IA sont des systèmes complexes qui traitent d'énormes quantités de données et effectuent des calculs difficiles à interpréter de manière intuitive. L'objectif de l'explicabilité est de fournir aux utilisateurs des informations sur la logique décisionnelle du modèle, afin qu'ils puissent comprendre et avoir confiance dans les résultats de l'IA. Si la compréhension des conclusions d'une IA peut influencer la confiance que l'on lui accorde, la collaboration entre l'Homme et la Machine peut-elle évoluer vers une relation de médiation, de délégation, voire de substitution ? Ce sont les questions que nous nous proposons d'explorer dans le cadre de cette étude.
Activités
Vous contribuez à :
- L'évaluation des variations des résultats produits par les méthodes XAI dans des contextes d'étude spécifiques (par exemple, des tâches de classification d'images, etc.).
- L'évaluation de l'impact des méthodes XAI sur la collaboration Homme-Machine dans des contextes simplifiés de prise de décision :
- Évaluation de la performance de l'opérateur humain dans l'exécution d'une tâche, dans différents contextes : seul, avec l'aide d'un modèle prédictif pour lequel les décisions seront expliquées/non expliquées, à l'aide d'une technique XAI.
- Évaluation de la collaboration Homme-Machine : délégation, substitution ou médiation.
- Évaluation des biais potentiels induits par l'utilisation de techniques d'IA.
Vous participez à la définition :
- Des contextes d'étude (par exemple les jeux, la classification d'images, etc.) et des protocoles de test à mettre en oeuvre.
- A la sélection et à l'implémentation de modèles prédictifs et de techniques XAI.
- A l'organisation des expérimentations sur des cohortes d'opérateurs humains.
- L'évaluation et la valorisation des résultats obtenus.
En fonction de votre profil, certains aspects sont plus approfondis que d'autres, et des aspects complémentaires sont envisagés concernant l'identification de techniques XAI susceptibles de répondre aux limitations des techniques existantes identifiées dans la littérature ou par les tests réalisés. Nous restons ouverts aux propositions de contributions des candidats en fonction de leurs centres d'intérêt.
Le projet sera mené en étroite collaboration avec l'IMT Mines Alès, en particulier avec Jacky Montmain, Sébastien Harispe et Andon Tchechmedjiev (laboratoire CERIS). Des déplacements, voire des séjours à Alès pourront si besoin être mis en place.
Formation
- Doctorat en économie, en management ou en informatique sur une thématique en lien avec l'IA explicable et/ou le machine learning depuis moins de 3 ans
Compétences, connaissances et expériences indispensables
- Techniques XAI ; connaissance des principales méthodes XAI et des outils dans le domaine. Les compétences peuvent être améliorées au cours de la mission, mais la connaissance de ces aspects est souhaitable.
Compétences, connaissances et expériences souhaitables
- Une partie importante de la mission est l'évaluation des collaborations homme-machine, c'est-à-dire l'évaluation de l'impact des modèles d'IA et de XAI sur la prise de décision humaine ; une première expérience de travail avec des cohortes humaines serait un plus.
- Maîtrise de techniques de Machine Learning.
Capacités et aptitudes
- Travailler en équipe pluridisciplinaire
- Rigueur
- Capacité d'écoute et qualités relationnelles
- Être force de proposition
Informations complémentaires et candidature
- Date limite de candidature : 08/11/2024
- Nature du contrat : CDD 18 mois
- Localisation du poste : Evry-Courcouronnes (91)
- Catégorie et métier du poste (usage interne) : II-P, Post-doctorant ou A (fonction publique)
- Poste ouvert aux métiers de niveau immédiatement inférieur (usage interne)
- Les postes offerts au recrutement sont ouverts à toutes et tous avec, sur demande, des aménagements pour les candidats en situation de handicap
- Emploi ouvert aux titulaires de la fonction publique et/ou aux contractuels
- Conditions de travail : télétravail possible, restaurant et cafétéria sur site, accessibilité en transport en commun (avec participation de l'employeur) ou proche des axes routiers, association du personnel et association sportive sur le campus
- Personne à contacter : Nicolas SOULIE ; **.**.**.**.**
Présentation de l'Ecole :
Grande Ecole de management de l'IMT-Institut Mines-Télécom, premier groupe d'écoles d'ingénieurs de France, Institut Mines-Télécom Business School est une Grande Ecole publique qui forme des managers et des entrepreneurs responsables, innovants et ouverts sur le monde, afin de guider les entreprises dans les transitions au coeur de la société de demain, avec une expertise particulière dans le management du numérique et des technologies. Elle partage son campus avec Télécom SudParis, également membre de l'IMT. L'Ecole compte 1500 étudiants, figure chaque année au classement des meilleures business schools françaises et européennes, et est accréditée AACSB et AMBA. L'Ecole propose des formations allant du post-Bac (Bachelor - Grade Licence) à l'Executive Education en passant par le Programme Grande Ecole délivrant un diplôme Bac +5 (Grade Master).
À propos de l'Institut Mines-Télécom :
L'Institut Mines-Télécom (IMT) est un établissement public dédié à l'enseignement supérieur et la recherche pour l'innovation dans les domaines de l'ingénierie et du numérique. À l'écoute permanente du monde économique, l'IMT conjugue une forte légitimité académique et scientifique, une proximité avec les entreprises et un positionnement unique sur les transformations majeures au XXIe siècle : numériques, énergétiques, industrielles et éducatives siècle. Ses activités se déploient au sein des grandes écoles Mines et Télécom sous tutelle du ministre en charge de l'Industrie et des communications électroniques, de deux filiales et de partenaires associés ou sous convention. L'IMT est membre fondateur de l'Alliance Industrie du Futur. Il est doublement labellisé Carnot pour la qualité de sa recherche partenariale.
sur le site du recruteur.