Stage en optimisation en intelligence artificielle pour un master ou un diplôme d’ingénieur

Description de l'offre : Le Commissariat à l’énergie atomique et aux énergies alternatives (CEA) est un organisme de recherche et d’innovation de premier plan, actif dans trois grands domaines : l’énergie, les technologies de l’information et de la santé, et la défense. Au sein du CEA, le Laboratoire d’intégration des systèmes et des technologies (LIST), situé à Saclay (Île-de-France), conduit des activités de transfert technologique et d’innovation dans les systèmes embarqués. Le Laboratoire d’Intelligence Artificielle Embarquée (LIAE) est spécialisé dans la conception de solutions d’IA optimisées pour les environnements embarqués, avec un accent particulier sur l’efficacité en termes de surface, de consommation énergétique et de performances de calcul. Les Vision Transformers (ViT) ont récemment démontré des performances supérieures à celles des réseaux de neurones convolutifs (CNN) dans un large éventail de tâches de vision par ordinateur. Leur forte capacité de représentation s’accompagne toutefois d’une complexité de calcul et de besoins en mémoire nettement plus élevés. Cela constitue un défi majeur pour le déploiement de modèles basés sur les ViT dans des dispositifs contraints en ressources, tels que les systèmes mobiles ou embarqués. Pour répondre à cette problématique, notre laboratoire explore activement les techniques de quantification, qui permettent une inférence efficace en contraignant toutes les opérations, y compris les multiplications matricielles et les activations, à de l’arithmétique entière. Cette ligne de recherche a déjà conduit à des résultats prometteurs en segmentation sémantique avec le développement de l’I-Segmenter [1], un cadre ViT entièrement quantifié qui atteint une précision compétitive tout en réduisant drastiquement le coût d’inférence. Objectif du stage L’objectif de ce stage est de prolonger nos travaux en cours sur les ViT en y intégrant la détection d’objets. Le projet consistera d’abord à quantifier une tête de détection, telle que RT-DETR [2,3], afin d’assurer sa compatibilité avec un encodeur ViT reposant uniquement sur l’arithmétique entière. L’étape suivante sera d’intégrer les têtes de segmentation et de détection quantifiées dans un ViT multi-tâches entièrement entier, capable de gérer simultanément les deux tâches. Enfin, le système proposé sera évalué sur les environnements PyTorch et TVM, avec des performances mesurées en termes de précision (mAP – mean Average Precision), ainsi que d’efficacité (débit en images par seconde – FPS –, nombre de paramètres et coût de calcul – MACs). Résultats attendus Une preuve de concept d’un ViT multi-tâches entièrement quantifié pour la segmentation et la détection. Des benchmarks comparatifs par rapport à des bases de référence en précision mixte ou en flottant. Des résultats présentant un potentiel de publication scientifique. Références : [1] J. Sassoon, M. Szczepanski, et M. Poreba. 2025. I-Segmenter : Integer-Only Vision Transformer for Efficient Semantic Segmentation (en cours d’évaluation)

Profil du candidat : Profil recherché : Master (BAC+5) en informatique, mathématiques appliquées ou domaine connexe. Compétences requises : Solides connaissances en apprentissage profond (CNN, ViT) et en PyTorch. Bonnes compétences en programmation Python (la maîtrise de C++ est un plus). Intérêt pour l’IA efficace, les systèmes embarqués ou la quantification de modèles. Pour postuler : CV + lettre de motivation + relevés de notes et classements des trois dernières années académiques.

Diplome préparé : Bac+5 - Master 2

Langues : Anglais Intermédiaire