Quantification basse précision de réseau de neurones attentionnel pour l’embarqué

  • Intelligence Artificielle et data intelligence,
  • Doctorat
  • CEA-List
  • Paris – Saclay
  • BAC+5
  • 2024-03-01
  • MOINEAU Cyril (DRT/DSCIN/DSCIN/LIAE)
Candidater

Embarquer lapos;intelligence artificielle (IA) représente un défi de taille. Lapos;IA sapos;est en effet développée ces dernières années à grands coups de réseaux de neurones géants et de traitements de données massives. Aujourd’hui l’enjeu est d’adapter ces méthodes dans de petits composants embarqués au plus près des solutions industrielles. La question de recherche du sujet est celle de la frugalité des réseaux de neurones afin de pouvoir les porter sur l’embarqué. Cela implique de repenser les modèles afin qu’ils soient nettement plus compacts et efficaces, avec l’utilisation de topologies adaptées, de méthodes de compressions mais également de coder l’information de manière adapté pour l’inférence sur cibles embarquées. Plus précisément, le candidat sapos;intéressera aux réseaux de neurones basé sur le mécanisme d’attention comme les réseaux Transformer. Il sera amené à proposer de nouvelles méthodes de compression adaptés à ces modèles de réseaux de neurones, basés par exemple sur de la quantification ou de la distillation. Le candidat portera lapos;attention sur la compatibilité des méthodes quapos;il propose pour rendre les réseaux embarquable sur une cible matérielle. Dans cette idée, il proposera des codages de lapos;information adaptés aux cibles matérielles.

Master ou diplôme dapos;ingénieur en informatique/électronique.

fr_FRFR

Contact us

We will reply as soon as possible...