Lapos;IA générative a le potentiel de transformer diverses industries. Cependant, les modèles actuels de pointe comme les transformers rencontrent des défis significatifs en termes dapos;efficacité computationnelle et de mémoire, notamment lorsquapos;ils sont déployés sur des matériels à ressources limitées. Cette recherche de doctorat vise à résoudre ces problèmes en optimisant les réseaux Mamba pour des applications matérielles. Les réseaux Mamba offrent une alternative prometteuse en réduisant la complexité quadratique des mécanismes dapos;attention par des choix architecturaux innovants. En utilisant des techniques comme les motifs dapos;attention éparses et le partage efficace des paramètres, les réseaux Mamba peuvent générer des données de haute qualité avec des besoins en ressources beaucoup plus faibles. La recherche se concentrera sur la mise en œuvre dapos;optimisations matérielles pour améliorer lapos;efficacité des réseaux Mamba, les rendant adaptés aux applications en temps réel et aux dispositifs embarqués. Cela inclut lapos;optimisation des temps de formation et dapos;inférence, ainsi que lapos;exploration des accélérations matérielles potentielles. Lapos;objectif est dapos;avancer le déploiement pratique de lapos;IA générative dans des domaines à ressources limitées, contribuant ainsi à son adoption plus large et à son impact.
Masterapos;s degree in Computer Science. Strong knowledge in neural networks and algorithms. Optional knowledge in embedded programming. Excellent analytical and experimental skills will be highly valued.
Talent impulse, le site d’emploi scientifique et technique de la Direction de la Recherche Technologique du CEA
© Copyright 2023 – CEA – TALENT IMPULSE – Tous droits réservés