Stratégie de co-conception pour l'exploitation de la sparsité spatio-temporelle dans les modèles de réseaux de neurones à l'apprentissage/inférence

Description de l'offre : L'objectif du projet est d'identifier, d'analyser et d'évaluer les mécanismes de modulation de la sparsité spatio-temporel des fonctions d'activation afin de minimiser la charge de calcul du modèle NN de transformateur (apprentissage/inférence). Une approche combinée avec la quantification extrême sera également envisagée. L’objectif est d’affiner conjointement une stratégie innovante pour évaluer les impacts et les gains potentiels de ces mécanismes sur l’exécution du modèle sous contraintes matérielles. En particulier, cette co-conception devrait également permettre de qualifier et d’exploiter une boucle de rétroaction bidirectionnelle entre un réseau neuronal ciblé et une instanciation matérielle afin d’obtenir le meilleur compromis (compacité/latence).

Profil du candidat : Doctorat en IA pour systèmes embarqués avec une expérience en conception de réseau de neurones optimisé ciblant des composants numériques