Security-by-design pour les modèles de réseaux de neurones embarqués sur plateformes RISC-V

Description de l'offre : Dans un contexte de régulation de lapos;Intelligence Artificielle à lapos;échelle européenne (AI Act), de nombreuses recommandations concernent la « cybersecurité de l’IA ». Parmi les concepts les plus importants liés à la sécurité des modèles de Machine de Learning et des systèmes basés sur lapos;IA, la quot;security-by-designquot; est le plus souvent associé au renforcement des modèles dès lapos;apprentissage (e.g., adversarial training contre les menaces par évasion ou le differential privacy pour les attaques contre la confidentialité). Cette thèse vise à couvrir un spectre plus large du quot;security-by-designquot; en étudiant les mécanismes logiciels (SW) et électroniques (HW) que lapos;on peut mettre en œuvre pour renforcer la robustesse intrinsèque des systèmes dapos;IA embarqués sur plateformes RISC-V. Les objectifs sont (1) de définir et modéliser les vulnérabilités SW et HW propres aux modèles embarqués, (2) développer et évaluer des protections et (3) démontrer l’impact des protections SW, HW et leurs combinaisons sur des attaques de l’état de l’art comme les quot;weight-based adversarial attacksquot;, quot;model extractionquot;.

Profil du candidat : Master en IA et/ou Master en microélectronique