Étude des attaques potentielles sur les données et les modèles et de leurs contre-mesures dans le contexte de lapos;IA distribuée pour les systèmes énergétiques intelligents

Description de l'offre : Ce post-doctorat s’inscrit dans le contexte du projet de recherche AI-NRGY qui vise à proposer une architecture distribuée basée sur lapos;IA pour les systèmes énergétiques intelligents composés dapos;un grand nombre de composants dynamiques (par exemple, les réseaux intelligents, les véhicules électriques, les sources dapos;énergie renouvelables). Plus précisément, lapos;objectif de ce post-doctorat est de protéger les services basés sur lapos;IA contre les perturbations malveillantes susceptibles dapos;affecter les fonctionnalités essentielles des systèmes énergétiques. Deux types de menaces peuvent être étudiés : les menaces pour la vie privée (telles que lapos;inversion de modèle ou lapos;extraction de données) et les menaces pour la sécurité (telles que les attaques par évasion ou lapos;empoisonnement des données). Les menaces pour la vie privée ont été largement abordées par la communauté scientifique et le CEA a mené des travaux approfondis sur lapos;intégration et lapos;optimisation de primitives de cybersécurité solides pour sécuriser lapos;apprentissage fédéré. Cependant, les menaces de sécurité émergentes comme lapos;empoisonnement de modèles (qui découle de lapos;empoisonnement de données) et les attaques adverses, nécessitent désormais un traitement supplémentaire. Lapos;empoisonnement des données est une cyberattaque qui peut simplement compromettre la convergence de la phase dapos;apprentissage et aboutir à des modèles peu performants, mais également être utilisé pour intégrer une « porte dérobée » dans le modèle appris qui permet de manipuler le résultat attendu. Ce post-doctorat permettra au candidat de mener des recherches théoriques et appliquées dans le domaine de la protection de la vie privée et de la sécurité dans lapos;apprentissage automatique distribué, en particulier dans le contexte des systèmes énergétiques intelligents, plus précisément, d’étudier les menaces potentielles et de proposer des solutions pour défendre contre les attaques identifiées comme les plus pertinentes.

Profil du candidat : doctorat dans un domaine connexe à l’intelligence artificielle, les mathématiques appliquées ou l’informatique