Défense des modèles dapos;analyse de scène contre les attaques adversaires

Description de l'offre : Dans de nombreuses applications, des briques dapos;analyse de scène comme la segmentation sémantique, la détection et la reconnaissance dapos;objets, ou la reconnaissance de pose, sont nécessaires. Les réseaux de neurones profonds sont aujourdapos;hui parmi les modèles les plus efficaces pour effectuer un grand nombre de tâches de vision, parfois de façon simultanée lorsque lapos;apprentissage profond est multitâches. Cependant, il a été montré que ceux-ci étaient vulnérables face aux attaques adversaires (adversarial attacks): En effet, il est possible dapos;ajouter aux données dapos;entrée certaines perturbations imperceptibles par lapos;oeil humain qui mettent à mal les résultats lors de lapos;inférence faite par le réseau de neurones. Or, une garantie de résultats fiables est capitale pour les systèmes de décision où les failles de sécurité sont critiques (ex : applications comme le véhicule autonome, la reconnaissance d’objets en surveillance aérienne, ou la recherche de personnes/véhicules en vidéosurveillance). Différents types dapos;attaques adversaires et de défense ont été proposés, le plus souvent pour le problème de classification (dapos;images notamment). Quelques travaux ont abordé lapos;attaque des plongements qui sont optimisés par apprentissage de métrique pour les tâches de type ensemble-ouvert comme la réidentification dapos;objets, la reconnaissance faciale ou la recherche dapos;images par le contenu. Les types dapos;attaques se sont multipliés, quapos;il sapos;agisse dapos;attaques universelles ou optimisées sur une instance particulière. Les défenses proposées doivent faire face à de nouvelles menaces sans trop sacrifier les performances initiales du modèle. La protection des données dapos;entrée face aux attaques adversaires est capitale pour les systèmes de décision où les failles de sécurité sont critiques. Un moyen de protéger ces données est de développer des défenses contre ces attaques. Lapos;objectif sera donc dapos;étudier et de proposer différentes attaques et défenses applicables aux briques dapos;analyse de scène, notamment celles de détection dapos;objets et de recherche dapos;instance dapos;objet dans les images.

Profil du candidat : Master2 ou ingénieur avec bonne expérience en vision et apprentissage profond