Semantic perturbations for Neural Network verifications H/F

Candidater

Contexte La plupart des méthodes de vérification formelle de la robustesse d'un réseau de neurones proposent une vérification de propriété de robustesse assez simple : pour un voisinage d'une certaine taille autour d'une image selon la norme L-infini alors le réseau de neurone donnera toujours le même résultat. Cette modélisation simpliste de la robustesse ne permet pas de modéliser de façon précise des perturbations plus significatives telles que la rotation, la saturation, des changements de luminosités, ... De récents travaux ont proposé des approches consistant à rajouter des couches sémantiques modélisant ces perturbations directement dans le réseau de façon à ce que les outils classiques de vérification puissent les utiliser pour prouver ces propriétés. Stage Ce stage consistera dans l'implémentation de ces méthodes de l'état de l'art et se basera sur des travaux déjà effectués au laboratoire qui incluent déjà la prise en compte de certaines perturbations simples et de la vérification de leur robustesse (luminosité, contraste, ...). Il s'agira donc ici d'améliorer ce travail avec d'autres perturbations afin de les tester. Le but sera ensuite d'utiliser ces méthodes avec les outils de vérification formelle de notre laboratoire tels que l'outil PyRAT ou la plateforme CAISAR. Les différents étapes de ce stage seront donc Implémenter les perturbations par rotation et par changement du bias field en Python. Modéliser ces perturbations comme des couches dans un modèle de réseau de neurones. Tester ces perturbations et la robustesse des modèles face à celles-ci avec les outils du labo. Envisager du réentrainement de modèle pour les rendre robuste à des perturbations. Améliorer les techniques de vérification pour ce type de perturbations.

Sur le campus Paris-Saclay, le rôle du Laboratoire Sûreté et Sécurité des Logiciels du #CEA-List est de développer des outils d'analyse pour augmenter la confiance dans les systèmes logiciels, en détecter des vulnérabilités, garantir la conformité à leurs spécifications, et en accélérer l'évaluation y compris dans des démarches de certification. Nos outils open-source sont développés afin d'être utilisés par l'industrie et leur développement est guidé par ses besoins.

Qu’attendons-nous de vous ? Le candidat travaillera à l'intersection des méthodes formelles et de l'intelligence artificielle. Il préparera un Master I ou II ou équivalent en informatique. Connaissances requises: Développement Python Git Bases en vision par ordinateur et intelligence artificielles Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles ! Vous avez encore un doute ? Nous vous proposons : L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique, Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels, Une expérience à la pointe de l’innovation, comportant un fort potentiel de développement industriel, Des moyens expérimentaux exceptionnels et un encadrement de qualité, De réelles opportunités de carrière à l’issue de votre stage, Une participation aux transports en commun à hauteur de 75%, Un équilibre vie privé – vie professionnelle reconnu, Une politique diversité et inclusion, Un CSE actif en termes de loisirs et d’activités extra-professionnelles. Tous nos postes sont ouverts aux personnes en situation de Handicap. La Mission Handicap du CEA vous accompagne et met en place les aménagements nécessaires à vos besoins spécifiques.

fr_FRFR

Contact us

We will reply as soon as possible...