Solveur non-linéaire pour la vérification de réseaux de neurones H/F

Job description: Contexte Avec les récents développements en matière d'IA, son utilisation est de plus en plus répandue et soulève de plus en plus de questions quant à sa robustesse, son respect de la vie privée ou autre. Un certain nombre de travaux ont émergés pour augmenter la confiance dans les IAs en se basant sur des méthodes formelles pour obtenir des garanties mathématiques de leur sûreté. Afin de fournir des guaranties fortes de sûreté et de robustesse sur des réseaux de neurones, les équipes du CEA ont développés un outil appelé PyRAT. Cet outil utilise utilise des techniques à base d'interprétation abstraite pour obtenir les sorties atteignables d'un réseau. Pour modéliser les comportements complexes de certains réseaux, PyRAT peut utiliser des contraintes linéaires et non linéaires. Actuellement, un solveur itératif permet de résoudre les contraintes linéaires mais ne fonctionnent pas sur les contraintes non-linéaires. Stage La première moitié du stage sera dédiée au développement de méthodes pour créer un solveur iteratif et correct pour une fonction linéaire sujette à des contraintes non linéairs. Ensuite, ce solveur sera implémenter dans PyRAT avec des contraintes quadratiques. Ce solveur devra correctement approximer le résultat, par exemple le minimum trouvé devra toujours être superieur ou égal au minimum exact. Ce solveur sera par la suite tester sur un certain nombre de problèmes concrets de vérification de réseaux de neurones.

Institute description: Sur le campus Paris-Saclay, le rôle du Laboratoire Sûreté et Sécurité des Logiciels du #CEA-List est de développer des outils d'analyse pour augmenter la confiance dans les systèmes logiciels, en détecter des vulnérabilités, garantir la conformité à leurs spécifications, et en accélérer l'évaluation y compris dans des démarches de certification. Nos outils open-source sont développés afin d'être utilisés par l'industrie et leur développement est guidé par ses besoins.

Your profile: Qu’attendons-nous de vous ? Vous préparez un diplôme de niveau M1 ou M2 dans le domaine l'informatique. Vous possédez des connaissances en développement Python, en optimisation et en intelligence artificielle. Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles ! Vous avez encore un doute ? Nous vous proposons : L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique, Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels, Une expérience à la pointe de l’innovation, comportant un fort potentiel de développement industriel, Des moyens expérimentaux exceptionnels et un encadrement de qualité, De réelles opportunités de carrière à l’issue de votre stage, Une participation aux transports en commun à hauteur de 75%, Un équilibre vie privé – vie professionnelle reconnu, Une politique diversité et inclusion, Un CSE actif en termes de loisirs et d’activités extra-professionnelles.  Tous nos postes sont ouverts aux personnes en situation de Handicap. La Mission Handicap du CEA vous accompagne et met en place les aménagements nécessaires à vos besoins spécifiques.