Contexte L'analyse formelle d'un réseau de neurone peut s'effectuer avec un certain nombre de techniques et un grand nombre d'outils ont émergés pour cela. Dans notre laboratoire, l'outil PyRAT se base sur des techniques d’interprétation abstraite pour obtenir à partir d'un ensemble d'entrées, l'ensemble des sorties possibles d'un réseau. Néanmoins, face aux non linéarités présentes dans les réseaux de neurones (ReLU, Sigmoid, TanH, ...), des surapproximations doivent être réalisées. Celles-ci introduisent ce que l'on appelle des symboles de bruits dans notre analyse. Au vu de la taille des dernières architectures de réseaux, le nombre de symboles de bruits introduits dans l'analyse est très important. C'est pour cela qu'il devient nécessaire de définir des approches pour réduire ce nombre de symbole de bruits avec différentes heuristiques. Dans le même temps, ces symboles de bruits introduits dans l'analyse sont de bons indicateurs de l'influence de différents paramètres sur le résultat des prédictions du modèle. Ils peuvent donc être utilisés pour proposer une méthode d'explicabilité sur le réseau de neurones. Stage Le but de ce stage est donc d'implémenter et de réfléchir à des heuristiques de réduction des symboles de bruit ainsi que d'explorer des façons d'utiliser ces symboles pour l'explicabilité du réseau. Les tâches suivantes seront effectuées: Exploration de l'état de l'art sur les techniques de réduction de symboles de bruits Implémentation et tests des méthodes de réduction sur différents type de problème Exploration et test de méthodes d'explicabilité avec des symboles de bruit.
Sur le campus Paris-Saclay, le rôle du Laboratoire Sûreté et Sécurité des Logiciels du #CEA-List est de développer des outils d'analyse pour augmenter la confiance dans les systèmes logiciels, en détecter des vulnérabilités, garantir la conformité à leurs spécifications, et en accélérer l'évaluation y compris dans des démarches de certification. Nos outils open-source sont développés afin d'être utilisés par l'industrie et leur développement est guidé par ses besoins.
Qu’attendons-nous de vous ? Vous préparez un diplôme de niveau M1 ou M2 dans le domaine l'informatique. Vous possédez des connaissances en développement Python, intelligence artificielle et optionnellement des bases en interprétation abstraites. Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles ! Vous avez encore un doute ? Nous vous proposons : L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique, Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels, Une expérience à la pointe de l’innovation, comportant un fort potentiel de développement industriel, Des moyens expérimentaux exceptionnels et un encadrement de qualité, De réelles opportunités de carrière à l’issue de votre stage, Une participation aux transports en commun à hauteur de 75%, Un équilibre vie privé – vie professionnelle reconnu, Une politique diversité et inclusion, Un CSE actif en termes de loisirs et d’activités extra-professionnelles. Tous nos postes sont ouverts aux personnes en situation de Handicap. La Mission Handicap du CEA vous accompagne et met en place les aménagements nécessaires à vos besoins spécifiques.
Anglais Intermédiaire
Talent impulse, le site d’emploi scientifique et technique de la Direction de la Recherche Technologique du CEA
© Copyright 2023 – CEA – TALENT IMPULSE – Tous droits réservés
