Stage : Attaque et identification de classifieurs CNN en boite noire

Cesson-Sévigné, le 07/11/19

A propos de b<>com

Fournisseur de technologies pour les entreprises qui souhaitent accélérer leur compétitivité grâce au numérique, b<>com est au service des industries culturelles et créatives, des infrastructures numériques, de la défense, de l’industrie 4.0 et de la santé. Ses laboratoires mixent les talents de disciplines et cultures multiples dans les domaines de l’intelligence artificielle, de la vidéo et l’audio immersif, de la protection de contenus, des réseaux 5G, de l’internet des objets et des technologies cognitives… Issus des mondes industriel et universitaire, ses chercheurs et ingénieurs évoluent sur son campus de Rennes et ses sites de Paris, Brest et Lannion. Grâce à son équipe d’ingénierie avancée et ses moyens scientifiques propres, b<>com propose à ses clients des ingrédients et des solutions qui font la différence.

Descriptif de la mission

Parmi ses thématiques de recherche, le laboratoire « Confiance & Sécurité » étudie la sécurité des données multimédia. D’importants progrès dans la reconnaissance audio-visuelle ont été faits grâce aux approches par machine learning, avec des classifieurs entrainés, et essentiellement construits sur des réseaux de neurones et de l’apprentissage profond. Dans le même temps, des travaux ont mis en avant la fragilité de tels algorithmes, en démontrant que des manipulations subtiles pouvaient générer des décisions aberrantes.  

Le premier objectif de ce stage est d’étudier et de rédiger un état de l’art des recherches autour des attaques de CNN, en particulier pour le cas boite noire (la structure et les paramètres du classifieur sont inconnus). Les résultats les plus prometteurs seront implémentés et testés.

L’autre partie du stage sera de concevoir des outils capables de calculer une empreinte d’un classifieur donné, en se basant uniquement sur des entrées choisies et les classes correspondantes. Comme pour la première partie, les meilleurs résultats seront implémentés et confrontés à des algorithmes de classification réels.

Profil recherché

  • Compétences dans le domaine du data processing, les principes du machine/deep learning et les frameworks usuels.
  • Compétences dans le développement logiciel (essentiellement Python) et les outils associés (GIT)
  • Anglais technique

Intérêt pour le stagiaire

  • Intégration dans des équipes multi-disciplinaires
  • Secteur de la recherche et de l’innovation

Modalités

  • Durée : 6 mois
  • Date de démarrage : février/mars 2020
  • Lieu de travail : Cesson Sévigné

Candidature (lettre de motivation et CV) à adresser à job@b-com.com avec la référence 14STG_TS_2019