Stage de recherche en Investigation de la robustesse des algorithmes IA dans un contexte industriel

CONTEXTE DU STAGE

Au sein de l’Institut de Recherche Technologique SystemX, situé au cœur du campus scientifique d’excellence mondiale de Paris-Saclay, vous prendrez une part active au développement d’un centre de recherche technologique de niveau international dans le domaine de l’ingénierie numérique des systèmes. Adossé aux meilleurs organismes de recherche français du domaine et constitué par des équipes mixtes d’industriels et d’académiques, ce centre a pour mission de générer de nouvelles connaissances et solutions technologiques en s’appuyant sur les percées de l’ingénierie numérique et de diffuser ses compétences dans tous les secteurs économiques.
Vous serez encadré par un ingénieur-chercheur SystemX du domaine Science des données, IA et Interaction.
Vous travaillerez au sein du programme de recherche Confiance.ai (https://www.confiance.ai/).

Le poste est basé à l’IRT SystemX – Palaiseau [site de Nano-Innov].

PRESENTATION DETAILLEE DU SUJET

Ce stage a pour ambition d’investiguer le comportement de modèles IA censées être robustes face à diverses attaques adverses. La littérature scientifique dénombre plusieurs méthodes de robustification ayant pour but de rendre le modèle de décision plus robuste dans un environnement incertain. Parmi ces méthodes, citons : « Adversarial training » [3] et « Randomized Smoothing » [2]. En parallèle des travaux de robustification, des attaques adverses puissantes apparaissent fréquemment dans la littérature scientifique. Citons ici l’attaque auto-pgd [1], considérée comme une technique d’attaque puissante. Entre les travaux de la robustification et les attaques adverses, il devient nécessaire pour les industriels d’implémenter des modèles les plus robustes possibles face aux différents types de perturbations.

Dans ce contexte, nous proposons ce sujet de stage, qui consiste à investiguer les techniques de robustification retenues lors des deux premières années du programme confiance.ai, face aux nouvelles attaques adverses.

Ce stage commencera par un état de l’art sur cette problématique, et en parallèle, évaluera les approches proposées sur des cas d’usage industriels propres au programme confiance.ai.

Les cas d’usages qui seront étudiés liés au traitement d’images, des données tabulaire s et/ou séries temporelles.

Résumé des missions

• Réalisation d’un état de l’art sur les algorithmes de robustification incluant les techniques de défense.
• Réalisation d’un état de l’art sur les nouvelles attaques
• Prise en main des cas d’usages industriels du programme ai qui seront considérés dans le stage
• Implémentation d’un protocole d’évaluation des approches proposées
• Rédaction d’un rapport incluant les travaux et les résultats

Références bibliographiques :

[1] « Reliable evaluation of adversarial robustness with an ensemble of diverse parameter-free attacks », Francesco Croce, Matthias Hein, ICML 2020
[2] Certified Adversarial Robustness via Randomized Smoothing, Jeremy M Cohen, Elan Rosenfeld, J. Zico Kolter, ICML 2019
[3] Florian Tramèr Alexey Kurakin, Nicolas Papernot, Ian J.Goodfellow, Dan Boneh, Patrick D. McDaniel: Ensemble Adversarial Training: Attacks and Defenses. ICLR (Poster) 2018

PROFIL ET COMPETENCES
Etudiant BAC+5 en fin de cycle école d’ingénieur ou Master 2, dans le domaine de la science des données, IA, statistiques, mathématiques appliquées ou informatique avec une spécialisation en science des données et en Machine Learning.

Compétences

• Maîtrise du langage de programmation Python
• Machine Learning, apprentissage automatique, IA
• Statistique / Mathématique appliquée

Aptitudes personnelles

• Esprit d’analyse, autonomie, travail collaboratif.
• Intérêt pour la recherche appliquée
• Aptitude à communiquer aussi bien à l’oral qu’à l’écrit (en français et anglais)

Merci d’indiquer la référence du stage dans l’objet de votre mail de candidature, d’y joindre CV, lettre de motivation et relevé de notes.