Stage – IA & Cybersécurité : Vers des Workflows Agentiques Sécurisés

Contexte du stage

Au sein de l’Institut de Recherche Technologique SystemX, situé au cœur du campus scientifique d’excellence mondiale de Paris-Saclay, vous prendrez une part active au développement d’un centre de recherche technologique de niveau international dans le domaine de l’ingénierie numérique des systèmes. Adossé aux meilleurs organismes de recherche français du domaine et constitué par des équipes mixtes d’industriels et d’académiques, ce centre a pour mission de générer de nouvelles connaissances et solutions technologiques en s’appuyant sur les percées de l’ingénierie numérique et de diffuser ses compétences dans tous les secteurs économiques. Vous serez encadré par deux ingénieurs-chercheurs de l’IRT SystemX, l’un spécialisé en cybersécurité (sécurité numérique et réseaux) et l’autre en intelligence artificielle (IA). Vous travaillerez au sein d’un des projets de recherche exploratoire de l’IRT SystemX en collaboration avec la Division of Mathematics and Science de l’Argonne National Laboratory (États-Unis).

Présentation du sujet

Contexte 

Avec l’essor rapide des systèmes d’IA générative et l’intégration croissante des modèles de langage à grande échelle (LLMs) dans des workflows à base d’agents (IA agentique), les questions de cybersécurité deviennent centrales. Ces workflows, qui orchestrent des interactions complexes avec des bases de données, des APIs et des sources externes comme le web, sont particulièrement exposés à des menaces variées : attaques par injection de prompts, jailbreaking, compromission des données…Ces vulnérabilités soulèvent des enjeux critiques de confidentialité, intégrité, fiabilité et conformité réglementaire. La sécurisation de tels workflows nécessite donc de concevoir et d’expérimenter des architectures robustes, intégrant des mécanismes de détection, de prévention, de confinement et de traçabilité.

Objectifs du stage 

• Étudier les vulnérabilités liées aux workflows agentiques intégrant des modèles de langage à grande échelle (LLMs).
• Concevoir et implémenter une architecture sécurisée adaptée à ces workflows.
• Évaluer la robustesse de l’architecture proposée par des benchmarks sur des scénarios d’attaques représentatifs.
• Au-delà du rapport de stage, contribuer à la rédaction d’un article scientifique sur les résultats obtenus.

Missions 

• Réaliser un état de l’art sur les attaques visant les LLMs (injection de prompts, jailbreaking, compromission de données, etc.) et sur les stratégies de défense existantes.
• Participer à la conception et à l’implémentation concrète d’une architecture sécurisée pour les workflows agentiques.
• Présenter et analyser les résultats d’un benchmark sur un cas d’usage représentatif.
• Contribuer à la rédaction d’un article scientifique.

Références bibliographiques :

• Yi et al., Benchmarking and Defending against Indirect Prompt Injection Attacks on Large Language Models, 2025. [doi:10.1145/3690624.3709179]
• Beurer-Kellner, L et al., Design Patterns for Securing LLM Agents against Prompt Injections, 2025 [ArXiv. https://arxiv.org/pdf/2506.08837]
• Li et al., LLM Defenses Are Not Robust to Multi-Turn Human Jailbreaks Yet, 2024. [arXiv:2408.15221]

Profil et compétences

De formation BAC +5 / école d’ingénieur ou master d’université, dans les domaines de IA ou de la sécurité numérique.

Connaissances et savoir-faire essentiels :

• Connaissances des LLMs et workflows agentiques (à base de LLMs),
• Connaissances en cybersécurité (détection et monitoring, gestion des permissions, …etc.),
• Compétences en programmation Python et C++,
• Connaissances d’un framework de développement d’agents (LangChain, Google ADK, …),
• Capacités d’expression à l’oral et à l’écrit en anglais.,

Qualités professionnelles :

• Appétence pour résoudre des problèmes transverses,
• Bon relationnel,
• Proactif et en mesure de collaborer (des personnes avec différents backgrounds),
• Autonomie,
• Curiosité,

Merci de joindre CV, lettre de motivation, relevé de notes et autres documents utiles comme une lettre de recommandations.