IA industrielle et responsable : SystemX lance le projet CSIA pour renforcer la confiance dans l’IA générative et l’IA hybride

Le projet « Confiance dans les Systèmes d’IA » (CSIA) s’inscrit dans la continuité des travaux du programme Confiance.ai, qui ont permis l’élaboration d’une méthodologie outillée constituant aujourd’hui l’état de l’art en matière d’ingénierie de l’IA industrielle et responsable.

Il vise à lever les verrous R&T liés à la confiance dans les IA générative et hybride à travers une dizaine de cas d’usages industriels, afin de mettre au point des méthodes et outils conformes aux règlementations (ex : AI Act) et destinés à compléter ceux de l’European Trustworthy AI Association.

SystemX, l’Institut de recherche technologique (IRT) dédié à l’ingénierie numérique des systèmes du futur, annonce le lancement du projet R&T « Confiance dans les Systèmes d’IA » pour une durée de 48 mois. Après avoir piloté le programme Confiance.ai jusqu’en 2024, SystemX poursuit ses travaux de recherche, avec le projet CSIA, sur le thème de l’IA industrielle et responsable. Ce projet réunit actuellement six partenaires industriels (Naval Group, Octopize, Safenai, Safran, Sopra Steria et Thales) et trois partenaires académiques (l’ONERA, l’Université Paris-Saclay et l’IRT SystemX) et est ouvert à tout partenaire intéressé à rejoindre le consortium pour relever les défis de la confiance dans les systèmes d’IA industriels.

Le programme de R&T collaboratif Confiance.ai a établi l’état de l’art en matière d’ingénierie de l’IA industrielle et responsable en mettant au point une méthodologie de bout en bout et des composants technologiques de confiance, aujourd’hui maintenus par l’European Trustworthy AI Association. Cette méthodologie outillée va continuer de s’enrichir, notamment au travers des travaux menés dans le cadre du projet CSIA, afin d’intégrer les réponses aux verrous scientifiques et technologiques émergents, en particulier ceux liés à l’IA générative et à l’IA hybride.

Les partenaires du projet se fixent deux principaux objectifs :

• Enrichir la méthodologie et les composants technologiques maintenus par l’European Trustworthy AI Association :
  • Tout d’abord en prenant en compte les spécificités des systèmes critiques fondés sur l’IA hybride (comme le couplage de techniques neuronales à des modèles physiques, ou des approches de type neuro-symboliques), tout en assurant une maitrise rigoureuse du cycle de vie des données et des connaissances et en garantissant les propriétés de fiabilité, de sécurité et d’explicabilité. Les industriels partenaires du projet souhaitent aussi pouvoir concevoir une IA générative de confiance, c’est-à-dire valide, transparente, sécurisée et en conformité avec les nouveaux cadres réglementaires et standards.
  • Enfin, le catalogue d’outils d’IA de confiance open source sera également enrichi de nouveaux concepts outillés : OD (operational domain), ODD (operational design domain), formulation technique du « Intended Purpose », RUM (Robustness, Uncertainty, Monitoring), outils d’anonymisation des données, etc.
• Adapter la méthodologie et les composants technologiques de confiance aux exigences de conformité de l’IA Act, en particulier l’article 6 qui concerne “les systèmes d’IA à haut risque » et qui entrera en application le 2 août 2027 – tout en s’inscrivant dans les dynamiques de normalisation en cours, notamment celles portées par les groupes EUROCAE/SAE, afin d’assurer l’alignement avec les standards émergents. Les industriels pourront ainsi mettre à jour leurs processus de développement de solutions d’IA de confiance, en tirant profit d’une combinaison d’assets sur-mesure pour répondre à leurs cas d’usage qui garantit la conformité à la réglementation européenne.

Pour démontrer la pertinence des méthodologies et des outils développés dans le cadre du projet CSIA ainsi que leur applicabilité dans les contextes industriels, les partenaires impliqués les éprouveront sur une dizaine de cas d’usage spécifiques, dont notamment :

• Deux cas d’usage seront consacrés au trafic aérien. Le premier visera la mise en place d’un chatbot basé sur l’IA et les modèles de langages, permettant d’interroger un historique de données de vol, avec un objectif central : démontrer et évaluer les propriétés de confiance associées à ce système. Ce cas d’usage s’inscrit dans la thématique de l’IA de confiance appliquée aux modèles génératifs textuels. Le second se consacrera à la création d’une solution d’aide à la gestion du trafic aérien augmentée par machine learning. Cette solution offre une vue en temps réel des séquences d’arrivée et de départ, aidant ainsi les contrôleurs aériens à gérer facilement l’attribution des pistes et l’ordonnancement des vols, ce qui permet d’optimiser l’utilisation des pistes pour garantir des opérations sûres, ponctuelles et efficaces, en particulier en cas de trafic intense.
• Un cas d’usage portera sur la mise au point d’un modèle garantissant la confiance dans un système d’aide à la décision pour générer des trajectoires maritimes grâce au Deep Reinforcement Learning (DRL).

“En pilotant le programme Confiance.ai, en jouant un rôle clé dans l’élaboration de normes et standards européens pour évaluer et certifier les composants d’IA, et en créant l’European Trustworthy AI Association, SystemX est devenu un acteur de référence de l’IA de confiance au sein des écosystèmes français et européens. Cette dynamique contribue à l’émergence d’une IA souveraine, fondée sur des principes de responsabilité, d’explicabilité et de transparence. Dans ce contexte, la réglementation européenne constitue un levier structurant pour développer des technologies fiables et compétitives. Les industriels rejoignent le programme CSIA pour bénéficier d’une méthodologie et d’outils conformes à cette réglementation. Avec ce projet, SystemX poursuit également son engagement en relevant les défis associés aux IA générative et hybride ”, commente Sana Tmar, Cheffe du projet CSIA, IRT SystemX.

Télécharger le communiqué de presse