Sujet du stage : hybridation de simulations physiques et de méthodes d’apprentissage par réseaux de neurones

Au sein de l’Institut de Recherche Technologique SystemX, situé au cœur du campus scientifique d’excellence mondiale de Paris-Saclay, vous prendrez une part active au développement d’un centre de recherche technologique de niveau international dans le domaine de l’ingénierie numérique des systèmes. Adossé aux meilleurs organismes de recherche français du domaine et constitué par des équipes mixtes d’industriels et d’académiques, ce centre a pour mission de générer de nouvelles connaissances et solutions technologiques en s’appuyant sur les percées de l’ingénierie numérique et de diffuser ses compétences dans tous les secteurs économiques.

Vous serez encadré par un ingénieur-chercheur SystemX de l’équipe Calcul scientifique et Optimisation. Vous travaillerez au sein du projet de recherche SystemX Hybridation Simulation Apprentissage (HSA) [https://www.irt-systemx.fr/projets/HSA/] dont les partenaires industriels sont Airbus, Air Liquide, EDF, RTE, SNCF et Michelin avec les partenaires académiques Equipe TAU – Inria Saclay, LIMSI – CNRS, LIP6 – Sorbonne Université.

Le poste est basé à l’IRT SystemX – Gif sur Yvette [site du Moulon].

Présentation du sujet du stage

Contexte du stage
La résolution d’équation aux dérivées partielles (EDP) sur des domaines 1D/2D/3D requiert l’utilisation de maillages. Dans tous les cas de figure, indépendamment de la physique sous-jacente, il est nécessaire de trouver un compromis entre précision et temps de calcul, les ressources à disposition étant limitée. En effet un maillage trop fin permettrait de respecter un critère de précision au détriment de la vitesse de calcul, et inversement pour un maillage trop grossier. Dans la mesure où ce type de calcul a vocation à être effectué de manière répétée, l’utilisation de maillages raffinés devient rapidement prohibitive.
Pour pallier cela, une approche émergente et prometteuse proposée dans la littérature fait usage de graphes (graph neural network, GNN [1,2,3,4]) construits à partir du maillage utilisé par le solveur physique [5]. Les avantages en sont multiples :

  • Amélioration du temps de calcul de plusieurs ordres de grandeur
  • Traduction « naturelle » du maillage en graphe (hybridation plus forte qu’une approche pure donnée) qui devient alors le pendant du maillage pour le modèle appris
  • Nature relativement peu intrusive par rapport à la physique (i.e. méthode relativement générique et facilement applicable à d’autres cas)
  • Possibilité de transférer la connaissance acquise sur un autre maillage dont le modèle n’avait pas connaissance lors de l’entrainement
  • Possibilité d’enrichir le modèle avec la notion de distances spatiales entre les nœuds du graphe et/ou la proximité spatiale (utile pour certaines physiques)

Néanmoins, ce type d’approche pourrait vraisemblablement ne pas être suffisante pour garantir à elle seule une précision acceptable du modèle appris. Afin de parer à une telle éventualité, nous envisageons un couplage plus avancé entre l’approche GNN et une approche dite « Hybrid FEM-NN » [6]. A l’instar de méthode de type Physical Informed Neural Networks (PINNS) [7,8], dans laquelle le résidu de l’EDP est simplement intégré à la fonction de coût à minimiser par le modèle appris (signifiant par la même que le solveur physique ainsi que la méthode numérique sous-jacente sont mis de côté au profit de l’équation à résoudre), le respect de l’EDP est imposé ici comme une contrainte forte de l’optimisation.
Plus spécifiquement, une telle approche passe par un couplage entre un solveur physique (solveur élément fini dans [6]) et un solveur appris (typiquement basé sur des réseaux de neurones). Pour cela, on procède à une séparation de l’EDP en deux parties : l’une résolue de manière classique par le solveur physique, l’autre est substituée par un réseau de neurones pour être résolue par un modèle appris. La solution de l’EDP est alors obtenue via la superposition des deux solutions (physique et apprise) en passant par la résolution d’un problème adjoint [9].

Objectifs
Le stage vise à étudier le couplage entre les deux approches proposées, à évaluer la pertinence de l’approche et en tester la robustesse sur des cas d’application industrielle simplifiée reproduisant plusieurs phénomènes physiques. Selon l’avancement, le stage pourra être l’occasion de la conception d’un démonstrateur logiciel intégrant les aspects étudiés sur des cas d’usages du projet HSA qui portent sur les méthodes de résolution à base de maillage à savoir : Air liquide, Airbus & Michelin.

Missions

Dans le cadre de ce stage, le candidat sera amené à réaliser la totalité ou une partie des missions suivantes :

  • Se familiariser avec la littérature scientifique basée sur l’hybridation de méthodes éléments finis et de méthodes d’apprentissage par réseaux de neurones basé sur les graphes (GNN)
  • Traiter des cas d’application industrielle simplifiée (mécanique du solide/fluide)
  • Analyser et comparer les résultats obtenus pour juger de la pertinence de l’approche
  • Selon l’avancement du stage, développer des briques logicielles visant à mettre en œuvre des méthodes numériques issues (ou s’inspirant) de l’état de l’art académique et du savoir-faire de l’équipe SystemX.

Références bibliographiques

[1]: Scarselli, F., Gori, M., Tsoi, A. C., Hagenbuchner, M., & Monfardini, G. (2008). The graph neural network model. IEEE transactions on neural networks, 20(1), 61-80.
[2] Charles R. Qi, Li Yi, Hao Su, Leonidas J. Guibas , PointNet++: Deep Hierarchical Feature Learning on Point Sets in a Metric Space, https://arxiv.org/abs/1706.02413, 2017
[3]: Federico Monti, Davide Boscaini, Jonathan Masci, Emanuele Rodolà, Jan Svoboda, Michael M. Bronstein, Geometric deep learning on graphs and manifolds using mixture model CNNs, https://arxiv.org/pdf/1611.08402.pdf, 2016
[4]: Thomas N. Kipf, Max Welling, Semi-Supervised Classification with Graph Convolutional Networks, https://arxiv.org/abs/1609.02907, conference paper at ICLR 2017
[5]: Tobias Pfaff and Meire Fortunato and Alvaro Sanchez-Gonzalez and Peter W. Battaglia , Learning Mesh-Based Simulation with Graph Networks, conference paper at ICLR 2021
[6]: Mitusch, Sebastian K. and Funke, Simon W. and Kuchta, Miroslav, Hybrid FEM-NN models: Combining artificial neural networks with the finite element method, Journal of Computational Physics, 2021
[7]: M. Raissi, P. Perdikaris, G.E. Karniadakis, Physics-informed neural networks: a deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations, J. Comput. Phys. 378 (2019) 686–707, https://doi .org /10 .1016 /j .jcp .2018 .10 .045.
[8]: A.D. Jagtap, G.E. Karniadakis, Extended physics-informed neural networks (XPINNs): a generalized space-time domain decomposition based deep learn-ing framework for nonlinear partial differential equations, Commun. Comput. Phys. (2020) 2002–2041, https://doi .org /10 .4208 /cicp .OA-2020 -0164.
[9]: Andrew M. Bradley, PDE-constrained optimization and the adjoint method, October 15, 2019, https://cs.stanford.edu/~ambrad/adjoint_tutorial.pdf

Profil et compétences

Etudiant BAC+5 en fin de cycle école d’ingénieur ou Master 2, dans le domaine des mathématiques appliquées ou de la mécanique.

Compétences :

  • Bonne connaissance des Éléments / Volumes finis
  • Programmation scientifique (python, C++)
  • Des connaissances en Optimisation et machine learning seraient appréciées
  • Analyse numérique des EDP

Aptitudes personnelles :

  • Doté de capacités d’analyse, d’une forte autonomie et d’un esprit d’initiative.
  • Capacité à travailler en mode projet: rendre compte de l’avancement des travaux et communication des résultats
  • Aptitude à communiquer aussi bien à l’oral qu’à l’écrit (en français et anglais)

L’IRT SystemX est engagé en faveur de l’égalité des chances. A ce titre, tous nos postes sont ouverts aux candidats en situation de handicap. 

Informations clés

Durée du stage : 6 mois
Date de démarrage envisagée : premier trimestre 2022
Localisation du poste : Cluster Paris Saclay (91)
Référence de l’offre à mentionner dans l’objet dans votre e-mail de candidature : DSR-2022-23-HSA


Postuler à cette offre d’emploi


Mots-clés :


Partager cette offre d’emploi :
Sauvegarder et quitter

Inscrivez-vous à la newsletter de l'IRT SystemX

et recevez chaque mois les dernières actualités de l'institut :