SystemX et LINAGORA collaborent pour renforcer la confiance dans les LLMs

L’IRT SystemX annonce la signature d’un protocole d’accord avec LINAGORA, le leader français des logiciels libres. Ce partenariat vise à adresser les enjeux de confiance dans les technologies de modèles de langage à grande échelle (LLM, Large Language Models) et à promouvoir des solutions innovantes et sécurisées pour les industries de demain.

Cette collaboration permettra de poser des bases solides pour de futures recherches communes afin d’améliorer l’explicabilité, la robustesse et l’intégration des LLMs par le développement de solutions open source.

Des objectifs communs pour des avancées significatives

Les deux entités ont décidé d’initier leur collaboration autour des objectifs suivants :

• Améliorer l’explicabilité des LLMs pour comprendre comment ils génèrent leurs réponses.
• Renforcer leur robustesse face aux manipulations ou entrées malveillantes.
• Développer des scores de confiance fiables pour évaluer la performance des modèles dans divers contextes.
• Optimiser leur hybridation avec des bases de connaissances spécifiques
• Définir des critères de performance et de fiabilité spécifiques au secteur industriel (aéronautique, automobile, etc.).
• Élaborer un cadre d’évaluation permettant de comparer objectivement différents modèles de langage basés sur une culture européenne.
• Identifier des sources de financements potentielles pour réaliser ces ambitions.

Vers des résultats concrets et applicables

Dans le cadre de ce partenariat, les deux parties s’engagent à produire :

• Un état de l’art approfondi sur la confiance des LLMs.
• Des solutions implémentées pour améliorer la confiance dans ces modèles
• Un guide de recommandations pour l’intégration des principes de confiance dans le développement et l’utilisation des LLMs.
• Un cadre méthodologique pour l’évaluation et l’homologation des LLMs dans le contexte industriel.
• Un outil logiciel Open Source pour l’évaluation automatisée des LLMs.
• Des publications académiques et industrielles.
• Un livre blanc sur les enjeux et les bonnes pratiques pour l’homologation des LLMs dans les industries critiques.