Un LLM léger par Dragon LLM
Dragon LLM dévoile un nouveau LLM léger : 3,6 milliards de paramètres. Contrairement aux grands modèles de langage dominants, souvent dépendants d’infrastructures GPU lourdes et coûteuses, le LLM 3,6B de Dragon LLM se distingue par sa frugalité. Il peut être exécuté efficacement sur des serveurs standards (CPU), sans recours à des infrastructures cloud ou spécialisées, ce qui permet des déploiements on-premise, embarqués ou dans des environnements techniques contraints.
Cette approche ouvre la voie à une adoption plus large de l’IA générative, y compris dans des secteurs régulés ou sensibles, où les données ne peuvent pas être externalisées.
Reposant sur l’architecture Dragon - conçue et entraînée sur les supercalculateurs européens dans le cadre du Large AI Grand Challenge de la Commission européenne - ce modèle offre un équilibre inédit entre performance, rapidité d’exécution et consommation de ressources.
Il permet notamment de traiter des tâches à forte valeur ajoutée telles que :
- l’anonymisation et la pseudonymisation de données textuelles,
- le traitement de documents internes sensibles,
- l’analyse sémantique et la classification de textes,
- l’intégration dans des chaînes de traitement existantes, sans refonte des infrastructures,
- l’exploitation en environnements contraints en énergie ou en connectivité.
Ces usages peuvent être réalisés localement, sans transfert de données vers des plateformes cloud externes, répondant ainsi aux enjeux de confidentialité, de conformité réglementaire (RGPD) et de souveraineté des données.
