Darius Baruo
02 déc. 2025 19:09
NVIDIA présente Mistral 3, une nouvelle gamme de modèles d'IA, offrant une précision et une efficacité inégalées. Optimisés pour les GPU NVIDIA, ces modèles améliorent le déploiement de l'IA dans tous les secteurs.
NVIDIA a dévoilé sa dernière famille de modèles d'IA, Mistral 3, promettant une précision et une efficacité sans précédent pour les développeurs et les entreprises. Comme rapporté par le blog des développeurs de NVIDIA, ces modèles ont été optimisés pour être déployés sur les GPU NVIDIA, des centres de données haut de gamme aux plateformes edge.
La famille de modèles Mistral 3
La famille Mistral 3 comprend une gamme diversifiée de modèles adaptés à diverses applications. Elle propose un modèle multimodal et multilingue sparse à grande échelle avec 675 milliards de paramètres, aux côtés de modèles plus petits et denses appelés Ministral 3, disponibles en tailles de paramètres 3B, 8B et 14B. Chaque taille de modèle est disponible en trois variantes : Base, Instruct et Reasoning, offrant un total de neuf modèles.
Ces modèles sont entraînés sur les GPU NVIDIA Hopper et sont accessibles via Mistral AI sur Hugging Face. Les développeurs peuvent déployer ces modèles en utilisant différents formats de précision et des frameworks open-source, assurant la compatibilité avec une variété de GPU NVIDIA.
Performance et optimisation
Le modèle Mistral Large 3 de NVIDIA atteint des performances remarquables sur la plateforme GB200 NVL72, exploitant une suite d'optimisations adaptées aux grands modèles de mélange d'experts (MoE). Avec des améliorations de performance jusqu'à 10 fois supérieures aux générations précédentes, le modèle Mistral Large 3 démontre des gains significatifs en termes d'expérience utilisateur, d'efficacité des coûts et de consommation d'énergie.
Cette amélioration des performances est attribuée au TensorRT-LLM Wide Expert Parallelism de NVIDIA, à l'inférence de basse précision utilisant NVFP4, et au framework NVIDIA Dynamo, qui améliore les performances pour les charges de travail à contexte long.
Déploiement edge et polyvalence
Les modèles Ministral 3, conçus pour le déploiement edge, offrent flexibilité et performance pour une gamme d'applications. Ces modèles sont optimisés pour les plateformes NVIDIA GeForce RTX AI PC, DGX Spark et Jetson. Le développement local bénéficie de l'accélération NVIDIA, offrant des vitesses d'inférence rapides et une confidentialité des données améliorée.
Les développeurs Jetson, en particulier, peuvent utiliser le conteneur vLLM pour obtenir un traitement efficace des tokens, rendant ces modèles idéaux pour les environnements de calcul edge.
Développements futurs et communauté open source
Pour l'avenir, NVIDIA prévoit d'améliorer davantage les modèles Mistral 3 avec des optimisations de performance à venir comme le décodage spéculatif. De plus, la collaboration de NVIDIA avec des communautés open-source telles que vLLM et SGLang vise à étendre les intégrations de noyaux et le support du parallélisme.
Avec ces développements, NVIDIA continue de soutenir la communauté IA open-source, fournissant une plateforme robuste permettant aux développeurs de construire et déployer efficacement des solutions d'IA. Les modèles Mistral 3 sont disponibles en téléchargement sur Hugging Face ou peuvent être testés directement via la plateforme de construction de NVIDIA.
Source de l'image : Shutterstock
Source : https://blockchain.news/news/nvidia-mistral-3-models-boost-ai-efficiency
