Darius Baruo
02/12/2025 19:09
NVIDIA presenta Mistral 3, una nueva línea de modelos de IA, que ofrece precisión y eficiencia inigualables. Optimizados para GPUs NVIDIA, estos modelos mejoran la implementación de IA en todas las industrias.
NVIDIA ha revelado su más reciente familia de modelos de IA, Mistral 3, prometiendo precisión y eficiencia sin precedentes para desarrolladores y empresas. Según lo informado en el blog de desarrolladores de NVIDIA, estos modelos han sido optimizados para su implementación en GPUs NVIDIA, desde centros de datos de alta gama hasta plataformas edge.
La Familia de Modelos Mistral 3
La familia Mistral 3 incluye una amplia gama de modelos adaptados para diversas aplicaciones. Cuenta con un modelo multimodal y multilingüe disperso a gran escala con 675 mil millones de parámetros, junto con modelos densos más pequeños llamados Ministral 3, disponibles en tamaños de parámetros de 3B, 8B y 14B. Cada tamaño de modelo viene en tres variantes: Base, Instruct y Reasoning, proporcionando un total de nueve modelos.
Estos modelos están entrenados en GPUs NVIDIA Hopper y son accesibles a través de Mistral AI en Hugging Face. Los desarrolladores pueden implementar estos modelos utilizando diferentes formatos de precisión de modelo y frameworks de código abierto, asegurando la compatibilidad con una variedad de GPUs NVIDIA.
Rendimiento y Optimización
El modelo Mistral Large 3 de NVIDIA logra un rendimiento notable en la plataforma GB200 NVL72, aprovechando un conjunto de optimizaciones adaptadas para modelos de mezcla de expertos (MoE) a gran escala. Con mejoras de rendimiento hasta 10 veces mayores que las generaciones anteriores, el modelo Mistral Large 3 demuestra ganancias significativas en la experiencia del usuario, eficiencia de costos y uso de energía.
Este impulso de rendimiento se atribuye al Paralelismo de Expertos Amplio TensorRT-LLM de NVIDIA, inferencia de baja precisión usando NVFP4, y el framework NVIDIA Dynamo, que mejora el rendimiento para cargas de trabajo de contexto largo.
Implementación Edge y Versatilidad
Los modelos Ministral 3, diseñados para implementación edge, ofrecen flexibilidad y rendimiento para una variedad de aplicaciones. Estos modelos están optimizados para NVIDIA GeForce RTX AI PC, DGX Spark y plataformas Jetson. El desarrollo local se beneficia de la aceleración de NVIDIA, ofreciendo velocidades de inferencia rápidas y mejor privacidad de datos.
Los desarrolladores de Jetson, en particular, pueden utilizar el contenedor vLLM para lograr un procesamiento eficiente de tokens, haciendo que estos modelos sean ideales para entornos de computación edge.
Desarrollos Futuros y Comunidad de Código Abierto
Mirando hacia el futuro, NVIDIA planea mejorar aún más los modelos Mistral 3 con próximas optimizaciones de rendimiento como la decodificación especulativa. Además, la colaboración de NVIDIA con comunidades de código abierto como vLLM y SGLang tiene como objetivo expandir las integraciones de kernel y el soporte de paralelismo.
Con estos desarrollos, NVIDIA continúa apoyando a la comunidad de IA de código abierto, proporcionando una plataforma robusta para que los desarrolladores construyan e implementen soluciones de IA de manera eficiente. Los modelos Mistral 3 están disponibles para descargar en Hugging Face o pueden ser probados directamente a través de la plataforma de construcción de NVIDIA.
Fuente de la imagen: Shutterstock
Fuente: https://blockchain.news/news/nvidia-mistral-3-models-boost-ai-efficiency
