¿Qué es Mistral Large 2? Cómo funciona, casos de uso y más

¿Qué es Mistral Large 2?

Mistral Large 2 es el modelo lingüístico más reciente de Mistral AI, diseñado para sobresalir en diversas áreas como la generación de código, las matemáticas y las tareas multilingües. Echemos un vistazo a sus principales características y capacidades.

123.000 millones de parámetros

Mistral Large 2 tiene 123.000 millones de parámetros, lo que lo hace increíblemente potente para comprender y generar tareas lingüísticas complejas con gran precisión.

Este gran tamaño permite al modelo manejar problemas intrincados con mayor precisión. El modelo también está construido para la inferencia en un solo nodo con aplicaciones de contexto largo, lo que hace que sea eficiente operar en un solo nodo.

Ventana contextual de 128k

Una ventana de contexto de 128 k permite al Mistral Large 2 mantener la coherencia y la relevancia en conversaciones o documentos largos, proporcionando resultados coherentes y significativos a lo largo de interacciones prolongadas.

Soporte de múltiples idiomas y programación

Mistral Large 2 admite una amplia gama de idiomas, como ruso, chino, japonés, coreano, español, italiano y muchos otros.

También destaca en más de 80 lenguajes de codificación, como PythonJava, C, C++ y JavaScript, lo que la convierte en una herramienta versátil para usuarios de todo el mundo.

De código abierto y accesible

Mistral Large 2 está disponible bajo la Licencia de Investigación Mistral, que permite su uso en código abierto y su modificación para fines de investigación y fines no comerciales no comerciales.

Esto lo hace accesible a investigadores y desarrolladores interesados en explorar y mejorar sus capacidades.

Licencias comerciales

Para uso comercial, Mistral Large 2 requiere una Licencia Comercial Mistral. Los interesados pueden ponerse en contacto con Mistral para obtener esta licencia.

Cómo funciona Mistral Large 2

Entonces, ¿cómo funciona Mistral Large 2? Utiliza una arquitectura Transformer de sólo descodificadorun diseño popular y eficaz para los modelos lingüísticos modernos. Esta configuración permite que el modelo gestione con eficacia diversas tareas lingüísticas. He aquí dos formas clave en las que Mistral Large 2 brilla en la gestión de una amplia gama de tareas lingüísticas y de codificación.

Entrenamiento en conjuntos de datos masivos

Mistral Large 2 se entrenó con una gran cantidad de texto y código de muchos idiomas y temas. Esta amplia formación ayuda al modelo a comprender una amplia gama de temas y habilidades, desde documentos técnicos hasta conversaciones cotidianas y fragmentos de código.

La diversidad del conjunto de datos también mejora la capacidad del modelo para ayudar en tareas de programación como la generación de código y la depuración.

Reducir las alucinaciones

Un problema habitual de los grandes modelos lingüísticos es que a veces producen información que parece correcta pero que no es exacta. Para solucionarlo, Mistral AI se centró en minimizar estas "alucinaciones" mediante un cuidadoso afinando el modelo.

Han añadido comprobaciones de precisión más estrictas y sistemas de retroalimentación para garantizar que el modelo proporciona información fiable. Mistral Grande 2 también está diseñado para reconocer cuándo no tiene suficiente información para dar una respuesta segura, reduciendo las posibilidades de respuestas engañosas o incorrectas. Este enfoque en la precisión hace de Mistral Large 2 una herramienta fiable para los usuarios que necesitan información precisa y fidedigna.

Aplicaciones de Mistral Large 2

Al igual que su predecesor, Mistral Large 2 es una herramienta versátil con una amplia gama de usos. Es ideal para tareas de codificación, como generar, completar y depurar código.

También aborda problemas matemáticos complejos y ofrece explicaciones claras, por lo que es útil para estudiantes y profesionales.

El fuerte razonamiento y las habilidades lógicas del modelo son ideales para responder preguntas y analizar textos, proporcionando una visión profunda del contenido escrito.

Por último, el soporte multilingüe de Mistral Large 2 facilita la traducción, el aprendizaje de idiomas y la comunicación entre diferentes culturas.

Aunque ahora maneja principalmente texto, futuras actualizaciones podrían ampliar sus capacidades para trabajar con imágenes o audio.

Puntos de referencia y rendimiento

Mistral Large 2 está estableciendo nuevos estándares de rendimiento y rentabilidad. Echa un vistazo a su rendimiento en varias pruebas comparativas.

MMLU

En la prueba comparativa Comprensión de Lenguajes en Multitarea Masiva (MMLU), Mistral Large 2 alcanzó un impresionante 84,0% de precisión.

Este punto de referencia pone a prueba la capacidad del modelo para manejar una amplia gama de tareas, desde las ciencias y las humanidades hasta los retos profesionales. Esta elevada puntuación pone de manifiesto la gran capacidad de razonamiento y conocimientos generales de Mistral Large 2.

Generación de código y matemáticas

Mistral Large 2 destaca en la generación de código y en matemáticas, obteniendo las mejores puntuaciones en estas áreas y utilizando menos parámetros que modelos más grandes como Llama 3.1 405B. Destaca por su elevada relación rendimiento/tamaño, que supera sistemáticamente a los modelos Llama 3.1 de mayor y menor tamaño.

Fuente: Mistral AI

En las pruebas comparativas de generación de código, Mistral Large 2 sólo es superado por GPT-4o, con una precisión impresionante en Human Eval y Human Eval Plus. Aunque es el sexto en MBPP Base y MBPP Plus, sigue rindiendo bien en comparación con otros modelos.

Fuente: Mistral AI

Para la generación de código multilingüe, Mistral Large 2 ocupa el segundo lugar, justo detrás de GPT-4o, y muestra una mejora significativa respecto a su predecesor. En general, es muy eficiente y versátil, especialmente fuerte en el manejo de código y tareas matemáticas.

Fuente: Mistral AI

Mistral Large 2 funciona bien en GSM8K, justo por detrás de LLaMA 3.1 70B. En la prueba de referencia más exigente Math Instruct, Mistral Large 2 ocupa el segundo lugar, sólo superado por GPT-4o, mostrando una gran capacidad de razonamiento matemático nada más sacarlo de la caja. Estas mejoras, especialmente en las tareas de tiro cero, reflejan sus avanzadas capacidades matemáticas y su sólida formación.

Fuente: Mistral AI

En general, Mistral Large 2 destaca en la generación de código y el razonamiento matemático, campos que exigen precisión y fiabilidad. Entrenado en un corpus sustancial de código, supera significativamente a su predecesor y es competitivo con los mejores modelos como GPT-4o y Llama 3.1 405B. Su rendimiento demuestra que es una potente herramienta para el desarrollo de software y la investigación académica.

Seguimiento y alineación de instrucciones

Otra prestación clave del Mistral Large 2 es su gran mejora en las capacidades de seguimiento de instrucciones y de conversación, lo que le permite seguir mejor las instrucciones y manejar conversaciones largas.

Mistral Large 2 obtiene buenos resultados en el Banco Salvaje, quedando sólo por detrás de GPT-4o. En Arena Hard, ocupa el tercer lugar, por detrás de GPT-4o y Claude 3.5 Soneto.

Fuente: Mistral AI

El rendimiento del Mistral Large 2 en el banco MT también obtiene una alta puntuación con el juez GPT-4o, ocupando el tercer lugar entre los modelos grandes, y ocupa el segundo lugar en longitud de generación, justo por detrás de del Mistral Large original. Esto demuestra que Mistral Large 2 puede dar respuestas detalladas y de alta calidad.

Fuente: Mistral AI

MMLU multilingüe

Una de las características más destacadas de Mistral Large 2 es su capacidad multilingüe. En la prueba de referencia multilingüe MMLU, que evalúa el rendimiento en varios idiomas, el Mistral Large 2 ofrece buenos resultados en todos los idiomas probados, situándose sistemáticamente en segundo lugar por detrás del modelo LLaMA 3.1 405B, mucho más grande. Esto demuestra el gran equilibrio entre rendimiento y eficacia del Mistral Large 2.

Fuente: Mistral AI

Llamada a la función

La llamada a funciones es crucial porque permite al modelo ejecutar tareas o comandos específicos con precisión, lo que lo hace muy eficaz para aplicaciones prácticas que requieren acciones precisas basadas en la entrada del usuario.

Mistral Large 2 superó a todos los modelos más grandes, como GPT-4o y Claude 3.5 Sonnet, en la llamada a funciones. Esta mejora significativa demuestra las capacidades avanzadas del Mistral Large 2 y lo diferencia de los modelos anteriores y de la competencia.

Fuente: Mistral AI

Rendimiento/eficiencia de costes

Mistral Large 2 establece un nuevo punto de referencia en el frente de Pareto rendimiento/coste, que evalúa el equilibrio entre el rendimiento de un modelo y el coste de servirlo. Esencialmente, ofrece un gran rendimiento sin ser demasiado caro, lo que lo convierte en una opción asequible para empresas e investigadores. Esta eficacia ayuda a los usuarios a obtener resultados impresionantes sin salirse de su presupuesto.

Acceso a los modelos Mistral

Puedes acceder a Mistral Large 2 de dos formas principales: La Plataforma y Proveedores de servicios en la nube.

La Plateforme

Mistral Large 2 está disponible en La Plateforme con el nombre mistral-large-2407, donde también puedes probarlo utilizando le Chat. Los pesos del modelo están alojados en HuggingFace. En general, puedes acceder a Mistral Nemo, Mistral Large, Codestral y Embed para diferentes necesidades en La Plateforme. Las opciones de ajuste fino también están ahora disponibles para Mistral Large, Mistral Nemo y Codestral.

Proveedores de servicios en la nube

Alternativamente, también puedes acceder a Mistral Large 2 a través de los principales proveedores de la nube. Puedes encontrarlo en Vertex AI de Google Cloud Platform, Azure AI Studio, Amazon Bedrock e IBM watsonx.ai.

Seguridad y responsabilidad: Una prioridad absoluta

Mistral AI se dedica a garantizar que sus modelos se utilicen éticamente y responsablemente.

Fuertes medidas de seguridad

El Mistral Large 2 se ha sometido a pruebas exhaustivas y se ha afinado para minimizar los riesgos de que se produzcan salidas perjudiciales o sesgadas. Esto incluye centrarse en reducir la información incorrecta o engañosa generada por el modelo.

Uso responsable

Utilizar Mistral Large 2 de forma responsable va más allá de las salvaguardias técnicas. También implica las acciones éticas de sus usuarios. Para garantizar que el modelo se utiliza correctamente, los usuarios deben seguir la Licencia de Investigación Mistral para investigaciones no comerciales u obtener una Licencia Comercial para fines empresariales. Animamos a los usuarios a aplicar Mistral Large 2 de forma que beneficie a la sociedad y a evitar usos que puedan ser perjudiciales o difundir información errónea.

Conclusión

Mistral Large 2 supone un paso adelante para los modelos lingüísticos de código abierto.

Su gran rendimiento, su amplia gama de lenguajes compatibles y su énfasis en la precisión y la seguridad lo convierten en una potente herramienta para desarrolladores, investigadores y empresas.

Si quieres saber más sobre el conjunto de LLM de Mistral, te recomiendo estas entradas de blog:

• Codestral Mamba
• Codestral 22B
• Tutorial de la API Codestral 22B: Primeros pasos con la API de Mistral