Mistral 3: Bên trong họ mô hình, điểm chuẩn, thử nghiệm và hơn thế nữa

Có thể nhiều khối lượng công việc trong doanh nghiệp không cần các mô hình quy mô tiên phong, mà điều họ thực sự cần là suy luận nhanh, tiết kiệm chi phí cho các tác vụ cụ thể. Tôi đang nghĩ đến định tuyến hỗ trợ khách hàng, phân loại tài liệu, hoàn thành mã. 

Đây là câu chuyện mà Mistral AI đang đặt cược: các mô hình nhỏ gọn, trọng số mở, có thể tinh chỉnh trên dữ liệu miền và chạy hiệu quả ở quy mô lớn. 

Vì mục tiêu đó, ngay trong tuần này Mistral đã phát hành Mistral 3, và tôi nghĩ rằng nó tiến một bước dài hướng tới việc đạt được mục tiêu đó. Trước hết, bản thân các mô hình có nhiều hứa hẹn: Mistral Large 3, mẫu đầu bảng, vượt trội so với các đối thủ nguồn mở, Kimi-K2 và Deepseek-3.1, trên các bài kiểm tra điểm chuẩn quan trọng. Thứ hai, Mistral đang làm cho danh mục sản phẩm của mình rõ ràng hơn. Bạn thấy đấy, đây là lần đầu tiên Mistral AI phát hành một họ mô hình đầy đủ. (Khi Medium 3 ra mắt đầu năm nay, chỉ từ tên gọi thôi thì không ngay lập tức rõ ràng rằng nó được cho là sẽ vượt trội hơn Large 2, vốn phát hành năm ngoái.)

Mistral 3 là gì?

Mistral 3 là thế hệ mô hình mới nhất của Mistral AI được xây dựng trên một kiến trúc và bộ tính năng dùng chung. Thay vì phát hành các biến thể riêng lẻ, Mistral đã chuyển sang một họ thống nhất, nơi mọi mô hình đều hỗ trợ nhắc đa ngôn ngữ, đầu vào đa phương thức và cùng các năng lực cốt lõi. Ý tưởng là cung cấp cho nhà phát triển một nền tảng nhất quán bất kể họ chọn kích cỡ nào.

Thế hệ này cũng tập trung cải thiện suy luận, hiệu năng và khả năng sử dụng thực tế trên toàn bộ dải. Dù bạn chạy thử nghiệm trên đám mây hay xây dựng ứng dụng cần suy luận nhanh hơn, Mistral 3 giới thiệu một nền tảng rõ ràng và có thể dự đoán để xây dựng.

Nhìn vào họ mô hình

Tôi đã đề cập rằng Mistral 3 thực sự là một họ mô hình. Tổng cộng có bốn mô hình, và tất cả đều nhắm đến các ràng buộc khác nhau, chiều sâu suy luận, giới hạn phần cứng, độ trễ và môi trường triển khai. Dù vậy, có một mô hình nổi trội: Large 3 được xây dựng cho một lớp khối lượng công việc rất khác so với các tầng nhỏ hơn, vốn được thiết kế chú trọng tính thực tiễn và linh hoạt triển khai. 

Mistral Large 3

Mistral Large 3 là mô hình đầu bảng của thế hệ này. Nó sử dụng kiến trúc MoE thưa với 675B tham số, trong đó khoảng 41B hoạt động trong lúc suy luận, và điều này tự nhiên đi kèm yêu cầu phần cứng cao hơn. Mô hình được thiết kế cho các khối lượng công việc dựa vào suy luận mạnh, xử lý ngữ cảnh dài và chất lượng đầu ra ổn định. Nó hoạt động tốt trong các đánh giá nguồn mở, bao gồm kết quả hàng đầu trên bảng xếp hạng không-suy-luận của LMArena. Hiệu suất token tốt, dù chi phí tính toán phản ánh kích thước của nó.

Ministral 14B

Đây là mô hình dày đặc mạnh nhất trong họ. Đây là lựa chọn tốt khi bạn muốn năng lực thực sự mà không phải bước vào vùng cụm đa GPU. Nó chạy thoải mái trên một thiết lập GPU cao cấp đơn (bốn GPU nếu bạn muốn dư địa) và đạt điểm mạnh trên các tác vụ như AIME ’25. Sự cân bằng giữa chất lượng đầu ra và hiệu suất token khiến nó trở thành giải pháp trung dung thực tế cho các nhóm muốn suy luận thông minh mà không cần phần cứng quy mô MoE. Bạn có thể xem hướng dẫn tinh chỉnh Ministral 3 riêng của chúng tôi.

Ministral 8B

Tôi xem 8B như “máy cày” bền bỉ. Nó giữ được tốc độ, tính dự đoán và chi phí thấp trong khi bao phủ nhiều kịch bản sản xuất: hệ thống chat, công cụ nội bộ, luồng tự động hóa và ứng dụng RAG. Nó sẽ không sánh bằng Large 3 hoặc 14B ở suy luận sâu, nhưng tỷ lệ chi phí-hiệu năng là mạnh nhất trong họ. Mức dùng token thấp và đầu ra nhất quán.

Ministral 3B

Đây là mô hình nhỏ nhất và được thiết kế để chạy gần như ở bất kỳ đâu. Nó dày đặc, nhẹ và chạy ổn trên CPU, thiết bị di động hoặc phần cứng IoT. Bạn sẽ không chọn nó khi cần suy luận phức tạp, nhưng nó lý tưởng cho ứng dụng ngoại tuyến, tác vụ định tuyến, bộ phân loại nhẹ và trợ lý cần phản hồi tức thời. Hiệu suất token xuất sắc.

Cả bốn đều có giấy phép Apache 2.0, hỗ trợ đa phương thức hình ảnh+văn bản và phạm vi đa ngôn ngữ rộng. Do các mô hình hành xử nhất quán, bạn có thể mở rộng lên hoặc thu nhỏ xuống mà không cần học lại các “mẹo vặt”.

Bảng so sánh mô hình

Đây là cách các mô hình so sánh nhanh:

Như bạn thấy trong bảng, Mistral Large 3 sử dụng kiến trúc MoE thưa với 41 tỷ tham số hoạt động trên tổng số 675 tỷ. Về cơ bản, mô hình chứa nhiều mạng “chuyên gia” chuyên biệt, và với mỗi token hoặc tác vụ, nó chọn định tuyến chỉ qua một tập con các chuyên gia này thay vì sử dụng toàn bộ tham số.

Các mô hình Ministral đều dùng kiến trúc dày đặc, nghĩa là mọi tham số đều hoạt động cho mỗi lần suy luận.

Nếu bạn nhìn kỹ yêu cầu phần cứng trong bảng, bạn sẽ thấy sự đánh đổi rõ ràng giữa kích cỡ mô hình và tính linh hoạt triển khai: Mistral Large 3 cần tám GPU cao cấp nhưng Ministral 3B có thể chạy trên CPU/di động cho người dùng phổ thông.

Thử nghiệm Mistral 3

Tôi tập trung thử nghiệm vào Large 3. Vì Large 3 là mẫu đầu bảng, nó vừa là mô hình mạnh nhất vừa là mẫu mà nhiều người sẽ dùng nhất.

Bài test 1: Đa phương thức + đa ngôn ngữ

Trong bài test đầu tiên, tôi đưa cho Mistral 3 Large một ảnh chụp màn hình bằng tiếng Ả Rập cùng lời nhắc sau.

Trong tình huống này, một khách hàng đang mô tả vấn đề với ăng-ten vệ tinh của họ. Họ nói rằng họ đã cài đặt lại hoặc chỉnh lại vị trí, nhưng nó không hoạt động đúng, và kết nối internet bị mất.

A customer sent the attached error message screenshot showing an error in Arabic.
Please:
1. Read and translate the error message from the screenshot
2. Write a troubleshooting guide in English for our support team (3-4 steps)
3. Translate that solution back to Levantine Arabic in a natural, conversational way the customer would understandĐược hỗ trợ bởi

Đầu tiên, Large 3 dịch thông điệp, và tôi lo rằng chúng ta có thể đang đi sai hướng. Bạn không cần là người bản ngữ tiếng Ả Rập để hiểu rằng bản tiếng Anh bị lệch.

Mặc dù Mistral dịch sai một số phần của câu hỏi, chỉ dẫn cho khách hàng (phần hữu ích hơn) lại hợp lý. Các mục 1-3 đọc ổn bằng tiếng Ả Rập (tôi biết vì đã nhờ người dịch hỗ trợ), nhưng Mistral tạo lỗi ở mục 4 khi nói “hỗ trợ nghệ thuật” thay vì “hỗ trợ kỹ thuật.”

Tôi ấn tượng vì Mistral tuân thủ đúng phương ngữ tiếng Ả Rập mà tôi yêu cầu. Cuộc hội thoại rõ ràng mang sắc thái Levant.

Bài test 2: Tác vụ mã hóa thực tế

Tiếp theo, tôi yêu cầu một tác vụ mã hóa nhỏ nhưng thực tế:

Write a Python function that takes a list of timestops (ISO format) and returns time gaps between each consecutive time gap in minutes. Make the function safe against invalid entries.Được hỗ trợ bởi

Large 3 trả về một hàm ngắn gọn, dễ đọc, có xử lý lỗi hợp lý và sắp xếp đầu vào. Trong bài thử của tôi, lời giải gọn, và đầu ra tập trung. Tùy thuộc lời nhắc và tác vụ, điều này có thể giúp mức dùng token thấp hơn mong đợi.

Bài test 3: Thử thách suy luận

Để kiểm tra suy luận nhiều bước mà không chuyển sang chế độ chuyên dụng, tôi dùng một câu đố cổ điển:

Một câu đố logic tiếp theo về các hộp trái cây dán nhãn sai cũng được giải gọn gàng mà không lan man.

Điểm chuẩn của Mistral 3

Điểm chuẩn không phải tất cả, nhưng chúng giúp đặt mô hình vào bối cảnh. Mistral so sánh Large 3 chủ yếu với các đối thủ nguồn mở như DeepSeek-3.1 và Kimi-K2, điều này hợp lý xét theo giấy phép Apache 2.0.

Large 3 thể hiện tốt ở các đánh giá suy luận, GSM8K, AIME và mã hóa. Thực tế đây là mô hình mã nguồn mở dẫn đầu hiện tại trên bảng xếp hạng LMArena. Kết quả SWE-Bench ban đầu cho thấy nó giải quyết các tác vụ kỹ thuật phần mềm ở mức ngang với các hệ thống dày đặc và MoE dung lượng cao khác. Các mô hình Ministral cũng giữ vị trí mạnh tương ứng với kích cỡ của chúng.

Mistral 3 so với đối thủ

Đáng chú ý là trong so sánh của Mistral vắng bóng các mô hình “tiên phong” phát hành cuối tháng 11: Gemini 3 Pro (đạt 91,9% trên GPQA Diamond và 1501 Elo trên LMArena), GPT-5.1, và Claude Opus 4.5 (đứng đầu SWE-bench Verified với hơn 80%). Khi đặt Large 3 cạnh các mô hình này, các hệ thống độc quyền vẫn nhỉnh hơn ở những điểm chuẩn suy luận khó nhất và tác vụ tác tử phức tạp. Điều đó là đúng. Nhưng với nhiều khối lượng công việc thực tế, đặc biệt khi tính đến khả năng tự lưu trữ, tinh chỉnh và triển khai không bị khóa nhà cung cấp, Large 3 mang lại hiệu năng cạnh tranh.

Mistral 3 là một bản phát hành mạnh cho hệ sinh thái mở. Sự kết hợp giữa hiệu suất token, chiều sâu đa ngôn ngữ và xử lý ngữ cảnh dài khiến nó trở nên đáng chú ý. Đây là sự kết hợp giữa năng lực và tính mở ở một quy mô mà trước đây chúng ta chưa thấy. Large 3 tiến gần các hệ thống độc quyền hàng đầu trong khi vẫn là thứ bạn có thể tải về, kiểm tra và triển khai theo ý muốn.

Nếu có một điểm cần giữ kỳ vọng vừa phải, đó là ở các tác vụ suy luận phức tạp hơn và năng lực tác tử. Large 3 làm tốt, nhưng các mô hình như Opus 4.5 và GPT 5.1 xử lý chuỗi suy luận dài ổn định hơn.

Tôi có thể truy cập Mistral 3 bằng cách nào?

Có vài cách để bắt đầu, tùy thuộc vào cách bạn dự định sử dụng các mô hình.

Nếu bạn chỉ muốn dùng thử, API lưu trữ là tuyến đơn giản nhất. Cả bốn tầng—Large 3, 14B, 8B và 3B—đều có sẵn với khóa API chuẩn. Tính phí dựa trên token và đây là cách nhanh nhất để thử suy luận, nhắc đa phương thức hoặc tác vụ đa ngôn ngữ.

Nếu bạn muốn toàn quyền kiểm soát, trọng số mở có thể tải xuống. Khi Mistral gọi đây là “các mô hình trọng số mở có giấy phép thoáng nhất,” họ có ý rằng:

• Bạn có thể tải trọng số về
• Bạn có thể dùng cho mục đích thương mại
• Bạn có thể sửa đổi hoặc tinh chỉnh
• Bạn sở hữu toàn bộ ngăn xếp triển khai từ đầu đến cuối

Large 3 đòi hỏi phần cứng “khủng”, nhưng các mô hình Ministral thu nhỏ rất trơn tru. Bạn cũng có thể dùng các nền tảng đối tác nếu muốn thử nghiệm các backend khác nhau mà không phải tự vận hành máy.

Các trường hợp sử dụng Mistral 3

Tôi đã nêu ra một vài trường hợp sử dụng trong bài viết này, nhưng giờ tôi muốn dành thêm thời gian viết về cách tôi hình dung các nhóm thực sự dùng mỗi tầng trong thực tế. Ban lãnh đạo Mistral thực sự đặt cược rằng hầu hết doanh nghiệp có thể làm được nhiều việc với các mô hình nhỏ, trọng số mở mà bạn có thể tinh chỉnh. 

Tôi hình dung cách một nhà phân tích quỹ phòng hộ có thể tải lên 50 bản ghi cuộc gọi công bố lợi nhuận và yêu cầu Mistral Large 3 đánh dấu đội ngũ quản lý nào đang né tránh về hướng dẫn hoặc thay đổi giọng điệu qua từng quý. Cửa sổ ngữ cảnh 256k có thể xử lý toàn bộ bản ghi cùng 10-K (tài liệu tài chính thường niên) mà không cần chia khúc. Hoặc nếu bạn là một phần của một công ty đầu tư châu Âu, Mistral chắc chắn sẽ hoạt động tốt với tiếng Pháp, Đức, Ý (hoặc Ả Rập, như chúng tôi đã thử).

Nếu điều này nghe có vẻ xa vời, có lẽ không nên, bởi vì HSBC vừa công bố thỏa thuận với Mistral ngay tuần này.

Lời kết

Mistral 3 cuối cùng đã mang đến cho Mistral một cấu trúc nhất quán và các mô hình mở rộng tự nhiên theo những ràng buộc khác nhau. Large 3 tự tin so kè với các hệ thống độc quyền lớn, trong khi dòng Ministral giúp bạn dễ dàng chọn tầng phù hợp với nhu cầu phần cứng và độ trễ.

Nếu bạn định thử nghiệm, API lưu trữ là cách bắt đầu nhanh nhất. Còn nếu muốn xây dựng cục bộ hoặc tự lưu trữ, tải trọng số về sẽ cho bạn toàn quyền kiểm soát.

Nếu bạn tò mò cách các mô hình như Mistral vận hành bên dưới, bạn sẽ học được rất nhiều từ khóa học Các khái niệm về Mô hình Ngôn ngữ Lớn của chúng tôi, và nếu bạn đang tích hợp Mistral vào một ứng dụng, Những điều căn bản về API trong Python sẽ hỗ trợ phần thực hành.