Lộ trình
Cơ bản về Trí tuệ Nhân tạo
10 giờ
Hình ảnh của Tác giả
Thế giới khoa học dữ liệu đã thay đổi hoàn toàn kể từ khi các mô hình ngôn ngữ lớn (LLM) xuất hiện, với những công cụ như GPT-3 của OpenAI trở thành động lực then chốt thúc đẩy đổi mới và mở khóa những kỹ năng mới từng được cho là không thể đạt tới.
Dù các mô hình GPT của OpenAI ban đầu chiếm lĩnh thị trường, theo thời gian, cục diện đã thay đổi với sự ra mắt của nhiều mô hình mới, mỗi mô hình có bộ năng lực và ứng dụng chuyên biệt riêng.
Trong số đó, các mô hình của Mistral nổi bật nhờ khả năng suy luận nâng cao và hỗ trợ đa ngôn ngữ, đồng thời giỏi tạo mã, đánh dấu một bước tiến đáng kể trong AI.
Hướng dẫn này sẽ giới thiệu cho bạn về mô hình mới nhất của Mistral, Mistral Large, bao gồm quyền truy cập API để sử dụng mô hình theo nhu cầu, đi sâu vào các chức năng, phân tích so sánh với các LLM khác và những ứng dụng thực tiễn.
Dù bạn là một nhà khoa học dữ liệu dày dạn, một nhà phát triển muốn mở rộng bộ công cụ, hay một người đam mê AI háo hức khám phá công nghệ mới nhất, hướng dẫn này được xây dựng dành cho bạn.
Mistral AI là gì?
Mistral AI là một công ty Pháp được thành lập vào tháng 4 năm 2023 bởi các cựu nhân viên của Meta Platforms và Google DeepMind. Mục tiêu chính là bán các sản phẩm và dịch vụ AI đồng thời cung cấp cho xã hội các LLM mã nguồn mở mạnh mẽ.
Công ty đã làm thay đổi thị trường với mô hình Mistral 7B ra mắt vào tháng 9 năm 2023. Đây là mô hình 7,3 tỷ tham số vượt qua các mô hình mã nguồn mở tiên tiến nhất thời điểm đó, bao gồm LlaMa 2, giúp Mistral AI giữ vai trò dẫn dắt trong lĩnh vực AI mã nguồn mở.
Trong những tháng gần đây, Mistral AI đã trở thành lực lượng tiên phong trong ngành trí tuệ nhân tạo, và đang cố gắng cung cấp các công cụ mạnh mẽ được thiết kế để giải quyết các vấn đề phức tạp và tối ưu hóa vận hành.
Và chính điều này đưa chúng ta đến với lần ra mắt mới nhất: mô hình Mistral Large.
Mistral Large là gì
Mistral Large là mô hình ngôn ngữ lớn mới nhất và mạnh mẽ nhất của Mistral, ra mắt vào tháng 2 năm 2024. Mô hình định vị mình là sản phẩm chủ lực cho tác vụ tạo văn bản, có thể sánh ngang với khả năng nổi tiếng của GPT-4.
Mục tiêu là sở hữu kỹ năng suy luận và kiến thức mạnh mẽ, đồng thời hiểu biết vững vàng về lập trình (với nhiều ngôn ngữ) và đa ngôn ngữ. Đây chính là các tác vụ mà mô hình vượt trội nhất:
Suy luận và kiến thức
Mistral Large thể hiện kỹ năng suy luận mạnh. Để đánh giá các kỹ năng này, hiệu năng của các LLM như Mistral Large hoặc GPT-4 được so sánh bằng các bộ chuẩn khác nhau nhằm kiểm tra khả năng hiểu, suy luận, kiến thức và xử lý các loại dữ liệu khác nhau.
Một số bộ chuẩn phổ biến nhất gồm:
- MMLU hay Measuring massive multitask language in understanding: Kiểm tra khả năng hiểu của mô hình trên nhiều chủ đề rộng, từ lĩnh vực nghề nghiệp đến suy luận thường thức.
- HellaSwag: Đánh giá khả năng hiểu các kịch bản thường thức và khả năng dự đoán phần tiếp diễn hợp lý nhất của một ngữ cảnh cho trước.
- Arc Challenge: Mục đích: Đo lường khả năng trả lời các câu hỏi khoa học bậc tiểu học phức tạp đòi hỏi suy luận logic và hiểu các khái niệm khoa học.
Hiệu năng của các mô hình tiền huấn luyện trên ba bộ chuẩn trên và một số bộ khác được minh họa trong hình dưới đây:
Hình ảnh bởi Mistral AI. Hiệu năng trên các bộ chuẩn phổ biến về thường thức, suy luận và kiến thức của những LLM dẫn đầu thị trường: MMLU (Measuring massive multitask language in understanding), HellaSwag (10-shot), Wino Grande (5-shot), Arc Challenge (5-shot), Arc Challenge (25-shot), TriviaQA (5-shot) và TruthfulQA.
Như bạn thấy, Mistral Large là mô hình có hiệu năng tốt nhất ở ArcC và TruthfulQA đồng thời giữ điểm số sát GPT-4 ở hầu hết các bộ chuẩn.
Năng lực đa ngôn ngữ
Không giống nhiều mô hình chỉ giỏi một ngôn ngữ, Mistral Large sở hữu độ lưu loát như bản ngữ bằng tiếng Anh, Pháp, Tây Ban Nha, Đức và Ý.
Khả năng đa ngôn ngữ này không chỉ dừng ở dịch thuật, mà còn bao gồm hiểu sâu về ngữ pháp và bối cảnh văn hóa, khiến nó là lựa chọn lý tưởng cho các ứng dụng toàn cầu cần cách tiếp cận bản địa đối với các ngôn ngữ đó.
Toán và lập trình
Mistral Large cũng vượt trội trong các tác vụ lập trình và toán học, thể hiện năng lực vượt bậc. Tương tự, có một số bộ chuẩn tiêu chuẩn để so sánh chuyên môn toán và lập trình của các LLM. Một vài bộ phổ biến gồm:
- HumanEval: Đo khả năng tạo lời giải mã nguồn chính xác cho nhiều bài toán lập trình.
- MBPP: Kiểm tra năng lực giải bài toán lập trình Python.
- GSM8K: Đánh giá kỹ năng giải toán bậc tiểu học.
Bảng sau cung cấp cái nhìn tổng quan về hiệu năng trên nhiều bộ chuẩn nổi tiếng, so sánh năng lực lập trình và toán học của các LLM hàng đầu.
Hình ảnh bởi Mistral AI. Hiệu năng trên các bộ chuẩn lập trình và toán phổ biến của những LLM dẫn đầu thị trường: HumanEval pass@1, MBPP pass@1, Math maj@4, GSM8K maj@8 (8-shot) và GSM8K maj@1 (5 shot).
Tương tự như trước, Mistral Large dẫn đầu ở hầu hết các bộ chuẩn (MBPP, Math maj@4 và GSM8K) đồng thời duy trì điểm số cao ở tất cả.
Ngoài ra, Mistral Large đi kèm một số năng lực và thế mạnh mới:
- Cửa sổ ngữ cảnh 32K token cho phép truy xuất chính xác thông tin từ các tài liệu lớn. Nói đơn giản, Mistral Large giờ có thể xét tới tối đa 32.000 token (mảnh từ) văn bản đầu vào trong một lần khi tạo phản hồi hoặc phân tích, so với cửa sổ 8K token của Mistral 7B.
- Độ chính xác trong việc tuân thủ chỉ dẫn cho phép nhà phát triển tùy chỉnh chính sách kiểm duyệt – chúng tôi đã tận dụng năng lực này để thiết lập kiểm duyệt ở cấp hệ thống cho le Chat.
- Hỗ trợ gọi hàm một cách nội tại. Về cơ bản, điều này có nghĩa là Mistral Large có thể xử lý và thực thi các lời gọi hàm trong chính khung của nó. Điều này cho phép LLM hiểu yêu cầu thực thi các hàm cụ thể, thực hiện các hàm đó như một phần của việc tạo phản hồi, hoặc thao tác dữ liệu theo logic của hàm.
Tất cả các mô hình của Mistral AI được phát hành theo giấy phép Apache 2.0, cho phép sử dụng không hạn chế. Bạn có thể tìm hiểu thêm về kiến trúc và hiệu năng mô hình tại trang web và tài liệu chính thức của Mistral.
Mistral Large so với các LLM khác
Khi so sánh với các mô hình khác trong lĩnh vực LLM như ChatGPT và Claude, Mistral Large nổi bật chủ yếu nhờ tính kinh tế cao hơn.
Tỏa sáng trong bối cảnh cạnh tranh của AI, Mistral Large đã thể hiện kết quả ấn tượng trên các bộ chuẩn được công nhận rộng rãi, khẳng định vị trí là mô hình xếp hạng nhì thế giới có sẵn qua API.
Thành tựu này nhấn mạnh hiệu quả của mô hình trong việc hiểu và tạo văn bản, được đối sánh với các ông lớn trong lĩnh vực như GPT-4, Claude 2, và LLaMA 2 70B qua các đánh giá toàn diện như MMLU (Measuring massive multitask language understanding).
Hình ảnh bởi Mistral AI. So sánh GPT-4, Mistral Large (tiền huấn luyện), Claude 2, Gemini Pro 1.0, GPT 3.5 và LLaMA 2 70B trên MMLU (Measuring massive multitask language understanding).
Trong khi ChatGPT cách mạng hóa hội thoại AI tương tác và Claude 2 đưa ra khả năng hiểu và tạo sinh được cải thiện, Mistral Large tiến thêm một bước khi tích hợp suy luận sâu trong một khung chi phí hiệu quả, giúp AI tiên tiến đến được với đông đảo người dùng hơn.
Giờ là lúc học cách thuần hóa “quái thú” này!
Bắt đầu với Mistral Large
Truy cập Mistral AI bắt đầu bằng một quy trình thiết lập đơn giản giúp bạn khởi động trong thời gian ngắn.
Có hai cách chính để truy cập mô hình:
- Sử dụng giao diện lấy cảm hứng từ ChatGPT của Mistral, gọi là “Le Chat”.
- Tích hợp vào mã của bạn thông qua endpoint API của Mistral.
Hình ảnh của Tác giả.
Nếu bạn muốn bắt đầu với một mô hình đơn giản hơn, tôi rất khuyến nghị bạn theo dõi hướng dẫn sử dụng và tinh chỉnh Mistral 7B này.
ChatBot Mistral - Le Chat
Giao diện này cho phép bạn trò chuyện văn bản với Mistral tương tự như những gì các công ty thương mại như OpenAI hay Google cung cấp: bạn có thể đặt câu hỏi hoặc đưa chỉ dẫn, và Mistral sẽ cố gắng phản hồi một cách đầy đủ thông tin.
Ảnh chụp màn hình giao diện Mistral Le Chat.
Để truy cập giao diện này, bạn chỉ cần truy cập trang Mistral Le Chat và đăng ký. Miễn phí sử dụng, không có giới hạn hay ràng buộc.
Mistral API
Nhà phát triển có thể tương tác với Mistral qua API, tương tự trải nghiệm với hệ thống API của OpenAI.
API này cho phép bạn gửi prompt văn bản và nhận các phản hồi do mô hình tạo ra. Khi dùng Python để tương tác với Mistral API, các thư viện như mistralai giúp đơn giản hóa quá trình làm việc với API của Mistral.
Vậy nên, hãy thực hiện những bước cơ bản nhất để tương tác với Mistral Large.
BƯỚC 1 - Tạo tài khoản Mistral của riêng bạn
Bước đầu tiên là truy cập trang web Mistral và nhấp nút “Build Now”.
Ảnh chụp màn hình trang chủ MistralAI.
Bạn sẽ cần tạo tài khoản mới hoặc đăng nhập nếu đã có.
Ảnh chụp màn hình giao diện đăng ký MistralAI.
Khi đã đăng nhập, bạn sẽ cần đăng ký gói để có quyền truy cập mô hình qua API.
Ảnh chụp màn hình tài khoản MistralAI.
Sau đó, bạn cần điền thông tin cá nhân và thanh toán.
Ảnh chụp màn hình quy trình đăng ký MistralAI.
Và như vậy là chúng ta đã tạo xong một tài khoản sẵn sàng sử dụng!
BƯỚC 2 - Tạo API KEY của bạn
Khi tài khoản đã hoạt động, bạn cần tạo API Key để gọi mô hình Mistral Large bằng mã Python của mình. Để làm vậy, hãy vào mục API Keys.
Ảnh chụp màn hình quy trình đăng ký MistralAI.
Tại đây, bạn chỉ cần nhấn nút “Create new key” và đặt tên cùng ngày hết hạn (hoàn toàn tùy chọn).
Ảnh chụp màn hình quy trình đăng ký MistralAI.
BƯỚC 3 - Thiết lập môi trường cục bộ
Để gọi mô hình Mistral từ mã Python, bạn sẽ dùng thư viện mistralai, có thể cài đặt dễ dàng bằng lệnh pip sau:
pip install mistralaiVì bạn sẽ dùng API Key, tôi khuyên bạn tận dụng thư viện dotenv để lưu khóa. Bạn có thể cài đặt dễ dàng bằng lệnh pip sau:
pip install python-dotenvSau đó, bạn có thể định nghĩa API Key của Mistral trong file .env và nạp bằng đoạn mã sau:
import os
from dotenv import load_dotenv
# Load environment variables from the .env file
load_dotenv()
# Access the API key using os.getenv
api_key = os.getenv("MISTRAL_API_KEY")Ứng dụng thực tiễn của Mistral Large
Mistral Large có thể được dùng trong nhiều lĩnh vực, bao gồm tạo nội dung, tự động hóa hỗ trợ khách hàng, trợ lý lập trình, phân tích dữ liệu, dịch ngôn ngữ và công cụ giáo dục.
Những ứng dụng này cho thấy sự linh hoạt của các LLM Mistral trong việc nâng cao năng suất, sáng tạo và ra quyết định trên nhiều ngành khác nhau. Để bắt đầu thử nghiệm, trước hết bạn cần khởi tạo mô hình.
Để làm vậy, bạn sẽ nhập thư viện mistralai.client và hàm chat completion để lấy phản hồi từ mô hình. Sau đó, để mượt mà hơn khi tương tác với API, bạn định nghĩa một chat_mistral function nhận prompt làm đầu vào và trả về phản hồi của mô hình.
from mistralai.client import MistralClient
from mistralai.models.chat_completion import ChatMessage
model = "mistral-large-latest"
client = MistralClient(api_key=api_key)
def chat_mistral(prompt: str):
messages = [
ChatMessage(role="user", content=prompt)
]
# No streaming
chat_response = client.chat(
model=model,
messages=messages,
)
return chat_response.choices[0].message.contentHãy xem một vài ví dụ mà Mistral có thể xử lý:
Tạo và xử lý văn bản
Mistral Large xuất sắc trong các tác vụ tạo, hiểu và chuyển đổi văn bản. Từ viết truyện và bài viết hấp dẫn đến tóm tắt tài liệu phức tạp và biến đổi phong cách, các ứng dụng chính về xử lý văn bản gồm:
Tạo văn bản
Một trong những ứng dụng chính của Mistral Large, cũng như mọi LLM, là tạo văn bản từ prompt ban đầu của bạn. Cốt lõi của khả năng này là quá trình huấn luyện mở rộng của mô hình trên các tập dữ liệu đa dạng gồm lượng lớn văn bản từ nhiều lĩnh vực.
Quá trình huấn luyện sâu rộng cho phép mô hình nắm bắt các phong cách viết, chủ đề và cấu trúc ngôn ngữ khác nhau, giúp nó viết văn bản phù hợp với tông giọng hoặc yêu cầu nội dung cụ thể.
# Starting prompt for a fairytale poem
prompt = """Write a short story starting with "Once upon a time" """
print(chat_mistral(prompt))
_________________________________________ #OUTPUT
Once upon a time, in a bustling city filled with towering skyscrapers and endless traffic, there was a small, quaint bookstore named "Whispers of the Past". This wasn't an ordinary bookstore. It was a magical place where every book held a secret story, waiting to be discovered.
The owner of the store, Mr. Benjamin, was an old man with a heart full of kindness and a mind full of tales. He had a peculiar habit of recommending books to his customers, not based on their genre preference, but on their current life situations. His recommendations were always spot on, and people often found solace, guidance, or inspiration from the books he suggested.
One day, a young girl named Lily walked into the store. She was new in town and had a lost look in her eyes. Seeing this, Mr. Benjamin approached her and asked, "What can I help you find today, my dear?"
Lily…
Bạn có thể tìm hiểu thêm về tạo văn bản trong bài viết Text Generation là gì?
Phân tích cảm xúc
Khả năng phân tích cảm xúc của Mistral Large dựa trên nền tảng học sâu, cho phép hiểu ngữ cảnh của ngôn ngữ, phân biệt hiệu quả giữa cảm xúc tích cực, tiêu cực và trung tính.
Bằng cách phân tích văn bản đầu vào, mô hình có thể suy ra sắc thái cảm xúc ẩn sau từ ngữ, tận dụng quá trình huấn luyện trên các tập dữ liệu đa dạng để đảm bảo phát hiện cảm xúc chính xác trên nhiều loại nội dung.
Một cách dùng hay cho Mistral là yêu cầu phân biệt cảm xúc của một văn bản cho trước.
# Sample text
text = "This movie was absolutely fantastic! I highly recommend it."
prompt = f"""Analyze the sentime of the following {text}.
Generate a json like response with the corresponding sentiment (positive, neutral or negatie).
"""
print(chat_mistral(prompt))
_________________________________________ #OUTPUT
{
"Sentiment": "Positive",
"Text": "This movie was absolutely fantastic! I highly recommend it."
}
Tóm tắt văn bản
Mistral Large vượt trội trong tóm tắt văn bản bằng cách tận dụng khả năng xử lý ngôn ngữ tự nhiên nâng cao để chuyển các tài liệu dài thành bản tóm tắt ngắn gọn, giàu thông tin. Mô hình nắm bắt chủ đề chính và chi tiết then chốt, xác định và trích xuất thông tin quan trọng nhất để đưa ra phần tóm lược mạch lạc và súc tích.
Khả năng này đặc biệt hữu ích để nhanh chóng nắm bắt tinh túy của lượng lớn văn bản, khiến Mistral Large trở thành công cụ thiết yếu cho những người cần tiêu hóa và hành động dựa trên thông tin một cách hiệu quả.
Một ví dụ đơn giản là yêu cầu mô hình tóm tắt đoạn văn, như sau:
# Sample text
text = """The quick brown fox jumps over the lazy dog. The rain in Spain falls mainly on the plain.
This is a longer sentence to show summarization capabilities."""
prompt = f"""Summarize the following {text} in 4 words.
"""
print(chat_mistral(prompt))
_________________________________________ #OUTPUT
Fox jumps, rain falls.
Dịch văn bản và tác vụ đa ngôn ngữ
Mistral Large cũng thể hiện năng lực vượt trội trong xử lý các tác vụ đa ngôn ngữ. Mistral-large được huấn luyện chuyên biệt để hiểu và tạo văn bản bằng nhiều ngôn ngữ, đặc biệt là tiếng Pháp, Đức, Tây Ban Nha và Ý.
Mistral Large đặc biệt hữu ích cho doanh nghiệp và người dùng cần giao tiếp bằng nhiều ngôn ngữ.
Ví dụ đơn giản là dùng Mistral Large như một công cụ dịch.
# Sample text
text = """The quick brown fox jumps over the lazy dog. The rain in Spain falls mainly on the plain.
This is a longer sentence to show summarization capabilities."""
language_in = "english"
language_out = "spanish"
prompt = f"""Translate the following {text} that is written in {language_in} to {language_out} and
just output the translated text.
"""
print(chat_mistral(prompt))
_________________________________________ #OUTPUT
The quick brown fox jumps over the lazy dog. The rain in Spain falls mainly on the plain.
Translation to Spanish:
El rápido zorro marrón salta sobre el perro perezoso. La lluvia en España cae principalmente en la llanura.
This is a longer sentence to show summarization capabilities.
Translation to Spanish:
Esta es una oración más larga para mostrar las capacidades de resumen.
Tạo mã và giải bài toán toán học
Vượt ra ngoài văn bản, Mistral Large cho thấy năng lực ấn tượng trong việc tạo mã và giải bài toán toán học. Bằng cách cung cấp đề bài súc tích, bạn có thể tận dụng Mistral Large để tạo đoạn mã tối ưu và xử lý các thử thách toán học, thể hiện tính hữu dụng của mô hình trong bối cảnh giáo dục, nghiên cứu và phát triển.
Tạo mã
Mistral Large xuất sắc trong tạo mã bằng cách hiểu mô tả cấp cao và chuyển chúng thành mã cú pháp đúng và hiệu quả ở nhiều ngôn ngữ lập trình.
Mô hình tận dụng quá trình huấn luyện rộng rãi trên mã nguồn, tài liệu kỹ thuật và diễn đàn lập trình để sinh mã đáp ứng yêu cầu đề ra, đảm bảo tính năng và tối ưu.
Ví dụ đơn giản là yêu cầu mô hình tạo một hàm thực hiện tác vụ đã mô tả.
# Prompt: Generate a Python function that takes a list of numbers and returns the sum of squares.
prompt = """def sum_of_squares(numbers):
# Your code here
pass
# Call the generated function with a sample list
numbers = [1, 2, 3]
result = sum_of_squares(numbers)
print(f"Sum of squares: {result}") # Expected output: Sum of squares: 14"""
print(chat_mistral(prompt))
_________________________________________ #OUTPUT
Sure, I can help you define the function `sum_of_squares`. This function should take a list of numbers as an argument, square each number, and then return the sum of those squares. Here's how you could do it:
```python
def sum_of_squares(numbers):
return sum(num ** 2 for num in numbers)
```
Năng lực này giúp tinh gọn quy trình phát triển, hỗ trợ lập trình viên trong tạo mẫu nhanh, gỡ lỗi và triển khai thuật toán phức tạp một cách dễ dàng.
Giải bài toán toán học
Mistral Large thành thạo giải bài toán toán học nhờ hiểu sâu các khái niệm số học và khả năng xử lý, diễn giải chỉ dẫn toán học phức tạp.
Mô hình áp dụng các thuật toán được huấn luyện trên nhiều dữ liệu toán, cho phép giải quyết từ bài toán số học cơ bản đến giải tích và đại số nâng cao.
Ví dụ, bạn có thể yêu cầu mô hình giải một bài toán.
# Prompt: Solve a system of linear equations with two variables.
prompt = """We have a system of equations:
x + 2y = 5
3x - y = 1
Solve for x and y.
"""
print(chat_mistral(prompt))
_________________________________________ #OUTPUT
Sure, I'd be happy to help you solve this system of equations. We can use the method of substitution or elimination. I'll use substitution for this example.
First, let's solve the first equation for x:
x = 5 - 2y
Now, we can substitute x in the second equation with the expression we just found:
3(5 - 2y) - y = 1
Expanding and simplifying this gives:
15 - 6y - y = 1
-7y = 1 - 15
-7y = -14
Now, divide both sides by -7 to solve for y:
y = -14 / -7
y = 2
Substitute y = 2 into the first equation:
x + 2(2) = 5
x + 4 = 5
x = 5 - 4
x = 1
So, the solution to the system of equations is x = 1 and y = 2.
Năng lực này cho phép Mistral Large trở thành công cụ giá trị cho giáo viên, học sinh và nhà nghiên cứu đang tìm kiếm lời giải cho bài toán hoặc kiểm tra độ đúng đắn của lời giải.
Tính năng nâng cao và thực hành tốt với Mistral Large
Hiểu về giá và quyền truy cập
Mistral AI cung cấp mô hình tính phí theo mức dùng cho dịch vụ API, với mức giá khác nhau cho chat completions và embedding API. Giá tính theo mỗi triệu token, thay đổi theo độ phức tạp của mô hình, gồm Mistral 7B, Mixtral 8x7B và các kích cỡ Mistral (Small, Medium, Large).
Nền tảng cung cấp nhiều bậc, gồm Mistral Small, Medium và Large, mỗi bậc được thiết kế để đáp ứng yêu cầu dự án và hạn mức ngân sách khác nhau. Mức giá thấp nhất áp dụng cho Mistral 7B với 0,25$ mỗi token, lên tới 8$ cho đầu ra của Mistral Large và 24$ cho đầu vào của Mistral Large.
Tính linh hoạt này cho phép bạn chọn phiên bản mô hình phù hợp nhất, tối ưu cả hiệu năng và chi phí.
Bảng giá các mô hình Mistral AI.
Nền tảng áp dụng giới hạn tốc độ 5 yêu cầu mỗi giây, 2 triệu token mỗi phút và 10.000 triệu token mỗi tháng, có thể điều chỉnh theo yêu cầu.
Để biết chi tiết về giá và giới hạn, truy cập trang giá của Mistral AI.
Tối ưu hóa hiệu năng
Chọn đúng mô hình Mistral cần cân nhắc giữa hiệu năng và chi phí. Nhu cầu của bạn quyết định lựa chọn, và điều này có thể thay đổi khi các mô hình phát triển.
Nhìn chung, mô hình lớn hoạt động tốt hơn, với Mistral Large dẫn đầu ở các bộ chuẩn như MMLU (một bộ chuẩn LLM tên là Measuring massive multitask language in understanding mà chúng ta đã giải thích ở trên), tiếp theo là Mistral Medium, Small, Mixtral 8x7B và Mistral 7B.
So sánh hiệu năng các mô hình Mistral. Hình ảnh bởi Mistral AI.
Để tối đa hóa hiệu quả của Mistral Large trong khi kiểm soát chi phí, bạn có thể tinh chỉnh truy vấn và chọn phiên bản mô hình phù hợp nhất với tác vụ. Bạn có thể tìm hiểu thêm về tinh chỉnh LLM trong Hướng dẫn Nhập môn Tinh chỉnh LLM
Mistral AI cung cấp năm endpoint API với năm mô hình ngôn ngữ lớn hàng đầu:
- open-mistral-7b (còn gọi là mistral-tiny-2312)
- open-mixtral-8x7b (còn gọi là mistral-small-2312)
- mistral-small-latest (còn gọi là mistral-small-2402)
- mistral-medium-latest (còn gọi là mistral-medium-2312)
- mistral-large-latest (còn gọi là mistral-large-2402)
Mô hình Mistral mới nhất có ba biến thể, với chi phí và hiệu năng giảm dần tùy vào ứng dụng bạn muốn thực hiện:
- Mistral Small: Tối ưu cho các tác vụ đơn giản, khối lượng lớn như phân loại, hỗ trợ khách hàng và tạo văn bản cơ bản. Hiệu quả chi phí cho các ứng dụng thẳng thắn như phát hiện spam.
- Mistral Medium: Thiết kế cho các tác vụ độ phức tạp vừa phải, Mistral Medium xuất sắc trong trích xuất dữ liệu, tóm tắt tài liệu và tạo nội dung mô tả. Cân bằng giữa năng lực và hiệu quả.
- Mistral Large: Vượt trội trên gần như tất cả bộ chuẩn. Mistral Large phù hợp nhất cho các tác vụ phức tạp, nặng suy luận hoặc ứng dụng chuyên biệt, bao gồm tạo văn bản tổng hợp và tạo mã. Thể hiện hiệu năng vượt trội trong suy luận nâng cao và giải quyết vấn đề.
Tiếp theo là gì cho Mistral Large?
Khi Mistral Large tiếp tục phát triển, những cải tiến, đóng góp cộng đồng và nâng cấp mới đang ở phía trước.
Theo sát những tiến bộ này rất quan trọng đối với người dùng muốn tận dụng trọn vẹn năng lực của Mistral Large và tích hợp các tính năng mới nhất vào dự án.
Lộ trình của mô hình hứa hẹn đổi mới liên tục, tập trung vào cải thiện suy luận, hỗ trợ ngôn ngữ và khả năng tiếp cận người dùng.
Kết luận
Mistral Large đại diện cho một bước tiến khổng lồ trong lĩnh vực AI và Khoa học Dữ liệu, cung cấp suy luận nâng cao với hỗ trợ đa ngôn ngữ đồng thời trợ giúp lập trình và toán học cho người dùng.
Lần đầu tiên chúng ta có một mô hình mã nguồn mở, chi phí phải chăng không chỉ sở hữu kỹ năng mạnh mà còn dẫn đầu ở một số bộ chuẩn, vượt qua các mô hình thương mại như GPT-4 của OpenAI hay Gemini của Google.
Điều này có nghĩa là bằng cách khai thác sức mạnh của Mistral Large, bạn có thể mở khóa những khả năng mới, tinh gọn quy trình và tạo ra các giải pháp đổi mới từng nằm ngoài tầm với với ngân sách thấp và hiệu năng tốt hơn.
Bạn có thể xem toàn bộ mã trong repo GitHub này.
Nếu bạn muốn tiếp tục nâng cao trong lĩnh vực LLM, tôi rất khuyến khích bạn theo dõi thêm các hướng dẫn nâng cao. Nếu bạn hoàn toàn mới, bạn có thể bắt đầu với khóa học LLM Concepts của DataCamp, bao quát nhiều phương pháp huấn luyện chủ chốt và nghiên cứu mới nhất.
Với người dùng nâng cao, một số tài nguyên hay để theo dõi là:
Chủ đề
