GPT-4o Mini là gì? Cách hoạt động, trường hợp sử dụng, API & hơn thế nữa

GPT-4o Mini là gì?

GPT-4o mini được suy ra từ mô hình GPT-4o lớn hơn thông qua quy trình chưng cất. Quy trình này bao gồm việc huấn luyện một mô hình nhỏ hơn để bắt chước hành vi và hiệu năng của mô hình lớn, phức tạp hơn, tạo ra một phiên bản tiết kiệm chi phí nhưng vẫn rất mạnh mẽ của bản gốc.

Các tính năng chính

• Cửa sổ ngữ cảnh lớn: GPT-4o mini giữ nguyên cửa sổ ngữ cảnh 128k token của GPT-4o, cho phép xử lý hiệu quả các văn bản dài. Điều này lý tưởng cho các ứng dụng cần ngữ cảnh mở rộng, như phân tích tài liệu lớn hoặc duy trì lịch sử hội thoại.
• Khả năng đa phương thức: Mô hình xử lý cả đầu vào văn bản và hình ảnh, với kế hoạch hỗ trợ đầu vào và đầu ra video, âm thanh trong tương lai. Tính linh hoạt này phù hợp cho nhiều ứng dụng, từ phân tích văn bản đến nhận dạng hình ảnh.
• Chi phí giảm: GPT-4o mini rẻ hơn nhiều so với các phiên bản trước. Chi phí là $0.15 cho mỗi triệu token đầu vào và $0.60 cho mỗi triệu token đầu ra, rẻ hơn đáng kể so với mô hình GPT-4o, được định giá $5.00 cho mỗi triệu token đầu vào và $15.00 cho mỗi triệu token đầu ra. So với GPT-3.5 Turbo, GPT-4o mini rẻ hơn hơn 60%.
• Tăng cường an toàn: Mô hình bao gồm các tính năng an toàn giống GPT-4o và là mô hình đầu tiên trong API sử dụng phương pháp phân cấp hướng dẫn. Điều này cải thiện khả năng chống lại jailbreak, tiêm lệnh nhắc và trích xuất lệnh hệ thống, giúp an toàn hơn khi sử dụng trong nhiều ứng dụng.

Cạnh tranh của GPT-4o mini

GPT-4o mini cạnh tranh với các mô hình như Llama 3 8B, Gemini 1.5 Flash và Claude Haiku, cũng như GPT-3.5 Turbo của chính OpenAI. Các mô hình này cung cấp chức năng tương tự nhưng thường có chi phí cao hơn hoặc kém tiên tiến hơn về chỉ số hiệu năng.

• Gemini 1.5 Flash: Mặc dù Gemini 1.5 Flash có tốc độ đầu ra nhỉnh hơn, GPT-4o mini vượt trội về chất lượng, trở thành lựa chọn cân bằng hơn cho các ứng dụng cần cả tốc độ và độ chính xác cao.
• Claude 3 Haiku và Llama 3 (8B): GPT-4o mini vượt các mô hình này về cả chất lượng và tốc độ đầu ra, thể hiện hiệu quả và hiệu lực của mình.
• GPT-3.5 Turbo: GPT-4o mini vượt GPT-3.5 Turbo về tốc độ đầu ra và chất lượng tổng thể, đồng thời cung cấp khả năng thị giác mà GPT-3.5 Turbo không có.

Nguồn: Artificial Analysis

Cách GPT-4o Mini hoạt động: Cơ chế chưng cất

GPT-4o mini đạt được sự cân bằng giữa hiệu năng và hiệu quả thông qua một quy trình gọi là chưng cất mô hình. Về bản chất, điều này bao gồm việc huấn luyện một mô hình nhỏ gọn hơn ("học trò") để bắt chước hành vi và tri thức của một mô hình lớn, phức tạp hơn ("thầy").

Mô hình lớn hơn, trong trường hợp này là GPT-4o, đã được tiền huấn luyện trên lượng dữ liệu khổng lồ và sở hữu hiểu biết sâu về mẫu ngôn ngữ, ngữ nghĩa và thậm chí khả năng suy luận. Tuy nhiên, kích thước quá lớn khiến chi phí tính toán cao và kém phù hợp cho một số ứng dụng nhất định.

Chưng cất mô hình giải quyết vấn đề này bằng cách chuyển giao tri thức và khả năng của GPT-4o sang GPT-4o mini nhỏ hơn. Thông thường, mô hình nhỏ học cách dự đoán đầu ra của mô hình lớn trên một tập dữ liệu đầu vào đa dạng. Thông qua quy trình này, GPT-4o mini hiệu quả "chưng cất" những tri thức và kỹ năng quan trọng nhất từ đối tác lớn hơn.

Kết quả là một mô hình tuy nhỏ gọn và hiệu quả hơn nhưng vẫn giữ được nhiều hiệu năng và khả năng của bản gốc. GPT-4o mini có thể xử lý các tác vụ ngôn ngữ phức tạp, hiểu ngữ cảnh và tạo phản hồi chất lượng cao, đồng thời tiêu thụ ít tài nguyên tính toán hơn. Điều này khiến nó trở thành giải pháp thực tiễn và tiết kiệm cho nhiều ứng dụng, đặc biệt ở những nơi tốc độ và hiệu quả chi phí quan trọng.

Hiệu năng của GPT-4o Mini

GPT-4o mini thể hiện hiệu năng ấn tượng trên nhiều thước đo. Tôi đã tạo Claude Artifacts cho từng thước đo để giải thích mỗi thước đo LLM là gì và đo lường điều gì.

Nhiệm vụ suy luận

Đối với các nhiệm vụ suy luận, chúng tôi đánh giá GPT-4o mini trên các tiêu chí sau:

MMLU (Massive Multitask Language Understanding) là thước đo kiểm tra mô hình bằng câu hỏi trắc nghiệm trên 57 chủ đề khác nhau, bao gồm STEM, nhân văn và khoa học xã hội. Câu hỏi có độ khó từ cơ bản đến nâng cao. Nó đo lường số câu trả lời đúng và yêu cầu khớp chính xác. GPT-4o Mini đạt 82,0%, vượt qua các đối thủ như Gemini Flash (77,9%) và Claude Haiku (73,8%).

GPQA (Google-Proof Q&A Benchmark) là một bộ dữ liệu khó, với câu hỏi do chuyên gia biên soạn nhằm thách thức người không chuyên nhưng vẫn phù hợp với chuyên gia. Các câu hỏi được kiểm định cẩn thận về độ khó và độ chính xác qua nhiều vòng để giảm rủi ro nhiễm bẩn dữ liệu.

DROP (Discrete Reasoning Over Paragraphs) kiểm tra khả năng mô hình trích xuất thông tin liên quan từ đoạn văn và thực hiện các tác vụ suy luận như sắp xếp hoặc đếm. Hiệu năng được đánh giá bằng điểm F1 tùy chỉnh và khớp chính xác.

Khả năng toán và lập trình

Thước đo MGSM bao gồm 250 bài toán toán học cấp tiểu học được dịch sang 10 ngôn ngữ, kiểm tra khả năng suy luận đa ngôn ngữ.

Bài kiểm tra Năng lực Toán học theo Heuristics (MATH) gồm các bài toán thi cấp trung học. Nó đánh giá khả năng giải các bài toán phức tạp được trình bày bằng Latex và Asymptote, tập trung vào các câu hỏi khó nhất.

Thước đo HumanEval đo lường hiệu suất sinh mã bằng cách đánh giá xem mã sinh ra có vượt qua các bài kiểm thử đơn vị cụ thể hay không. Nó sử dụng chỉ số pass@k để xác định xác suất ít nhất một trong k lời giải cho một bài toán lập trình vượt qua kiểm thử.

Suy luận đa phương thức

Thước đo Massive Multitask Language Understanding (MMLU) kiểm tra bề rộng tri thức, chiều sâu hiểu biết ngôn ngữ tự nhiên và khả năng giải quyết vấn đề của mô hình. Nó có hơn 15.000 câu hỏi trắc nghiệm trải rộng 57 môn, từ kiến thức tổng quát đến các lĩnh vực chuyên sâu. MMLU đánh giá mô hình trong thiết lập few-shot và zero-shot, đo độ chính xác theo từng môn và lấy trung bình cho điểm cuối cùng.

Thước đo MathVista kết hợp nhiệm vụ toán học và thị giác, gồm 6.141 ví dụ lấy từ 28 bộ dữ liệu đa phương thức hiện có và 3 bộ mới tạo (IQTest, FunctionQA và PaperQA). Nó thách thức mô hình bằng các nhiệm vụ đòi hỏi hiểu biết thị giác nâng cao và suy luận thành phần phức tạp.

Trường hợp sử dụng cho GPT-4o Mini

Kích thước nhỏ, chi phí thấp và hiệu năng mạnh của GPT-4o mini khiến nó hoàn hảo để dùng trên thiết bị cá nhân, tạo mẫu nhanh và trong môi trường hạn chế tài nguyên. Thêm vào đó, khả năng phản hồi theo thời gian thực cải thiện các ứng dụng tương tác. Dưới đây là cách sử dụng GPT-4o mini hiệu quả:

Truy cập GPT-4o Mini

Bạn có thể dùng GPT-4o Mini qua OpenAI API, bao gồm các tùy chọn như Assistants API, Chat Completions API và Batch API. Dưới đây là hướng dẫn đơn giản để dùng GPT-4o Mini với OpenAI API.

Trước tiên, bạn cần xác thực bằng khóa API của mình—thay your_api_key_here bằng khóa API thực tế. Khi đã thiết lập xong, bạn có thể bắt đầu tạo văn bản với GPT-4o Mini:

from openai import OpenAI 
MODEL="gpt-4o-mini"
## Set the API key
client = OpenAI(api_key="your_api_key_here")
completion = client.chat.completions.create(
  model=MODEL,
  messages=[
    {"role": "system", "content": "You are a helpful assistant that helps me with my math homework!"},
    {"role": "user", "content": "Hello! Could you solve 20 x 5?"}
  ]
)

Để biết thêm chi tiết về thiết lập và sử dụng OpenAI API, hãy xem hướng dẫn API GPT-4o.

Kết luận

GPT-4o mini nổi bật như một mô hình AI mạnh mẽ và tiết kiệm chi phí, đạt được sự cân bằng đáng chú ý giữa hiệu năng và tính phải chăng.

Nhờ được chưng cất từ mô hình GPT-4o lớn hơn, kết hợp với cửa sổ ngữ cảnh lớn, khả năng đa phương thức và các tính năng an toàn nâng cao, nó trở thành lựa chọn linh hoạt và dễ tiếp cận cho nhiều ứng dụng.

Khi nhu cầu về các giải pháp AI hiệu quả và phải chăng tiếp tục tăng, GPT-4o mini được định vị tốt để đóng vai trò quan trọng trong việc dân chủ hóa công nghệ AI.