什么是 GPT-4o Mini？工作原理、使用场景、API 等

什么是 GPT-4o Mini？

GPT-4o mini 通过蒸馏过程自更大的 GPT-4o 模型而来。该过程通过训练一个更小的模型去模仿更大、更复杂模型的行为与表现，从而得到一个兼具成本效益与强大能力的版本。

关键特性

• 大上下文窗口：GPT-4o mini 保留了 GPT-4o 的 128k token 上下文窗口，能够高效处理长文本。对于需要大量上下文的应用（如分析大型文档或维护对话历史）尤为理想。
• 多模态能力：该模型可处理文本与图像输入，未来计划支持视频与音频的输入与输出。这种多样性使其适用于从文本分析到图像识别的多种应用。
• 成本更低：GPT-4o mini 较其前代更为实惠。其价格为每百万输入 tokens 0.15 美元、每百万输出 tokens 0.60 美元，显著低于 GPT-4o 的每百万输入 tokens 5.00 美元、每百万输出 tokens 15.00 美元。与 GPT-3.5 Turbo 相比，GPT-4o mini 便宜超过 60%。
• 更强的安全性：该模型包含与 GPT-4o 相同的安全功能，并且是 API 中首个采用指令层级方法的模型。这提升了其抵御越狱、提示注入以及系统提示提取的能力，使其在多种应用中更为安全。

GPT-4o mini 的竞品

GPT-4o mini 的竞争对手包括Llama 3 8B、Gemini 1.5 Flash 和 Claude Haiku，以及 OpenAI 自家的 GPT-3.5 Turbo。这些模型在功能上相近，但往往成本更高或在性能指标上不够先进。

• Gemini 1.5 Flash：尽管 Gemini 1.5 Flash 的输出速度略快，GPT-4o mini 在质量上更胜一筹，更适合既重速度又重高准确性的应用。
• Claude 3 Haiku 与 Llama 3（8B）：GPT-4o mini 在质量与输出速度两方面均优于这两款模型，展现出其高效与有效。
• GPT-3.5 Turbo：GPT-4o mini 在输出速度与整体质量上均胜出，并提供 GPT-3.5 Turbo 不具备的视觉能力。

来源：Artificial Analysis

GPT-4o Mini 的工作原理：蒸馏机制

GPT-4o mini 通过称为模型蒸馏的过程，实现了性能与效率的平衡。简而言之，即训练一个更小、更精简的模型（“学生”）去模仿一个更大、更复杂模型（“教师”）的行为与知识。

在这里，更大的模型 GPT-4o 经过海量数据的预训练，具备对语言模式、语义乃至推理能力的深刻理解。然而，其庞大的规模带来高昂的计算成本，使其不太适合某些应用场景。

模型蒸馏通过将更大 GPT-4o 模型的知识与能力迁移至更小的 GPT-4o mini 来解决这一问题。通常做法是让小模型在多样化的输入数据上学习预测大模型的输出。通过这一过程，GPT-4o mini 有效地“提炼”出其大模型同伴中最关键的知识与技能。

结果是一个更小、更高效，却在很大程度上保留原始性能与能力的模型。GPT-4o mini 能处理复杂语言任务、理解上下文并生成高质量回应，同时消耗更少的计算资源。对于广泛的应用场景而言，特别是在注重速度与成本效益的情况下，它都是一种切实可行且价格合理的选择。

GPT-4o Mini 的性能

GPT-4o mini 在多项基准测试中展现出令人印象深刻的表现。我为每个基准制作了Claude Artifacts，以解释每个大模型基准测试是什么以及它衡量的内容。

推理任务

在推理任务方面，我们对 GPT-4o mini 进行了以下评估：

MMLU（Massive Multitask Language Understanding，大规模多任务语言理解）是一项基准，通过 57 个不同学科（包括 STEM、人文和社会科学）的多项选择题来测试模型。题目难度从基础到高级不等。它衡量正确答案比例，并要求精确匹配。GPT-4o Mini 得分 82.0%，超过了 Gemini Flash（77.9%）和 Claude Haiku（73.8%）等竞争对手。

GPQA（Google-Proof Q&A Benchmark）是一个难度很高的数据集，其问题由专家精心设计，以难倒非专家，同时又可为专业人士所掌握。题目经过多轮严格验证，以在难度与准确性方面达成一致，并降低数据污染风险。

DROP（Discrete Reasoning Over Paragraphs）测试模型从段落中提取相关信息并执行排序或计数等推理任务的能力。性能通过自定义的 F1 与精确匹配分数进行评估。

数学与编程能力

MGSM 基准包含 250 道小学数学题，并被翻译为 10 种语言，用于测试多语言推理能力。

启发式数学能力测试（MATH）包含高中级别的竞赛题。它评估模型解决以 Latex 与 Asymptote 格式呈现的复杂数学问题的能力，重点关注最具挑战性的题目。

HumanEval 基准通过验证生成代码是否通过特定单元测试来衡量代码生成表现。它使用 pass@k 指标来评估针对某个编程问题的 k 个解法中，至少有一个通过测试的概率。

多模态推理

Massive Multitask Language Understanding（MMLU，大规模多任务语言理解）基准测试一个模型的知识广度、自然语言理解深度以及问题解决能力。它包含 1.5 万多道多选题，覆盖 57 个学科，从常识到专业领域。MMLU 在 few-shot 与 zero-shot 设置下评估模型，测量各学科的准确率并取平均得到最终得分。

MathVista 基准结合了数学与视觉任务，包含来自 28 个现有多模态数据集及 3 个新建数据集（IQTest、FunctionQA 和 PaperQA）的 6,141 个示例。它以需要高级视觉理解与复杂组合推理的任务来挑战模型。

GPT-4o Mini 的使用场景

GPT-4o mini 体量小、成本低、性能强，非常适合在个人设备上使用、快速原型制作以及资源受限的环境。此外，其实时响应能力还能提升交互式应用体验。以下是 GPT-4o mini 的高效用法：

如何访问 GPT-4o Mini

您可以通过 OpenAI API 使用 GPT-4o Mini，其中包括 Assistants API、Chat Completions API 与 Batch API 等选项。以下是使用 OpenAI API 调用 GPT-4o Mini 的简要指南。

首先，您需要使用 API 密钥进行身份验证——将 your_api_key_here 替换为您的实际 API 密钥。设置完成后，您就可以开始用 GPT-4o Mini 生成文本：

from openai import OpenAI 
MODEL="gpt-4o-mini"
## Set the API key
client = OpenAI(api_key="your_api_key_here")
completion = client.chat.completions.create(
  model=MODEL,
  messages=[
    {"role": "system", "content": "You are a helpful assistant that helps me with my math homework!"},
    {"role": "user", "content": "Hello! Could you solve 20 x 5?"}
  ]
)技术支持

有关设置和使用 OpenAI API 的更多详情，请查看 GPT-4o API 教程。

结论

GPT-4o mini 作为一款强大且具成本效益的 AI 模型，在性能与可负担性之间实现了出色平衡。

其源自更大 GPT-4o 模型的蒸馏方式，加之大上下文窗口、多模态能力与增强的安全特性，使其成为适用于广泛应用的多面手且易于获取的选项。

随着对高效且亲民的 AI 解决方案需求持续增长，GPT-4o mini 有望在推动 AI 技术普及方面发挥重要作用。