OpenAI o1 指南：工作原理、使用场景、API 等

OpenAI o1 的工作原理

与 o1 交互时，您首先会注意到，它生成回复所需的时间明显比 GPT-4o 更长。这种有意的停顿反映了模型对推理的重视。O1 在回复前会花更多时间“思考”，从而能够处理复杂任务，解决逻辑、数学、编程和科学中的更难问题。

OpenAI o1-preview 正在解决一道逻辑题

强化学习与链式思维

O1 的卓越推理能力源于强化学习与链式思维的结合。

通过强化学习，模型学会优化其思考过程，探索不同策略、识别错误并调整方法，从而得到最准确、最合乎逻辑的解法。

另一方面，链式思维是一种将复杂问题拆解为更小、更易处理部分的技术。这种方法让 o1 能够“先思考再回答”，就像在下厨前细致规划复杂菜谱的每一步。

通过显式铺陈其推理过程，o1 能够及早识别潜在错误，提高得出正确答案的概率，就像我们人类在仔细梳理思路时更不容易出错一样。

OpenAI o1 采用链式思维这一事实，使其在数学、科学和编程等领域尤为高效——这些领域往往需要多步推导才能得到正确答案。

计算分配的新范式

OpenAI o1 的一大差异化特征在于其对计算资源的战略性再分配。传统大语言模型主要侧重于海量预训练数据集，o1 则将重心转向训练与推理阶段。

这一转变表明，在这些阶段投入更多算力，可以显著提升复杂推理能力。

来源：OpenAI

上图展示了在应对具有挑战性的 AIME（American Invitational Mathematics Examination，美国邀请数学竞赛）时，增加计算资源对 OpenAI o1 模型表现的影响。图中包含两幅曲线图，分别将模型准确率与分配给训练或测试（推理）的算力进行对比。

两幅图均显示出明显的正相关：随着计算资源增加，模型首次尝试解答 AIME 题目的准确率也随之提升。值得注意的是，这种关系在测试时曲线上更为显著，这表明在问题求解过程中给予模型更多“思考”时间，能带来大幅性能提升。

这一观察突出了 o1 的算力密集特性，表明其高度依赖可观的计算资源。不过，两幅图的上升趋势也意味着，随着算力进一步增加，准确率仍有提升空间，为未来 AI 推理能力的发展带来可期方向。

OpenAI O1 基准测试：更擅长重度推理任务

为展示 o1 相较 GPT-4o 的推理增强，OpenAI 在多项具有挑战性的数学、编程与科学基准上评估了该模型。

人类考试

人类考试评估显示，o1 持续优于 GPT-4o 和 o1-preview。

实心柱表示 pass@1 准确率，阴影区域表示 64 次采样的多数投票（共识）表现。来源：OpenAI

或许最引人注目的是，o1（甚至 o1-preview）在数学和编程基准上，相较 GPT-4o 的表现实现了巨大飞跃。

尽管在科学领域的提升不那么显著，但值得注意的是，无论是 o1-preview 还是全面优化的 o1 模型，都在博士水平的科学问答上优于人类专家。这显示出 o1 有潜力应对复杂的现实问题，并在某些领域超越人类水平。

机器学习基准

从机器学习基准的结果来看，o1 在推理方面的进步相当明显。在 MathVista（数学基准）和 MMLU 上，o1 的准确率相比 GPT-4o 有大幅提升。

来源：OpenAI

o1 的一个特化版本 o1-ioi 展现出更强的编程能力，在 2024 年国际信息学奥林匹克竞赛中（严格竞赛条件下）达到了第 49 百分位的排名。

在模拟比赛中（见下图），o1-ioi 的表现更上一层楼，超过了 93% 的参赛者。

来源：OpenAI

OpenAI o1 使用场景

OpenAI o1 的推理能力使其特别适合解决科学、编程和数学中的复杂问题。

科学研究

例如，医疗研究人员可以利用 o1 注释复杂的细胞测序数据，而物理学家则可以用它来生成量子光学研究所需的复杂数学公式。

编程

从提出代码优化建议、生成测试用例，到自动化代码审查与促进知识分享，o1 有望显著提升开发者生产力并简化工作流程。

此外，o1 对代码的理解与生成能力也让其用途不限于编码本身。它可以辅助项目规划、需求分析与软件架构设计，帮助开发者打造更高效的解决方案。

尽管 o1 的全部能力仍在持续发展中，但其当前功能已颇具前景。随着 OpenAI 不断优化模型，o1 很可能成为开发者的有力工具，推动创新并影响软件开发的未来。

正如基准测试部分所述，o1 模型在编程领域展现出巨大潜力。

数学

数学领域同样可能从 o1 的高级推理能力中获益良多。其在 AIME 等基准上的强势表现，暗示了在求解复杂方程、证明定理和探索新数学概念方面的应用潜力，这将惠及学生与研究人员。

重度推理类用例

超越具体领域，o1 对推理的专注也使其可用于任何需要批判性思维与逻辑推断的任务。从解谜与猜题，到分析复杂论证并助力明智决策，o1 可能开启全新的问题求解方式。

如何访问 OpenAI o1

如果您订阅了 ChatGPT Plus 或 ChatGPT Team，便可在 ChatGPT 界面内直接使用 o1 模型。在页面顶部的模型选择下拉菜单中选择 o1 即可。

请注意，使用 ChatGPT Plus 或 Team 账户，起始配额为每周 50 条 OpenAI o1 消息，以及每天 50 条 OpenAI o1-mini 消息。

OpenAI o1 API

虽然 Plus 和 Team 订阅者可在 ChatGPT 中使用 o1，但需要更高灵活性与集成能力的开发者和研究人员，更适合使用 OpenAI o1 API。

测试版限制

尽管在聊天界面中 o1 已不再是预览版，但在本文撰写时（2024 年 12 月 6 日），API 仅提供两个 o1 变体的访问：

• o1-preview： 完整 o1 模型的早期预览版，旨在解决需要广泛通识知识的复杂问题。
• o1-mini： o1 的更快且更经济的版本，适合在编程、数学和科学等对广泛通识知识要求不高的任务。

o1-preview 与 o1-mini 均可通过Chat Completions 端点访问，方便集成至现有项目。调用 API 时选择所需模型（如 model="o1-preview"）即可。要逐步学习如何通过 API 使用 o1，请阅读本教程：OpenAI O1 API 教程：如何连接至 OpenAI 的 API。

鉴于 o1 目前处于测试阶段，部分 API 参数与功能尚不支持，包括：

• 模态：当前仅支持文本输入与输出；暂不支持图像处理。
• 消息类型：不支持系统消息；仅允许用户与助手消息。
• 流式传输：o1 模型尚不支持流式输出。
• 工具与函数调用：这些高级能力目前不支持。
• Logprobs：暂不提供对数概率。
• 其他参数：如 temperature、top_p 和 n 固定为 1，而 presence_penalty 与 frequency_penalty 固定为 0。
• Assistants 与 Batch API：o1 模型尚未与 Assistants API 或 Batch API 集成。

随着 o1 走出测试阶段，OpenAI 计划逐步支持上述部分参数与功能。更高级的多模态与工具使用功能预计将在 o1 系列的后续版本中加入。

理解推理令牌

o1 模型的关键概念之一是“推理令牌”。这些令牌代表模型将提示拆解、权衡多种路径并形成回应时的内部思考过程。尽管这些推理令牌无法通过 API 可见，但它们会占用模型的上下文窗口，并计入总令牌数，从而影响计费。

来源：OpenAI

上下文窗口与成本

o1-preview 与 o1-mini 均提供 128,000 令牌的上下文窗口。然而，每次补全对生成的输出令牌总数（包括不可见的推理令牌与可见的补全令牌）都有上限。为避免意外成本并确保模型有足够“思考”空间，务必有效管理上下文窗口，并通过 max_completion_tokens 参数设置合适的限制。

提示工程最佳实践

为获得最佳效果，请保持对 o1 模型的提示简洁直接。避免使用如 few-shot 提示或明确要求模型“逐步思考”等技巧，因为这些做法可能适得其反。请使用分隔符清晰组织输入；在检索增强生成场景中，仅提供最相关的上下文，以防模型过度复杂化其回答。

什么是 OpenAI o1-mini？

除了功能完整的 o1-preview 模型，OpenAI 还发布了 o1-mini，这是一个更小更快的变体，旨在为探索 o1 系列能力的开发者与研究人员提供更易上手的切入点。

尽管 o1-mini 的通识知识广度不及更大的兄弟模型，但在需要集中推理能力的任务中表现突出，尤其是在编程、数学与科学领域。

其更小的规模意味着更快的响应与更低的算力需求，对于重视速度与效率的应用而言颇具实用性。

虽然 o1-mini 目前仍处于测试阶段并存在一定限制，但它让我们一窥 o1 系列专注增强 AI 推理能力的潜力。随着 OpenAI 持续打磨与发展 o1 系列，o1-mini 也将与更大的同类一同演进，成为适用于广泛应用场景的更强大、更通用工具。

什么是 O1 Pro 模式？

除了标准的 o1 模型，OpenAI 还推出了 o1 pro 模式。该模型适用于需要更强推理能力、并愿意以一定速度为代价换取更高准确性和处理高度复杂任务能力的用户。

o1 pro 模式相较标准 o1 使用了显著更多的计算资源。这使其能够“思考更久”“思考更深”，从而生成更可靠的回复，尤其适用于数据科学、编程与判例法分析等领域的棘手问题。

要访问 o1 pro 模式，您需要订阅 ChatGPT Pro。该订阅可让您无限制使用 o1 与 o1 pro 模式，以及其他高级模型与功能。

我们在一篇独立文章中深入讨论了 o1 pro 模式：什么是 OpenAI 的 O1 Pro 模式？功能、ChatGPT Pro 等。

OpenAI o1 的局限性

尽管 OpenAI o1-preview 的能力令人印象深刻，但也存在一些需要注意的限制。这些约束可能影响其在特定情境下的实用性，了解如下事项很有必要。

隐藏的链式思维

为确保未来监控与安全增强的可能性，o1 使用的原始链式思维推理过程并不直接向用户展示。尽管此举旨在实现更有效的模型监管，但也降低了透明度，可能影响用户对模型决策过程的理解。

尚不能浏览网页

OpenAI o1-preview 无法浏览网页，这意味着其提供的信息可能并非始终最新。如果您需要实时或时事数据，模型无法直接检索。

响应时间更长

最显著的限制之一在于，模型处理复杂查询所需时间相对较长。尽管额外时间有助于生成更周全的回答，但对于期望快速响应的用户而言，可能造成延迟。

不适用于低时延应用

由于响应较慢，OpenAI o1 并不适合需要快速交互的应用，如实时聊天机器人或翻译服务。在这些用例中，延迟可能带来较差的用户体验，等待数秒的回复会令人沮丧。

如果在与其优势不匹配的场景中应用该模型，可能导致负面的用户体验。对于需要快速、即时响应的情境尤为如此，此时模型较慢的处理时间反而会成为掣肘。

OpenAI o1 的安全性

全新 o1 模型采用了一种利用其推理能力来实现更佳情境安全性的安全训练方法。

核心安全措施之一是测试模型对“越狱”尝试的抵抗力，即用户试图绕过安全规则的行为。在一次具有挑战性的越狱测试中，GPT-4o 得分为 22/100，而新版 o1-preview 得分为 84，显示出显著改进。

安全工作还通过严格测试、内部治理与与联邦政府的合作得到了加强。这包括使用准备度框架（Preparedness Framework）、红队演练，以及由安全与安保委员会在董事会层面开展审查。

此外，还与美国与英国的 AI 安全研究院建立了合作关系，给予其对研究版模型的提前访问。

不过，对这些早期结果仍需保持谨慎乐观的态度。

展望未来：OpenAI O 系列

OpenAI o1 的推出不仅是一个新模型的发布，更是一个新系列——OpenAI O 系列的起点。这标志着 OpenAI 战略方向的有意转变，将复杂推理能力作为未来 AI 发展的核心重点。

o1 与 o1 pro 模式在需要复杂问题求解的基准上展现出的亮眼早期结果，显示这一新系列潜力巨大。

随着 OpenAI 不断优化并扩展 o 系列模型的能力，可以预见，AI 将在科学发现、软件开发以及其他需要高级认知技能的领域发挥更为积极的作用。

然而，通往充分释放 O 系列潜力的道路并非坦途。这些模型的算力密集特性及其独特的扩展约束，要求持续的研究与开发。

结语

尽管我们今年翘首以盼 GPT-5 的到来，OpenAI 却用更注重复杂推理能力的 o1 给了我们惊喜。

o1 在多项基准上的早期成功表明，它有潜力在数学、编程与科学研究等领域解决棘手问题。

尽管前景可期，o1 仍处于早期阶段，面临算力密集等挑战，并需要在安全与伦理部署方面持续研究。