在近期的 OpenAI DevDay上，OpenAI 发布了备受期待的消息：推出 GPT-4 Turbo，这是一项对其开创性 AI 模型的升级。本文将全面介绍什么是 GPT-4 Turbo、其关键功能，以及它如何惠及开发者和用户。
在其他文章中，您还可以进一步了解GPTs 与 ChatGPT 商店以及同样在 Dev Day 上发布的Assistants API。
什么是 GPT-4 Turbo？
GPT-4 Turbo 是对现有GPT-4 大型语言模型的更新。它带来了多项改进，包括显著扩大的上下文窗口以及对更近期知识的访问。OpenAI 近期已通过加入自定义指令、ChatGPT 插件、DALL-E 3 和高级数据分析等，不断提升 ChatGPT 中 GPT-4 的能力。此次更新又带来了一系列令人兴奋的新功能。
什么是具备视觉能力的 GPT-4 Turbo？
具备视觉能力的 GPT-4 Turbo 是 GPT-4 Turbo 的一个变体，加入了光学字符识别（OCR）功能。也就是说，您可以向它提供一张图片，它会返回图片中包含的任何文本。例如，您可以输入一张菜单的照片，它会返回照片中写明的菜品。同样，您也可以提供一张发票的照片，并自动提取供应商名称和项目明细。
“具备视觉能力”的功能将在 ChatGPT 中默认提供，开发者则可在 OpenAI API 中选择“gpt-4-vision”模型来使用。
GPT-4 Turbo 关键功能
与以往模型相比，GPT-4 Turbo 在多方面有所提升，增强了其能力。以下是让它脱颖而出的几个关键点：
更近的知识截止时间
Sam Altman 承诺确保 ChatGPT 保持最新
现有的 GPT-3.5 和 GPT-4 版本的知识截止时间为 2021 年 9 月。这意味着除非接入外部数据源，否则它们无法回答此后发生的现实世界事件相关问题。
GPT-4 将知识截止时间延长了 19 个月至 2023 年 4 月。这意味着 GPT-4 Turbo 可访问截至该日期的信息与事件，从而成为更为可靠、信息量更足的参考来源。此外，OpenAI 首席执行官 Sam Altman 承诺，“[OpenAI] 将努力不再让 [GPT] 如此过时”。
128K 上下文窗口
大型语言模型（LLM）的上下文窗口衡量其对对话记忆的持续长度。如果一个模型的上下文窗口为 4,000 token（约 3,000 个词），那么对话中超过 4,000 token 之前的内容将被忽略，回复可能会变得不够准确，甚至与先前的回答相矛盾。这在处理长文档或需要长时间对话的聊天机器人中是个问题。
GPT-4 的最大上下文长度为 32k（32,000）token。GPT-4 Turbo 将其提升至 128k token（约合每页 400 词时的 240 页）。这超过了Anthropic 的 Claude 2 模型的 100k 最大上下文，并与Nous Research 的 YARN-MISTRAL-7b-128k 模型看齐。
更长的上下文窗口是否能在全窗口范围内带来令人满意的回答质量仍有待观察。斯坦福大学的最新研究表明，现有长上下文模型在检索文档开头或结尾附近的信息时，才能提供更准确的回答。
同样值得注意的是，128k 似乎只是通往“无限上下文”愿景的垫脚石。微软与西安交通大学的早期研究正致力于将 LLM 的上下文规模扩展到 10 亿 token。
GPT 降价
面对 LLM 市场日益激烈的竞争，OpenAI 下调了 GPT-4 Turbo 的价格，使其更利于开发者控制预算。在使用 OpenAI API 时，GPT-4 Turbo 的输入 token 价格从每 1000 个 token 0.03 美元降至 0.01 美元（为原价的三分之一）。输出 token 价格从每 1000 个 token 0.06 美元降至 0.03 美元（为原价的一半）。
GPT-3.5 Turbo 模型也延续了同样的趋势，输入 token 便宜 3 倍（每 1000 个 token 0.001 美元），输出 token 便宜 2 倍（每 1000 个 token 0.002 美元）。
此外，微调版 GPT-3.5 Turbo 4K 模型的输入 token 价格更是下降 4 倍，从每 1000 个 token 0.012 美元降至 0.003 美元；输出 token 价格下降 2.7 倍，从每 1000 个 token 0.016 美元降至 0.006 美元。训练价格保持不变，为每 1000 个 token 0.008 美元。
这些价格调整旨在让先进的 AI 模型对开发者而言更具成本效益。
GPT 走向多模态：图像提示与文本转语音
“具备视觉能力的 GPT-4 Turbo”已宣布即将上线。届时，您将能够在聊天框中直接输入图像作为提示与 GPT-4 Turbo 交互。该工具随后可生成图像的说明文字，或描述图像所展示的内容。它还将支持文本转语音请求。
函数调用更新
函数调用是供将生成式 AI 集成到应用中的开发者使用的功能。开发者可以向 GPT-4 Turbo 描述其应用或外部 API 的函数。借助在单条消息中调用多个函数的能力，该功能简化了与模型的交互。例如，用户可以发送一条消息请求执行多个操作，无需与模型进行多次往返。
如何访问 GPT-4 Turbo
“所有付费开发者”均可访问 GPT-4 Turbo，也就是说，如果您拥有 API 访问权限，您只需在 OpenAI API 中将模型名称设为 “gpt-4-1106-preview” 即可。同样地，对于具备视觉能力的 GPT-4 Turbo，您可以将模型名称设为 “gpt-4-vision-preview”。
请注意，这些预览模型尚未被视为适用于生产环境。然而，作为公告的一部分，Altman 也承诺将在未来几周内提供可用于生产的版本。
对于非开发者，GPT-4 Turbo 很可能会在未来几周内向 ChatGPT Plus 和 ChatGPT Enterprise 用户开放。
速率限制
通过 OpenAI API 访问 GPT 模型存在速率限制。也就是说，您每月只能向 API 发出有限次数的请求。OpenAI 现已发布更清晰的指南来说明速率限制的具体规则，以免您的应用被意外中断。
此外，GPT-4 的速率限制已翻倍。
由于 GPT-4 Turbo 目前处于预览阶段，其速率限制为每分钟 20 次请求、每天 100 次请求。OpenAI 表示，当前阶段不会提高该模型的速率限制。不过，一旦公开版本可用，限制很可能会放宽。
结语
GPT-4 Turbo 的发布让我们得以一窥生成式 AI 的未来，我们也迫不及待想要深入体验。如果您刚开始接触 GPT，欢迎查看我们的ChatGPT 入门课程。若您希望更深入了解，请参阅我们的在 Python 中通过 OpenAI API 使用 GPT-3.5 与 GPT-4 的教程，其中有大量内容可供探索。
在近期的 OpenAI DevDay上，OpenAI 发布了备受期待的消息：推出 GPT-4 Turbo，这是一项对其开创性 AI 模型的升级。本文将全面介绍什么是 GPT-4 Turbo、其关键功能，以及它如何惠及开发者和用户。
在其他文章中，您还可以进一步了解GPTs 与 ChatGPT 商店以及同样在 Dev Day 上发布的Assistants API。
什么是 GPT-4 Turbo？
GPT-4 Turbo 是对现有GPT-4 大型语言模型的更新。它带来了多项改进，包括显著扩大的上下文窗口以及对更近期知识的访问。OpenAI 近期已通过加入自定义指令、ChatGPT 插件、DALL-E 3 和高级数据分析等，不断提升 ChatGPT 中 GPT-4 的能力。此次更新又带来了一系列令人兴奋的新功能。
什么是具备视觉能力的 GPT-4 Turbo？
具备视觉能力的 GPT-4 Turbo 是 GPT-4 Turbo 的一个变体，加入了光学字符识别（OCR）功能。也就是说，您可以向它提供一张图片，它会返回图片中包含的任何文本。例如，您可以输入一张菜单的照片，它会返回照片中写明的菜品。同样，您也可以提供一张发票的照片，并自动提取供应商名称和项目明细。
“具备视觉能力”的功能将在 ChatGPT 中默认提供，开发者则可在 OpenAI API 中选择“gpt-4-vision”模型来使用。
GPT-4 Turbo 关键功能
与以往模型相比，GPT-4 Turbo 在多方面有所提升，增强了其能力。以下是让它脱颖而出的几个关键点：
更近的知识截止时间
Sam Altman 承诺确保 ChatGPT 保持最新
现有的 GPT-3.5 和 GPT-4 版本的知识截止时间为 2021 年 9 月。这意味着除非接入外部数据源，否则它们无法回答此后发生的现实世界事件相关问题。
GPT-4 将知识截止时间延长了 19 个月至 2023 年 4 月。这意味着 GPT-4 Turbo 可访问截至该日期的信息与事件，从而成为更为可靠、信息量更足的参考来源。此外，OpenAI 首席执行官 Sam Altman 承诺，“[OpenAI] 将努力不再让 [GPT] 如此过时”。
128K 上下文窗口
大型语言模型（LLM）的上下文窗口衡量其对对话记忆的持续长度。如果一个模型的上下文窗口为 4,000 token（约 3,000 个词），那么对话中超过 4,000 token 之前的内容将被忽略，回复可能会变得不够准确，甚至与先前的回答相矛盾。这在处理长文档或需要长时间对话的聊天机器人中是个问题。
GPT-4 的最大上下文长度为 32k（32,000）token。GPT-4 Turbo 将其提升至 128k token（约合每页 400 词时的 240 页）。这超过了Anthropic 的 Claude 2 模型的 100k 最大上下文，并与Nous Research 的 YARN-MISTRAL-7b-128k 模型看齐。
更长的上下文窗口是否能在全窗口范围内带来令人满意的回答质量仍有待观察。斯坦福大学的最新研究表明，现有长上下文模型在检索文档开头或结尾附近的信息时，才能提供更准确的回答。
同样值得注意的是，128k 似乎只是通往“无限上下文”愿景的垫脚石。微软与西安交通大学的早期研究正致力于将 LLM 的上下文规模扩展到 10 亿 token。
GPT 降价
面对 LLM 市场日益激烈的竞争，OpenAI 下调了 GPT-4 Turbo 的价格，使其更利于开发者控制预算。在使用 OpenAI API 时，GPT-4 Turbo 的输入 token 价格从每 1000 个 token 0.03 美元降至 0.01 美元（为原价的三分之一）。输出 token 价格从每 1000 个 token 0.06 美元降至 0.03 美元（为原价的一半）。
GPT-3.5 Turbo 模型也延续了同样的趋势，输入 token 便宜 3 倍（每 1000 个 token 0.001 美元），输出 token 便宜 2 倍（每 1000 个 token 0.002 美元）。
此外，微调版 GPT-3.5 Turbo 4K 模型的输入 token 价格更是下降 4 倍，从每 1000 个 token 0.012 美元降至 0.003 美元；输出 token 价格下降 2.7 倍，从每 1000 个 token 0.016 美元降至 0.006 美元。训练价格保持不变，为每 1000 个 token 0.008 美元。
这些价格调整旨在让先进的 AI 模型对开发者而言更具成本效益。
GPT 走向多模态：图像提示与文本转语音
“具备视觉能力的 GPT-4 Turbo”已宣布即将上线。届时，您将能够在聊天框中直接输入图像作为提示与 GPT-4 Turbo 交互。该工具随后可生成图像的说明文字，或描述图像所展示的内容。它还将支持文本转语音请求。
函数调用更新
函数调用是供将生成式 AI 集成到应用中的开发者使用的功能。开发者可以向 GPT-4 Turbo 描述其应用或外部 API 的函数。借助在单条消息中调用多个函数的能力，该功能简化了与模型的交互。例如，用户可以发送一条消息请求执行多个操作，无需与模型进行多次往返。
如何访问 GPT-4 Turbo
“所有付费开发者”均可访问 GPT-4 Turbo，也就是说，如果您拥有 API 访问权限，您只需在 OpenAI API 中将模型名称设为 “gpt-4-1106-preview” 即可。同样地，对于具备视觉能力的 GPT-4 Turbo，您可以将模型名称设为 “gpt-4-vision-preview”。
请注意，这些预览模型尚未被视为适用于生产环境。然而，作为公告的一部分，Altman 也承诺将在未来几周内提供可用于生产的版本。
对于非开发者，GPT-4 Turbo 很可能会在未来几周内向 ChatGPT Plus 和 ChatGPT Enterprise 用户开放。
速率限制
通过 OpenAI API 访问 GPT 模型存在速率限制。也就是说，您每月只能向 API 发出有限次数的请求。OpenAI 现已发布更清晰的指南来说明速率限制的具体规则，以免您的应用被意外中断。
此外，GPT-4 的速率限制已翻倍。
由于 GPT-4 Turbo 目前处于预览阶段，其速率限制为每分钟 20 次请求、每天 100 次请求。OpenAI 表示，当前阶段不会提高该模型的速率限制。不过，一旦公开版本可用，限制很可能会放宽。
结语
GPT-4 Turbo 的发布让我们得以一窥生成式 AI 的未来，我们也迫不及待想要深入体验。如果您刚开始接触 GPT，欢迎查看我们的ChatGPT 入门课程。若您希望更深入了解，请参阅我们的在 Python 中通过 OpenAI API 使用 GPT-3.5 与 GPT-4 的教程，其中有大量内容可供探索。