跳至主要内容

什么是 GPT-4,它为何重要?

OpenAI 宣布发布其最新的大型语言模型 GPT-4。该模型是一种大型多模态模型,既可接受图像和文本输入,也能生成文本输出。
Abid Ali Awan
Abid Ali Awan

创建您的免费账户

实践并学习路径你的进步。

使用 Google 继续继续即表示您接受我们的 使用条款,我们的 隐私政策 ,并且您的数据存储在美国。

GPT-4 的发布标志着人工智能领域,尤其是自然语言处理方面的一个重要里程碑。本文将对其先进能力进行深入分析,并回顾生成式预训练变换模型(GPT)的历史与发展,同时探讨 GPT-4 解锁的新功能。

欢迎阅读我们关于 GPT-4o(GPT 的最新迭代)的文章,了解更多信息。此外,在我们的 AI Fundamentals Track 中,您也可以进一步了解像 GPT-4 这样的大型语言模型。

什么是生成式预训练变换模型?

生成式预训练变换模型(GPT)是一类用于生成类人文本的深度学习模型。常见用例如下:

  • 回答问题
  • 文本摘要
  • 将文本翻译成其他语言
  • 生成代码
  • 生成博客文章、故事、对话及其他类型的内容。

GPT 模型的应用场景不胜枚举,您甚至可以在特定数据上进行微调,以获得更好的结果。借助变换器,您将节省计算、时间和其他资源成本。

在 GPT 之前

当前自然语言领域的 AI 革命得益于变换器模型的发明,始于 2017 年谷歌的 BERT。在此之前,文本生成主要依赖其他深度学习模型,如递归神经网络(RNN)和长短期记忆神经网络(LSTM)。这些模型在输出单词或短语方面表现尚可,但无法生成逼真的长文本。

BERT 的变换器方法是一次重大突破,因为它不是一种监督学习技术,即无需昂贵的标注数据集进行训练。BERT 被谷歌用于理解自然语言搜索,但它无法根据提示生成文本。

GPT-1

image6.png

变换器架构 | GPT-1 论文

2018 年,OpenAI 发表论文(Improving Language Understanding by Generative Pre-Training),介绍了其 GPT-1 语言模型在自然语言理解中的应用。该模型是概念验证,未公开发布。

GPT-2

image7.png

各类任务上的模型表现 | GPT-2 论文

次年,OpenAI 又发表论文(Language Models are Unsupervised Multitask Learners),介绍其最新模型 GPT-2。这一次,模型向机器学习社区开放,并在文本生成任务中得到了一定应用。GPT-2 经常可以连贯生成几句话,但此后便会崩溃。这在 2019 年已属最前沿。

GPT-3 

image1.png

三个开放域问答任务的结果 | GPT-3 论文

2020 年,OpenAI 发表论文(Language Models are Few-Shot Learners)介绍 GPT-3 模型。该模型的参数量是 GPT-2 的 100 倍,并在更大的文本数据集上训练,因而表现更佳。随后通过多次迭代持续改进,被称为 GPT-3.5 系列,其中包括以对话为核心的 ChatGPT。

这一版本凭借生成大段类人文本的能力席卷全球。ChatGPT 成为增长最快的网页应用,仅用两个月便达成 1 亿用户。

您可以在另一篇文章中进一步了解 GPT-3、其用途及使用方法。

什么是 GPT-4?

GPT-4 的开发重点在于提升模型的“对齐性”——既能遵循用户意图,又更真实可靠,并减少冒犯性或危险性的输出。

如需了解最新模型,请参阅我们关于 GPT-4 Turbo 和 GPT-4o 的指南与文章,获取更多细节。

GPT-4 的性能改进

正如您所预期的,GPT-4 在答案的事实准确性方面较 GPT-3.5 模型有所提升。模型产生“幻觉”(在事实或推理上出错)的次数更少,在 OpenAI 的内部事实性能基准上,GPT-4 的得分比 GPT-3.5 高出 40%。

它还提升了“可引导性”,即根据用户请求改变其行为的能力。例如,您可以要求它以不同的风格、语气或声音写作。试着用 “You are a garrulous data expert” 或 “You are a terse data expert” 开头提示词,让它向您解释一个数据科学概念。关于为 GPT 模型设计优质提示的更多内容,您可在此阅读。

另一个改进体现在对安全边界的遵循。如果您要求它做非法或不当之事,它更擅长拒绝该请求。

在 GPT-4 中使用视觉输入

一项重大变化是,GPT-4 能够同时使用图像(仅限研究预览;尚未向公众开放)和文本作为输入。用户可以通过交错输入文本与图像来指定任意视觉或语言任务。

展示的示例表明,GPT-4 能够正确解读复杂的图像,如图表、表情包以及学术论文的截图。

截至 2024 年 6 月,GPT-4 的图像输入功能已向更广泛的用户提供。例如,我请 GPT-4o 分析我其中一株植物的照片。虽然我仍无法使用 GPT-4o 中集成的视觉功能,但我拍了张照片请 ChatGPT 识别是什么植物:

GPT-4o image analysis

这次的表现还不错,但并不完全准确。虽然它确实是盆景树,但其实是日本冬青(Ilex crenata),而非福建茶(Carmona retusa)。不过二者外形确实相似,弄错也情有可原,我也很感谢关于如何养护这株植物的额外建议。

下面我们还能看到一个来自图表的视觉推理示例:

image4.png

image3.png

GPT-4 的性能基准

OpenAI 通过模拟面向人类的考试(如律师的统一律师资格考试 UBE 和 LSAT,以及大学入学考试 SAT)对 GPT-4 进行了评估。结果显示,GPT-4 在多项专业与学术基准上达到了与人类相当的表现。

image5.png

OpenAI 还在传统的、面向机器学习模型的基准上评估了 GPT-4,其表现优于现有的大型语言模型以及大多数包含针对性设计或额外训练协议的最先进模型。这些基准包括 57 个科目的多项选择题、围绕日常事件的常识推理、小学科学多选题等。

OpenAI 通过使用 Azure Translate 将 MMLU 基准(覆盖 57 个学科、共 14,000 道多项选择题)翻译成多种语言,测试了 GPT-4 的多语言能力。在所测的 26 种语言中,有 24 种语言上,GPT-4 的表现都优于 GPT-3.5 和其他大型语言模型在英语上的表现。

近期测试显示,GPT-4 在多语言能力上依然领先,尤其是在代表性不足的语言中更为突出,在与最新模型的对比中有 30 种语言中的 28 种表现最佳。

总体而言,GPT-4 更扎实的结果表明,OpenAI 在构建具备更先进能力的 AI 模型方面取得了显著进展。

如何获取 GPT-4 及其变体的使用权限

想要使用 GPT-4、GPT-4 Turbo、GPT-4o 和 GPT-4o mini?方法在这里:

通过 ChatGPT 使用

  1. 免费档:
    • 默认访问 GPT-4o,但有消息数量上限。
    • 数据分析与视觉等高级工具同样可用。
  2. ChatGPT Plus 与 Team:
    • 订阅 Plus 或加入 Team,可获得更高的使用上限。
    • 在 GPT-4o 上每 3 小时可发送最多 80 条消息,在 GPT-4 上最多 40 条。
  3. ChatGPT Enterprise:
    • 面向大型组织,提供对 GPT-4o 和 GPT-4 的不限量访问。
    • 包含企业级安全与高级工具等额外功能。

通过 OpenAI API 使用

  1. API 访问:
    • 注册 OpenAI API 账户。
    • 支付 5 美元以访问 GPT-4 和 GPT-4 Turbo。
    • GPT-4o 和 GPT-4o mini 对所有 API 用户开放。
  2. 定价与限制:
    • GPT-4o 比 GPT-4 Turbo 更便宜、更快速。
    • 详情请查看 OpenAI 的 API 定价页面。
  3. 数据处理:
    • 您的数据是安全的,除非您选择参与,否则不会用于训练。

模型能力:所有模型均支持文本、图像和音频的输入/输出。

OpenAI 已将 OpenAI Evals 开源,这是一个用于自动评估 AI 模型性能的框架,便于任何人报告模型的不足并推动进一步改进。

更进一步

同时,您可以学习 AI,并通过以下资源进一步阅读 GPT-4 与 ChatGPT 等主题:

FAQs

什么是 GPT-4?

GPT-4 是生成式预训练变换模型的最新版本,这是一类用于自然语言处理与文本生成的深度学习模型。它标志着人工智能领域,尤其是自然语言处理方面的重要里程碑。

GPT 模型具备哪些能力?

GPT 模型可以生成类人文本、回答问题、进行文本摘要、将文本翻译成其他语言、生成代码,并生成诸如博客文章、故事和对话等多种类型的内容。

GPT 模型的历史是什么?

GPT 模型的诞生得益于变换器模型的发明,始于 2017 年谷歌的 BERT。在此之前,文本生成主要由其他深度学习模型完成,如递归神经网络(RNN)和长短期记忆网络(LSTM)。

GPT-4 相较之前的模型有哪些改进?

GPT-4 提升了模型的“对齐性”——既能遵循用户意图,又更真实可靠,并减少冒犯性或危险性的输出。它还在事实准确性与“可引导性”(根据用户请求调整行为的能力)方面有所改进。此外,GPT-4 不仅能处理文本,还能接收图像输入。

GPT-4 在基准测试中的表现如何?

GPT-4 在多项专业与学术基准(包括律师的统一律师资格考试 UBE、LSAT,以及大学入学考试 SAT)上达到了人类水平。它在传统的机器学习基准上也优于现有大型语言模型和大多数最先进模型。

Abid Ali Awan

作者

Abid Ali Awan

作为一名持证的数据科学家,我热衷于利用前沿技术打造创新的机器学习应用。凭借在语音识别、数据分析与报告、MLOps、对话式人工智能以及自然语言处理方面的扎实背景,我不断打磨构建智能系统的能力,力求带来切实影响。除技术专长外,我也擅长沟通,能够将复杂概念提炼为清晰、简明的表述。因此,我成为数据科学领域备受关注的博主,与不断壮大的数据专业人士社区分享洞见与实践经验。目前,我专注于内容创作与编辑,借助大语言模型打造有力且吸引人的内容,帮助企业与个人更好地发挥数据价值。

主题