跳至主要内容

OpenAI 的 Operator:示例、用例、竞品与更多

了解 OpenAI Operator,这是一款采用全新“计算机使用代理(CUA)”模型的 AI 代理,能够自主浏览网站并执行任务。
Alex Olteanu
Josef Waples
Alex Olteanu, Josef Waples

创建您的免费账户

实践并学习路径你的进步。

使用 Google 继续继续即表示您接受我们的 使用条款,我们的 隐私政策 ,并且您的数据存储在美国。

OpenAI 近日发布了 Operator,一款可自行处理基于网页任务的AI 代理。它能够处理订位、网上购物等任务,简化日常事务中的数字化交互。

不过,我们认为它的潜力不止于便利——它还能让缺乏电脑技能的人轻松完成表单填写、浏览复杂网站等任务,从而赋能更多用户。

此外,若进一步集成语音指令,它还可为包括视障人士在内的残障群体提供更易用的解决方案。

Operator 进入了一个竞争激烈的领域,其中包括 Anthropic 的计算机使用能力以及 Google 的 Project Mariner。不同之处在于,Anthropic 的工具目前需要编程知识,而 Operator 允许用户用自然语言给出指令,因此更加易用。

在本文中,我们将介绍 Operator 是什么,探讨其核心技术(CUA)、概述其用例与局限,并讨论它在更广泛的 AI 代理生态中的定位。我们还制作了一段一分钟视频,便于快速了解:

什么是 Operator?

Operator 是 OpenAI 的首款 AI 代理,旨在自主执行网页上的任务。AI 代理是一种系统,能够接收指令、进行推理,并在无需持续人工监督的情况下执行操作。

不同于依赖预定义 API 或僵化流程的传统自动化工具,Operator 直接与网站交互,模拟人类的点击、输入与滚动等操作。其主要目标是简化那些原本需要手动操作或技术专长的数字化任务。

这使它既适用于管理预订、填写表单等日常活动,也胜任更复杂的多步骤流程。以下是使用 Operator 的一个示例:

来源:OpenAI

Operator 使用虚拟浏览器来导航网站。该虚拟环境使其能够像人类用户一样与图形用户界面(GUI)交互。无需网站提供专门的 API,Operator 会解读网页的视觉布局,点击按钮、在输入框中键入,并在内容中滚动浏览。

Operator 依赖自然语言指令来理解用户需求。任务设定后,它会处理指令、将其拆解为可执行步骤,并在执行过程中向用户反馈。对于提交表单或完成支付等关键操作,Operator 还会请求澄清或确认,以确保用户对结果保持更高的可控性。

什么是计算机使用代理(CUA)?

计算机使用代理(CUA)是驱动 Operator 的核心技术。它结合了 GPT-4o 的视觉能力与通过强化学习实现的高级推理,并经过训练以与图形用户界面交互——也就是人们在屏幕上看到的按钮、菜单和文本输入框。

感知

CUA 首先处理来自屏幕截图的原始像素数据。它利用这些视觉信息识别关键界面元素,如按钮、输入框和导航菜单。

来源:OpenAI

推理

在完成视觉数据分析后,CUA 应用链式思维进行行动规划。通过整合当前与过往截图,它评估观察结果、将任务拆解为更小步骤,并对挑战进行动态适应。例如,若在执行任务时出现弹窗(如我们上例中的广告),CUA 能调整方案、继续推进,方式与人类用户相似。

动作

CUA 通过虚拟鼠标与键盘输入执行点击、输入、滚动、提交表单等操作。这使其能够自主完成任务,无论是从下拉菜单中选择项目,还是在多步骤表单中逐步导航。

对于支付、账户登录等关键操作,CUA 会在继续之前征求用户确认,确保用户对敏感操作保持控制。

CUA 基准测试

CUA 在多项基准测试中达到了最新的 SOTA(业界最优)表现:

基准类型基准计算机使用(通用界面)网页浏览代理人类
  OpenAI CUA此前 SOTA此前 SOTA 
计算机使用OSWorld38.1%22.0% 72.4%
浏览器使用WebArena58.1%36.2%57.1%78.2%
WebVoyager87.0%56.0%87.0% 

 来源:OpenAI

下面来拆解这三项基准各自衡量的内容:

  • OSWorld(38.1%): 评估在 Ubuntu、Windows、macOS 等完整操作系统中的任务执行能力。尽管 CUA 优于以往模型,其成功率仍低于人类基准 72.4%。
  • WebArena(58.1%): 评估在模拟网站(含电商与社交平台)中的导航表现。虽然超越此前模型,但在处理复杂的多步骤交互方面仍有提升空间。
  • WebVoyager(87%): 测量在 Amazon、GitHub、Google 地图等真实网站上的有效性。CUA 在此表现强劲,相较 WebArena,这些任务通常更简单、更有结构。

下图展示了 OpenAI 的 CUA 与 Claude 3.5 Sonnet 在 OSWorld 基准上的对比。横轴为完成任务允许的最大步骤数,纵轴为成功率(百分比)。随着允许步骤的增加,CUA 呈现稳定提升,并优于此前最先进模型。

对比 OpenAI 的 CUA 与 Claude 3.5 Sonnet 在 OSWorld 基准上的表现的图表

来源:OpenAI

如何访问 Operator

Operator 目前在美国面向 ChatGPT 的 Pro 用户以研究预览形式提供。要使用它,您需要有效的 Pro 订阅。您可以访问 operator.chatgpt.com 开始使用 Operator。

目前,Operator 限定 Pro 用户使用,但 OpenAI 计划在未来几个月向 Plus 用户扩大开放。此分阶段发布策略有助于 OpenAI 收集反馈、改进系统,然后再面向更广泛用户群体。

虽然初期主要面向美国用户,OpenAI 表示,由于监管挑战,欧洲及其他地区的可用性将更晚。上述地区的用户需要等待后续更新,OpenAI 正在努力应对相关复杂性。

界面消息显示 Operator 在欧洲不可用

展望未来,OpenAI 还计划通过 API 开放 Operator 背后的底层技术 CUA。届时,开发者可基于该技术构建适用于自定义应用的 AI 代理。

Operator 的用例

Operator 的演示示例(如订位或网购)固然可行,但在我们看来并不特别实用。很多时候,与其花时间监看 AI 的执行,不如手动完成来得更快更省心。

然而,当您将视角从这些用例拓展到无障碍使用或机构支持时,Operator 的潜力就更为清晰。

Operator 的用例

无障碍使用

Operator 最有可能发力的领域之一是无障碍使用。对于计算机技能有限的人群,如老年人或科技新手,Operator 可作为引导,帮助他们在无需先验经验的情况下完成复杂在线任务。

设想若与语音指令结合——用户甚至无需输入提示,工具将更直观易用。

同样地,对于残障人士(如视障人群),Operator 可帮助他们与原本可能无障碍性不足的网站交互,若能配合语音反馈或读屏支持,效果尤佳。

机构支持

Operator 在政府与机构场景中也潜力十足。它可以协助公民填写复杂表格,如签证申请、报税或申请社会福利,从而减少对线下协助的依赖,并优化用户与机构双方的流程。

在教育领域,Operator 可简化在线申请系统、奖学金提交与检索任务,帮助学生或数字素养有限的人群更高效地完成这些流程。

小型企业与专业任务

在职场中,Operator 对小型企业尤为有用,可自动化库存管理、在线订单处理、客户反馈收集等重复的网页任务。对专业人士而言,它可代劳繁琐流程,如从多来源收集信息或填写表单,从而腾出时间投入更具战略性的工作。

医疗与非营利组织

医疗机构与非营利组织同样能从 Operator 中受益。诊所可用其帮助患者在线完成登记或获取资源,而无需大量工作人员投入。

在数字素养较低的地区,非营利组织可部署 Operator 帮助服务不足的人群使用关键的在线系统,确保技术门槛不再成为获取重要服务的障碍。

AI 代理的竞争格局

OpenAI 的 Operator 与 Anthropic 的计算机使用能力、Google 的 Project Mariner 一同进入 AI 代理领域。

Anthropic 的计算机使用

Anthropic 的计算机使用由其Claude 3.5 Sonnet 模型驱动,使 AI 可通过模拟点击、输入与导航来与桌面环境交互。目前,该功能需通过 API 配置并具备一定技术能力方能有效使用,因此对非技术用户的可达性有限。

相较之下,Operator 的自然语言界面无需编程知识,对更广泛的用户更友好。不过,Anthropic 几乎可以肯定会努力简化其工具,以更直接地对标 Operator 的易用设计。

Google 的 Project Mariner

Project Mariner 由 Google 的 DeepMind 开发,是一款实验性代理,旨在自主浏览并与网页交互。尽管仍处研究阶段,Mariner 已在小范围用户中测试,其与 Google 生态的整合意味着它或将在涉及 Gmail、Google 文档及其他 Google 服务的流程中表现突出。

结语

Operator 标志着 OpenAI 迈入竞争激烈的AI 代理领域的第一步,其以自然语言界面与通用的浏览器式设计提供了独特路径。尽管 Anthropic 的计算机使用与 Google 的 Project Mariner 各有所长,Operator 目前在可达性方面更具特色。

我们也好奇 DeepSeek、Meta 等其他参与者是否会加入竞争。2025 年或许真能不负所望,成为“代理型 AI”之年。

常见问题

OpenAI Operator 能否同时处理多个任务?

可以。Operator 旨在同时管理多个任务。您可以为每个任务开启单独的对话,Operator 会并行执行。例如,您可以让 Operator 在 Instacart 上订购食品杂货的同时,在 Booking.com 上进行预订。

OpenAI Operator 是 AI 代理吗?

可以。OpenAI Operator 是一款可为您自主执行任务的 AI 代理。它通过导航、点击与填写表单与网站交互,从而实现自动化。想进一步了解 AI 代理,请参阅我们的博文:理解 AI 代理:自主系统的未来。

Operator 的工作原理是什么?

在计算机使用代理(CUA)模型的驱动下,Operator 通过查看网页截图并执行鼠标、键盘操作与网页交互。必要时,它能自我纠错或请求用户协助。

目前谁可以使用 Operator?如何开始?

Operator 面向美国的 Pro 用户开放。如您拥有 Pro 订阅,可访问 operator.chatgpt.com 开始使用。尝试描述一个任务,Operator 将为您处理。

Operator 当前有哪些局限?

由于 Operator 仍处于研究预览阶段,它可能难以处理创建幻灯片、管理日历等复杂任务。

Operator 会推出移动端吗?

目前尚未确认 Operator 是否支持移动端,但其与网页界面交互的能力,随着技术发展,未来有望适配移动平台。

Operator 与 Siri 或 Google 助理等语音助手相比如何?

Operator 专注于基于网页的任务与直接网站交互,而传统语音助手通常依赖预定义的应用集成或 API。Operator 能够模拟点击与滚动等人类操作,使其在处理复杂在线任务方面更具通用性。

Operator 能处理使用 CAPTCHA 或高级安全功能的网站吗?

涉及 CAPTCHA 或敏感登录的任务目前仍需用户输入。Operator 不会自动绕过这些机制,但在此类门槛解决后,能够继续导航完成工作流程。

Alex Olteanu

作者

Alex Olteanu

我是一名编辑和撰稿人,专注于 AI 博客、教程与新闻,确保内容契合成熟的内容策略并遵循 SEO 最佳实践。我编写过关于 Python、统计学、概率和数据可视化的数据科学课程。我的长篇小说曾获奖,业余时间从事影视剧本创作和电影导演。

Josef Waples

作者

Josef Waples

我是数据科学编辑,曾为科学期刊发表的研究论文撰稿。我的兴趣领域包括线性代数、统计学、R 等相关主题。

主题