跳至内容
AI 代理
人工智能

Project Mariner:含五个实用示例的指南

通过真实案例了解 Google 的 Project Mariner,并分析其优缺点。
François Aubry's photo
François Aubry
已更新 · 8分钟 阅读

使用 AI 探索

ChatGPTClaudePerplexity

创建您的免费账户

实践并学习路径你的进步。

使用 Google 继续
继续操作即表示您接受我们的《使用条款》和《隐私政策》,并同意您的数据存储在美国。

Project Mariner 是 Google DeepMind 的一款实验性 AI 浏览器代理。Mariner 利用 Gemini 强大的多模态能力来查看您的屏幕、理解页面内容、规划任务并自主执行——代表您进行点击、输入、滚动以及填写表单。

在本文中,我将分享我尝试以下五个真实任务的体验:

  • 预订电影票
  • 查找航班
  • 预约水管工修理厨房水槽
  • 浏览网页并填写电子表格
  • 解决一道 LeetCode 题目

我们通过每周五发布的免费通讯 The Median,为读者带来最新 AI 动态,精炼解读一周要闻。订阅即可每周用几分钟保持敏锐:

Project Mariner 的工作原理

Project Mariner 采用基于提示的界面,让我们描述希望其执行的操作。随后它会启动一个浏览器,并根据输入尝试完成任务。

Project Mariner's UI

目前,它仅限于与浏览器相关的任务——无法访问或控制您的电脑。在幕后,它在浏览器中运行,并依赖 Gemini 的多模态能力来完成工作。它可以“看见”和理解窗口内容,执行点击,并输入文本。

我通过多个任务对 Project Mariner 进行了评估。对每个任务,我都录制了过程并展示结果。由于 Mariner 完成任务的速度较慢,我对视频进行了编辑以加速较慢的片段。

如何获取 Project Mariner?

Project Mariner 目前仅向订阅每月 249.99 美元 Google AI Ultra 方案的美国用户开放。

该方案还提供许多其他工具(如 Veo 3)、高级 Gemini 模型与功能,以及数据存储。但目前这是唯一能访问 Project Mariner 的方案,使其成为一款非常昂贵的工具。

下面让我们看几个示例。

示例 1:预订电影票

我首先尝试了预订电影票。我使用了以下提示:

"Find a horror movie playing in the cinema this Friday night in New York and help me book a ticket."

以下是它解决该任务的流程分解:

  1. 进行 Google 搜索,查找周五上映的恐怖片
  2. 在多个选项中,它选择了第一个
  3. 随后定位到预订按钮,并尝试了第一个选项 Alamo Drafthouse Cinema。
  4. 这一步未成功,于是改为使用 Fandango。
  5. 最后,它要求我介入选择座位。
  6. 然后在进入支付页面前,也让我进行确认。
  7. 此时它将任务标记为完成,并让我手动继续。

总体而言,我认为这是一次成功。既然我没有选择座位,我觉得让我要去选座并非必要。它其实也可以在不征求我同意的情况下自行进入支付页面。之后我认为不自动化是好事,因为我不希望在没有手动确认的情况下花钱。

示例 2:寻找最佳航班

我需要从葡萄牙前往台湾,并途经比利时,于是想看看 Mariner 在为我查找最佳航班方面表现如何。我用了这样的提示(我没有提供日期信息,看看会发生什么):

"I want to travel from Portugal to Taiwan, passing by Belgium for three days. Help me find the best flights."

这一项表现相当令人失望。它唯一做的事就是打开 Google Flights 并帮我填写了表单。而且,Mariner 在浏览网站时识别点击位置的速度很慢,这个过程耗时远超我自己操作。

我也尝试让它预订机票,但它陷入了循环,最后我放弃了。

示例 3:寻找并预约水管工

接下来,我想看看它是否能帮我找水管工。这个例子里,我使用了纽约的一个随机地址,看看它能否找到附近的人并完成预约。

"I live at 33 Wilson Ave. Hamburg, NY 14075. Find and book a plumber for tomorrow to fix a leak in my kitchen sink."

这个任务完成得相当不错。它能够在纽约找到一家管道公司并预约到时间。当需要我提供姓名和邮箱等信息时,它会暂停并询问,然后自动填写表单。

示例 4:在 Google 表格中填写数据

很多人都会做的一项常见但枯燥的任务,是从多个来源收集数据并放入电子表格。为测试 Mariner 解决此类任务的能力,我创建了一个包含 AI 公司的简单表格。

Example spreedsheet

随后我向它共享了该标签页,让它在网页上搜索这些公司的联系邮箱,并填写到 Email 列中。

如您所见,除了一处之外一切顺利。在查找 Google DeepMind 的邮箱时它陷入了循环,我最终让它停止并要求重试——这一次成功了。

示例 5:解决一道 LeetCode 题目

最后一个例子我想做得更复杂一些,因此我提出了以下请求:

"Go to LeetCode and solve a medium difficulty problem of your choice using Python 3"

它首先尝试使用筛选器查找中等难度的题目,但不知为何没有奏效。随后它放弃了筛选,在无需我干预的情况下找到了题目。

接着,它把代码写在聊天里,而不是使用 LeetCode 的界面。我让它将答案直接输入到界面中,但展示出来的格式非常奇怪,它也无法修复。

随后我又让它在聊天中给出解法,我再手动粘贴。我也想验证答案是否正确。然而,由于 Cloudflare,我无法登录 LeetCode。在测试 Mariner 时,这个问题经常出现。

后来我用自己的 LeetCode 账号提交了该解法,确实正确。在整个流程中,最快的步骤是解决问题。一打开题目,聊天里就给出了答案。这一点让我印象深刻。

在 Project Mariner 上教授一个任务

Project Mariner 提供了一个 Chrome 扩展,可用于教它如何执行任务。其工作方式是:当您执行并向它讲解任务时,它会录制您的屏幕(是的,执行任务时您需要出声讲解)。

它会从这些数据中提取出一系列操作。我尝试教它如何在沃尔玛购物,得到的结果如下:

Task training output

我不确定它是否还会收集其他数据,但为了得到这份清单而去执行并口述任务,感觉投入与产出不成比例——这份清单我几秒钟就能打出来。

我尝试执行该任务,但没有成功。看起来缺少步骤,比如询问购物清单上的物品是什么。您可以在创建任务前手动编辑,但我没有找到后续再编辑的方法。

目前我觉得这一功能仍不够成熟,尚未准备好投入使用。此外,我也难以找到合适的用例——如果我直接让它把电子表格购物清单中的商品加入沃尔玛购物车,效果反而更好。

Project Mariner 的优缺点

优点

擅长网页浏览

所有涉及浏览网页、在网站上查找信息的任务似乎都运作良好。电影票和水管工的案例就是很好的例子。

能处理多标签页

Mariner 能够解决需要使用多个标签页并执行连续 Google 搜索的任务。

视觉理解能力

尽管速度较慢,但它对网站内容及其元素的理解能力不错。它可以与元素交互、填写表单并点击按钮以控制网站。

缺点

在我看来,当前版本的 Project Mariner 存在以下主要问题。

网页自动化的障碍

浏览网页是个复杂过程,充满了对 Project Mariner 这类自动化工具的各种挑战。一个重要障碍是网站使用 Cloudflare 和 reCAPTCHA 等工具来抵御机器人、保护免受恶意活动影响。

在我的实验中,我经常被拦截。即便尝试他们建议的示例之一,网站也把我挡在外面:

这种抵制使 Mariner 难以执行任务,因为它很难绕过这些用于人为验证的屏障。此外,受法规影响,网站常常会出现 Cookie 横幅和弹窗,迫使用户不断对数据偏好做出选择。

Mariner 不会自动处理 Cookie 选择,可能是因为用户应根据自己的隐私偏好做决定,也可能有相关法规不允许自动化这些决策。结果就是,大量的决策点和必要交互加剧了此类工具高效运作的复杂性与阻力。

理想情况下,我们希望通过自动化来减少手动操作,但目前这些工具仍需要大量监管,这表明我们距离实现真正无缝、实用的自动化体验还很遥远。

处理界面的速度慢

Mariner 目前面临的另一个问题是速度。处理屏幕内容需要很长时间。即便是填写最简单的表单也可能耗时数分钟。 

推理不足

在我的实验中,每当需要做出选择——比如在哪个平台买电影票、选择哪家管道公司——该代理似乎都会按出现顺序逐一评估选项。

这不是一种好的策略,也不是人类通常的决策方式。我感觉该代理在决策时缺少推理与调研步骤。

与浏览器的集成

我在与它共享标签页方面遇到了困难。它经常把我登出,并丢失我共享标签页中显示的信息。变通办法是在它使用的浏览器里手动登录。这很麻烦,让我不太愿意使用它。

我认为如果它是一个与当前打开标签页并行工作的 Chrome 扩展可能会更好。这样您可以随时让它接管标签页并直接执行操作。

我猜这种方式可能存在安全方面的顾虑,但我并不认为用一个与我们浏览器相互独立的浏览器会很有用,因为大多数任务都需要漫长的前期设置,比如登录,才能完成。

循环

它经常会陷入循环,不停地问我“这样可以吗”,却不再继续前进。下面是一个例子:

Example of Mariner looping

隐私与安全顾虑

另一个令人担忧的方面是隐私与安全。这是官方的隐私声明。

简而言之,Google 的 Project Mariner 会收集您的对话、浏览数据和功能使用情况,以改进其服务与 AI,遵循 Google 的隐私政策。部分数据可能由真人审查。因此,请避免分享机密信息。

结论

Project Mariner 仍是一款非常实验性的产品——速度慢、适用范围有限,且容易碰到 CAPTCHA 或登录等路障。以其当前状态,我不认为仅为获得访问权限而订阅是值得的。

我最欣赏 Google 的是他们愿意尽早发布尚不完善的原型。这种透明与迭代方式能让他们快速学习,并在长期内打造更好的产品。

相较之下,苹果倾向于只发布完美打磨的产品,在快速演进的 AI 竞赛中似乎错失良机。AI 依赖数据和真实使用场景,因此即便这些早期工具尚未完成,也应尽早向用户开放,以便快速迭代并持续改进。


François Aubry's photo
Author
François Aubry
LinkedIn
全栈工程师,CheapGPT 创始人。我一直热爱教学。从学生时代起,我就积极寻找机会为同学提供辅导与帮助。这份热情促使我攻读博士学位,并在此期间担任助教,以支持我的学术追求。那些年里,我在传统课堂环境中收获了极大的成就感,既建立联系也促进学习。随着在线学习平台的兴起,我也看到了数字教育的变革潜力。事实上,我曾参与我们大学一款此类平台的建设。我致力于将传统教学理念与创新的数字方法相融合。我的热情在于打造既有吸引力、信息量充足,又能让当代学习者轻松获取的课程。
主题
AI 代理
人工智能

用这些课程学习 AI!

学习路径

AI 基础知识

10 小时
探索 AI 基础,学习如何在工作中有效利用 AI,并深入了解 ChatGPT 等模型,以驾驭快速变化的 AI 领域。
查看详情开始课程

创建您的免费账户

实践并学习路径你的进步。

使用 Google 继续
继续操作即表示您接受我们的《使用条款》和《隐私政策》,并同意您的数据存储在美国。
查看更多