通用人工智能（AGI）：预测、风险与挑战

什么是通用人工智能？

通常来说，AGI指能够完成人类所能进行的任何智力任务的高级AI系统。不同于当前的窄人工智能（为图像识别或语言处理等特定任务而设计），AGI将在多个领域具备类人推理、学习与适应能力。这意味着一个AGI系统可以，例如：

• 在不同任务中像人类一样理解与推理。
• 从经验中学习，而非依赖海量数据集与反复训练。
• 在未显式编程的情况下解决复杂的跨领域问题。

AGI的定义因视角与语境不同而多样。尽管所有定义都同意它应具有人类式的认知能力，并在一定程度上相互交融，但侧重点有所不同。以下是几个关键侧重：

• 功能型AGI：以能力为导向
• 认知型AGI：类人智能
• 自学习型AGI：自主改进
• 哲学型AGI：自我意识

功能型AGI

功能型定义关注AGI在不同领域执行任何智力任务的能力。它不需要模仿人类的思维过程，但应能泛化知识、适应新问题，并在无需大量再训练的情况下完成任务。

重点在于构建一种能够在学科间切换的AI系统，例如在不为每项任务配备独立模型的情况下，既能诊断疾病、又能编程、还可作曲。

认知型AGI

认知型AGI则应能复制类人的推理能力，包括常识、抽象思维与情境理解。这类AGI不仅能完成任务，还能像人类一样理解任务，运用逻辑、创造力，甚至情绪智能。

基于此定义构建的AI能够进行有意义的对话、解读幽默，并以人脑的自然方式解决问题。

自学习型AGI

自学习型AGI指无需人类干预而能持续自我改进的系统。它不会依赖预定义的数据集，而是通过试验发现新知识，并优化自身算法，使其随时间推移更高效。这类AGI可独立开展科学研究、提出新理论，甚至修改自身架构以增强能力。

哲学型AGI

最后，哲学层面的定义超越了智能，聚焦于AI是否具备自我意识、情感，甚至可能具备意识。该观点认为，真正的AGI应能够反思自身存在、形成个人目标，并体验主观想法或感受。

如果实现，这样的AI或许会发展出自身的道德准则，表现出好奇心，甚至像人类一样思考存在性问题。

AGI谱系：AGI 与（窄）AI

在了解了多种定义之后，让我们看看AI系统在迈向真正AGI的过程中可能达到的不同智能水平。AGI谱系有助于基于能力、适应性与自主性对AI进行分类，一般包括以下阶段：

• ANI：窄人工智能
• AGI：通用人工智能
• ASI：超人工智能

窄人工智能

窄人工智能指为执行特定任务而设计的AI，效率很高，但缺乏超出其训练数据的泛化能力。这些系统在某一领域表现突出，如语言处理、图像识别或蛋白质折叠，但无法在不再训练的情况下适应全新的任务。

这一阶段也包括当前的AI模型，如GPT-4o或Grok 4、自动驾驶软件与推荐算法，它们功能强大，但受限于预定义的能力边界。

窄人工智能与AGI的根本区别在于其无法超越训练范围进行泛化。AI系统变得更为多功能与适应性的过渡阶段，常被称为广义AI或前AGI。此类系统可在不完全再训练的情况下处理不同类型任务，但仍缺乏真正的自主性与推理能力，因为它遵循预设的学习结构，而非自我驱动的问题求解。

AGI

AGI是一种假设中的AI，能够在任何智力任务上像人类一样思考、学习与推理。不同于窄人工智能，它能够泛化知识、独立自我改进，并自主追求自身目标。

一旦实现，AGI可以执行人类能够完成的任何认知功能，进而变革各行各业，并对伦理与哲学边界提出挑战。

超人工智能

最后，超人工智能（ASI）指在所有认知与问题求解能力上都超越人类的AI水平。这是我们在科幻电影中常见的那类AI，它与AGI不同，能够快速自我提升、进行超出人类理解范围的创新，并可能重塑整个产业与社会。尽管目前仅是未来愿景，但其伴随的生存性风险已值得讨论。

我们的现状

截至2025年，我们仍牢牢处于窄人工智能阶段。随着OpenAI的 o3或DeepSeek 的 R1等推理模型，以及Manus AI或ChatGPT Agent等智能体框架的进步，我们正从窄人工智能向广义AI迈进。然而，AGI仍是一项尚未实现的目标，亟需在自学习、泛化与推理方面取得技术性突破。

实现AGI的难点与障碍

既然我们知道了现状与AGI的样貌，如何从A走到B？截至目前，仍存在多重经济、技术与伦理挑战。

经济挑战

推动AI迈向AGI的兴趣可谓不缺。全球参与者正为技术领先、市场主导与地缘政治影响力激烈竞争。尤其是中国与美国之间的竞逐，常被比作上世纪60年代美苏的登月竞赛。

然而，实现类人推理所需的算力极其庞大。数据中心的扩容与模型复杂度的提升，预计将带来巨大的额外能源需求。承载AI模型的数据中心目前已占据全球用电量的约1%至1.5%——这一数字几乎肯定会随时间与研发进展而上升。

尽管近期已有巨额投资涌入AI研究，但计算成本与可扩展性仍是开发AGI的严峻难题。解决之道或在于效率提升与替代能源的开发。

技术挑战

在技术层面，挑战包括识别与表征隐性知识和直觉，以及实现知识的长期保留。

隐性知识（如因果关系或社会规范）往往不言自明，却对理解语境至关重要。人类能从经验、文化规范与不完整信息中推断意义，而这些假设对AI系统来说是隐藏的。因此，AI在编码与提取未被明示的知识方面存在困难，而人类会自然地将其作为常识融入决策。

同样，直觉在人类决策中扮演关键角色，但在AI系统中却难以形式化。直觉常依赖潜意识的模式识别、抽象推理与经验驱动的洞见，这些都难以简化为显式规则或数据集。深度学习模型虽可在特定任务上近似直觉判断，但缺乏人类那种反思性的、可适应的学习过程，无法随时间推移不断打磨直觉。

这又引出另一问题：AI模型缺乏类人的长期知识保留能力。与人类不同，后者能在既有经验之上精进理解，而AI模型若不定期再训练就难以保留与更新知识。当前AI系统常遭遇灾难性遗忘，即新学信息会覆盖或削弱先前知识，因而难以维持稳定、演进的知识库。

伦理挑战

确保AGI与人类价值与目标保持一致，是其发展过程中最紧迫的挑战之一，这源于多重交织的技术、伦理与社会因素。技术局限、人类价值的复杂性与高风险性相互作用，使该问题尤为棘手。

首先，人类价值观本质上复杂且含混。关于何为正确、适当或邪恶，在不同文化、社会与语境之间差异显著。这种多面性与其中的矛盾或权衡（例如在自由与安全之间取得平衡）会导致道德上的不确定，从而使价值观很难被转译为清晰、可操作的AGI目标。

即便我们假设存在一个界定清晰的道德框架可供AGI遵循，外部与内部对齐方面的技术障碍依然存在。

将人类价值转化为AGI可优化的精确数学目标函数十分困难。该函数必须能承受优化压力，亦即在AGI激进优化时不应激励出乎意料的行为——这一情形哲学家 Nick Bostrom 早在2003年就已描述。此外，AGI必须能基于新信息调整行为，同时不偏离其既定目标。

AGI系统极其复杂，可能演化出难以理解或预测的内部过程。例如，它可能发展出与既定目标不一致的涌现性目标。这种复杂性使得确保AGI的内部目标与外部设定目标保持一致变得困难。研发用于分析与控制这些内部过程的方法，对实现内部对齐至关重要。

一个未对齐的AGI可能以与人类利益相冲突的方式行事，其风险从小的低效一直到对人类的生存性威胁。例如，AGI可能追求工具性目标，如攫取权力或资源，从而损害人类的自主性或安全。此外，AGI系统可能被恶意行为者利用，或被操纵以违背其既定对齐目标的方式行事。

尤其在全球参与者为率先实现AGI而加速竞争的背景下，研发过程中采取充分的安全措施至关重要，以避免灾难性后果。在最大化AGI潜在收益的同时降低风险，需要技术、伦理与政策制定等跨学科协作。

我们何时能实现AGI？

专家普遍认为，AGI仍需数年——甚至数十年——才能实现，因为我们仍面临上一章所述的挑战与技术瓶颈。尽管深度学习、强化学习与AI对齐方面不断取得进展，真正的AGI仍是理论目标而非现实。神经符号AI、自学习架构与更高效计算等多个领域的突破将对AGI发展至关重要。

虽然不可能给出实现AGI的明确时间点，但AI领域的先驱们提出了若干预测。

相对乐观的声音来自OpenAI首席执行官 Sam Altman，他认为AGI可能在未来数年内（至2028年）实现。他认为AI技术发展迅速，而基础设施挑战相较技术难题并不显著。

Google Brain创始人、知名AI研究者 Andrew Ng 则持更为审慎的观点。根据他的估计，AGI仍然“至少还要几十年，甚至更久”。Ng强调，AGI不仅是工程问题，还需要重大的科学性突破以复制人类智能。

也有更悲观的看法。纽约大学神经科学教授 Gary Marcus对AGI时间表的说法表示怀疑。他认为，当前AI的进展（如大规模语言模型的发展）未必能指向AGI。Marcus强调，基础技术问题仍然存在，而训练与算力的“以规模取胜”也将触及极限。

由此可见，预测的时间与发生概率很大程度上取决于对术语的理解。例如，Altman指向OpenAI以功能与自主性为核心的定义，将AGI理解为“在大多数具有经济价值的工作上超过人类表现的高度自主系统”。而Ng与Marcus采用的定义则包含复制类人推理，这也是目前技术上最具挑战的领域。

AGI的风险与伦理挑战

AGI有可能通过自动化广泛的人类任务而引发显著的经济冲击，或将取代各行业中的人力劳动。

大规模失业

一种不利后果可能是大规模失业，许多岗位（主要是白领）的人类工作者将被替代。若缺乏妥善应对，由AGI引发的快速经济变革可能导致社会动荡与政治不稳定。

为缓解这些冲击，决策者需要制定策略，以确保AGI带来的收益能够公平分配，保护劳动者免于岗位流失，并促进社会与政治稳定。这可能包括投资教育与再培训项目、推行如UBI之类的政策，以及促进国际合作以应对全球性影响。

偏见

偏见与公平性是AGI的另一重大风险，因为它可能延续并放大既有的社会不平等。带有偏见的算法会系统性地使特定群体（如种族或性别少数群体）处于不利地位，通过强化刻板印象与歧视性做法，甚至借由看似中性的数据信号引入新型歧视。例如，使用邮政编码作为种族的代理变量，可能导致带偏的决策。

即便应用了群体公平性指标，AGI系统仍可能对某一大群体中的子群体进行歧视。这被称为“公平选区划分”（fairness gerrymandering）：群体内部的一些人受到不公待遇，而另一些人“补偿”以维持整体公平指标。

生存性风险

最后，AGI还带来若干生存性风险，主要与其可能变得不可控或与人类价值不一致有关。AGI可能超越人类智能，进而形成超智能体，追求对人类不利的目标，导致人类灭绝或文明的永久性衰退。

一些令人恐惧的场景（其中部分源自科幻作品）包括：AGI将资源获取置于人类生命之上、建立极权统治，或促成强化型病原体的产生。

为降低这些风险，研究人员与政策制定者正专注于开发控制与对齐策略。这包括利用限制AGI自主性的架构设计，或建立“盒中”环境以防止逃逸等技术来创建安全防护措施。

为确保AGI在自我提升的同时仍与人类价值保持一致，应优先推进对齐研究与去中心化的AGI开发，以防垄断并促进安全。

结语

尽管AGI仍是长期目标，但AI研究的持续进展正不断拓展机器可达成的边界。通往AGI的道路充满技术、经济与伦理挑战，亟需在推理、适应性与与人类价值对齐方面取得突破。

无论AGI是在数十年内成为现实，还是继续作为难以捉摸的概念存在，其对社会、产业与整个人类的潜在影响，都使其成为我们这个时代最重要的技术追求之一。