什么是负责任的人工智能？一种比较性方法

什么是负责任的人工智能？

我们尚未就“负责任的人工智能”的统一定义达成共识。在某些情况下，它被称为可信、道德、安全或可靠的人工智能。在另一些情况下，这些只是被纳入更广泛RAI概念之下的原则，或被视为完全不同的类别。

对负责任、道德、可信、安全和可靠的人工智能日益关注，源于人们广泛担忧其潜在的负面影响——无论是有意还是无意。

电气与电子工程师协会（IEEE）将这种担忧归因于工程实践中传统上将伦理分析排除在外的做法，其中与安全、安保、功能性、公正、偏见、成瘾以及间接社会危害相关的基本伦理标准常被视为不在范围之内。

然而，鉴于人工智能在社会各个方面和我们日常生活中的可扩展性和广泛影响，预判并缓解伦理风险应成为标准做法。当前那种在缺乏充分监督的情况下将技术推向世界、让他人承担后果的做法，已不可接受。

尽管如此，要将伦理理论和原则转化为具体情境下可操作的实践，仍是软件工程系统性伦理影响分析广泛采用的一大障碍。

负责任人工智能的原则

回顾相关文献，我们可以看到关于RAI原则的讨论已经有了相当的发展。下面我们逐一简要讨论。

伦理框架

负责任人工智能强调使用伦理框架，确保人工智能系统的可问责性、责任和透明度。这包括处理隐私、自主性和偏见等问题。

透明性与可解释性

算法和决策过程的透明性对于在利益相关方之间建立信任至关重要。可解释人工智能（XAI）旨在创建可解释、可理解的模型，以促进透明性和信任。

偏见与公平

负责任人工智能致力于识别并纠正算法中的偏见，推动公平的决策。这需要使用多样且包容的数据集，以防止歧视性结果。

如需进一步了解人工智能中的偏见，请收听这期播客：与 Joy Buolamwini 博士一起为算法正义而战。

治理与监管

制定人工智能治理的标准和框架，对于引导人工智能的负责任使用至关重要。这包括从个人研究者到政府监管各层级，建立结构化的方法来缓解风险。

社会与环境影响

负责任人工智能会考虑更广泛的社会经济和环境影响，例如对就业、不平等和资源消耗的影响，以及因资源使用而可能导致的不公平数字市场或环境危害。

公平、安全与隐私

欧盟委员会的努力来规范人工智能，强调了公平、安全、隐私、可解释性、安全性和可复现性作为负责任人工智能的组成部分的重要性。

道德与法律责任

围绕负责任人工智能的讨论通常涉及道德责任，其中包括因果和认知条件。这意味着人工智能的行为应当导致相应结果，且相关主体应当意识到其道德后果。法律框架也在探讨人工智能系统的问责、责任与可归责性。

利益相关方参与

负责任人工智能框架往往要求所有利益相关方承担责任，包括开发者、用户，甚至可能包括人工智能系统本身。

学术界对负责任人工智能原则的替代分类法

在学术界，一些关于人工智能伦理原则的 系统性综述给出了略有不同的分类法。例如， Jobin 等人回顾了84份伦理指南，并提出了11项原则：

• 透明性
• 公正与公平
• 不伤害
• 责任
• 隐私
• 行善
• 自由与自主
• 信任
• 尊严
• 可持续性
• 团结

可以预见，他们在这些原则的解读方式以及建议如何应用方面遇到了很大的差异。然而，他们也注意到在五项核心原则上出现了某种程度的趋同：

• 透明性
• 公正与公平
• 不伤害
• 责任
• 隐私

然而， 其他倡导者认为，大量的伦理AI框架可被归纳为五项元原则：

• 尊重自主
• 行善
• 不伤害
• 正义
• 可解释性

经合组织（OECD）的负责任人工智能原则

国际组织也在积极推动全球关于相关定义的讨论，以用于政策制定与协同一致。

经济合作与发展组织（OECD）——我在其中担任风险与问责，以及事件监测方面的人工智能专家——提出了一份全面的可信人工智能原则清单。

这些原则倡导以创新、可信并尊重人权与民主价值的方式使用人工智能。它们最初于2019年通过，并于2024年5月更新，以确保在新的技术与政策发展背景下仍具稳健性和适用性。

如今，欧盟、欧洲委员会、美国、联合国以及其他司法辖区，在其立法、监管框架及指引中，均使用经合组织对人工智能系统和生命周期的以下定义。

简而言之，这些都是基于价值的原则，分为以下几类：

包容性增长、可持续发展与福祉

人工智能相关方应主动以负责任的方式管理可信人工智能，追求对人类和地球有益的结果，例如增强人类能力与创造力、促进代表性不足群体的包容、减少经济、社会、性别等不平等，并保护自然环境，从而推动包容性增长、福祉、可持续发展与环境可持续性。

人权与民主价值，包括公平与隐私

人工智能参与方应在整个人工智能系统生命周期内，尊重法治、人权以及以人为本的民主价值。这些价值包括不歧视与平等、自由、尊严、个人自主、隐私与数据保护、多样性、公平、社会正义，以及国际公认的劳动权利。

透明性与可解释性

人工智能参与方应承诺在其系统方面保持透明与负责任的信息披露。为此，他们应提供具有意义且切合情境、并与技术前沿相一致的信息，以促进公众对人工智能系统的普遍理解，包括其能力与局限性。

稳健性、安全与保障

人工智能系统应在其整个生命周期内保持稳健、安全与可靠，以便在正常使用、可预见的使用或误用，或其他不利条件下，能够适当运行且不构成不合理的安全和/或安保风险。

问责

人工智能参与方应根据其角色与情境，并与技术前沿保持一致，对人工智能系统的正常运行以及上述原则的遵守承担责任。为此，人工智能参与方应确保可追溯性，包括与数据集、流程以及在人工智能系统生命周期中作出的决策相关的可追溯性。这种可追溯性应能够对人工智能系统的输出进行分析，并对符合情境且与技术前沿一致的询问作出回应。

ISO 的负责任人工智能原则 

另一方面，国际标准化组织（ISO）认为，要让人工智能系统值得信赖，需要关注三大关键领域：

1. 为其提供良好且多样的数据
2. 确保算法能够处理这种多样性
3. 并测试生成的软件是否存在任何误标或不良相关性

该组织就如何实现上述目标，提供了以下指南：

1. 以人为本进行设计，使用多元化的用户与用例场景，并在人工智能的整个生命周期之前和过程中纳入这些反馈。
2. 使用多种指标评估训练与监测，包括用户调查、整体系统性能指标，以及在不同子群体中切片的误报与漏报率。
3. 探查原始数据中的错误（如缺失或未对齐的取值、错误标签、抽样）、训练偏斜（如数据收集方法或固有的社会偏见）和冗余——这些对确保人工智能系统在公平、公正与准确性等RAI原则方面至关重要。
4. 了解任何给定模型的局限性，以缓解偏见、提升泛化能力、确保在动态场景中的可靠表现，并与开发者和用户进行沟通。
5. 持续依据负责任人工智能原则测试您的模型，确保其充分考虑真实世界表现与用户反馈，以改进问题的短期与长期解决方案。

行业领导者对负责任人工智能的看法

谈到行业领导者的具体例子，我们可以观察到在术语与分类法上存在明显差异，对RAI、可信人工智能、伦理人工智能以及为其运营或应用所创造的其他多种解释也有不同理解。

Microsoft

Microsoft例如，秉持以下负责任人工智能原则：

• 公平
• 可靠与安全
• 隐私与安全
• 包容性
• 透明性与问责

Apple

另一方面，Apple称其人工智能以其核心价值为设计依据，并建立在突破性的隐私创新之上，且制定了一套负责任人工智能原则，以指导其开发人工智能工具及其所依托的模型：

• 用智能工具赋能用户：识别可以负责任地使用人工智能以满足特定用户需求的领域，尊重用户选择如何使用这些工具来实现其目标。
• 代表用户：打造高度个性化的产品，力求真实地代表全球用户，避免在人工智能工具与模型中延续刻板印象和系统性偏见。
• 谨慎设计：在我们流程的每个阶段采取预防措施，包括设计、模型训练、功能开发和质量评估，识别人工智能工具可能被滥用或导致潜在伤害的方式。
• 保护隐私：通过强大的设备端处理和突破性的基础设施来实现，确保在训练其基础模型时不使用用户的私人个人数据或用户交互。

Nvidia

Nvidia称其为可信人工智能，并认为人工智能应尊重隐私与数据保护法规，安全、可靠地运行，以透明和可问责的方式发挥作用，避免不必要的偏见和歧视，并提出其四项核心原则：

• 隐私
• 安全与保障
• 透明性
• 不歧视

Google

在另一种表述中，Google提出了“人工智能应用的目标”，包括：

• 具有社会效益。
• 避免产生或强化不公平的偏见。
• 以安全为目标进行构建与测试。
• 对人负责。
• 纳入隐私设计原则。
• 坚持高标准的科学卓越性。
• 依照这些原则提供可用性，以限制潜在有害或滥用的应用。

结语

目前尚未就负责任人工智能、可信人工智能、伦理人工智能、安全与保障的人工智能究竟各指什么，以及它们是否为独立术语或可趋同达成共识。不过，令人鼓舞的是，这些术语的要素——至少在理论上——在学术界、国际组织和行业中，正在围绕相同的核心原则趋于一致与共享。

笼统而言，我们可以说，RAI是一门新兴学科，旨在确保人工智能的开发、部署与使用以人为中心，并在实践中于伦理与法律层面与基本人权保持一致。