AI 治理：框架、工具与最佳实践

什么是 AI 治理？

AI 治理是指为引导与监督 AI 的开发与应用而设计的措施与系统方法。它确保 AI 与伦理原则及社会价值保持一致。这包括法律、法规，或任何为 AI 的创建者与使用者提供指引的指南。

为实现这一目标，AI 治理致力于坚持以下原则：

• 风险最小化：避免偏见与潜在伤害
• 公平与透明：推动可理解的 AI 系统
• 问责：对 AI 结果建立清晰的责任划分
• 公众信任：社会如何看待 AI 技术

为何“公平的 AI”如此重要？

AI 应用的开发涉及多种角色与实践。多数情况下，AI 应用以数据为基础。数据的采集、处理与管理本身就十分微妙而敏感。

与此同时，AI 产品被广泛用于各行各业，且可能在极大规模上部署。例如，ChatGPT据DemandSage称，每周有超过 2 亿活跃用户使用。

鉴于参与开发 AI 解决方案的人数之多以及其用户覆盖之广，人们才能真正体会到 AI 的复杂性与精细度。潜在问题不胜枚举。

打个比方，设想您在应聘一份工作，而招聘流程依赖一个 AI 系统来评估您是否合适。该系统基于简历与个人资料对候选人进行审核，并筛除被认为不适合该岗位的人选。

然而，如果该 AI 系统在算法上存在固有偏见或缺陷，它可能会基于年龄、性别或种族等因素，对特定群体产生不公平的歧视。如果这样的系统被企业广泛采用，其后果将非常严重。

这个情景说明了 AI 公平性的关键性——它旨在确保能显著影响人们生活的 AI 系统具备公平性、透明性与问责性。

令人意外的是，这类歧视在人类决策中也并不罕见。研究者发现，在求职过程中，基于姓名的系统性非法歧视确实存在。即便履历与其他候选人完全相同，少数族裔的姓名也更 难以获得成功。

因此，若 AI 系统的人类对应方都会陷入这样的陷阱，那么要用 AI 来实现无偏的决策过程既充满挑战，也极具价值。

AI 治理：关键原则与框架

有效的 AI 治理以社会与人类价值为基石。这些原则引导专家评估其系统的一致性。原则包括：

• 透明性：通过清晰呈现其机制、数据收集与决策算法，使 AI 系统保持清晰可见。
• 公平性：在 AI 系统的开发与部署中识别并缓解偏见，确保不偏不倚的处理与预测。
• 问责性：为 AI 系统确立明确职责，包括在造成伤害时的处置规范。
• 以人为本的设计：将人类价值与福祉置于首位。
• 隐私：以稳健的数据保护措施尊重个人隐私权。
• 安全与保障：关注用户安全与系统安全性，防范恶意与非预期后果。

领先的 AI 治理框架

多家机构已制定框架以指导 AI 治理实践。其中较为知名的包括：

1. NIST AI 风险管理框架：由美国国家标准与技术研究院（NIST）制定，为识别、评估与控制 AI 系统生命周期中的相关风险提供方法。
2. OECD AI 原则：经济合作与发展组织（OECD）提出了一套可信 AI 的原则，强调以人为本的价值、公平、透明、稳健与问责。
3. IEEE《伦理一致的设计》：电气与电子工程师学会（IEEE）提出的框架，为自主与智能系统的伦理设计与实施提供指南。
4. 欧盟可信 AI 伦理指南：欧盟就技术稳健性、隐私、透明性、多样性、非歧视、社会福祉与责任提出了指南。
5. 行业特定框架：各行业根据自身需求与挑战制定了定制化的 AI 治理框架。例如：
• 医疗健康：世卫组织关于医疗 AI 的伦理与治理指南
• 金融：新加坡金融管理局 FEAT 原则（公平、公德、问责与透明）
• 汽车：自动驾驶“安全第一”框架

这些框架为计划实施 AI 治理实践的组织提供了宝贵的护栏，既包含高层原则，也包含务实建议。

AI 在诸多领域都有应用，包括医疗健康。可解释性与透明性是此类系统的两项重要属性。下图展示了一个识别新冠肺炎感染的 AI 系统示例：

来源：Peng 等，2022

实施 AI 治理的最佳实践

将 AI 治理落地需要整体性的方法，需各方利益相关者与组织多方面协同。以下是推进 AI 治理的一些最佳实践：

领导力与文化承诺

领导力与文化承诺至关重要。领导者应积极支持并践行伦理标准，确保这些原则贯穿整个组织的 AI 开发。

这包括为 AI 系统管理的各阶段（开发、测试、部署与监控）建立并维护清晰、文档化的指南，确保伦理考量被纳入 AI 全生命周期。

培训与教育

持续的培训与教育同样重要。所有相关员工应定期接受以 AI 伦理与公平为重点的培训，以及时了解最佳实践与新兴挑战。

领导层也应接受教育，了解 AI 技术的影响与重要性。对于 AI 开发者，应提供针对其具体角色与项目的专业培训，确保其具备负责任开发与实施所需的知识。

AI 系统监控

我怎么强调监控 AI 系统的重要性都不为过。应实施持续监控机制，跟踪 AI 的性能与预测，从而及时识别并纠正任何偏见或非预期后果。

定期评估可确保 AI 系统按预期运行，并满足所需标准。

文档化

详尽的文档对于 AI 开发中的透明与问责至关重要。应详细记录 AI 开发过程的每一步，包括数据来源、模型架构与性能指标。

通过内部政策或公认的外部标准，建立伦理决策框架，以在 AI 生命周期中支持清晰且可问责的实践。

与利益相关者互动

与利益相关者的互动对于使 AI 系统契合多元需求与价值观十分重要。应与用户、社区与专家积极沟通，以确保 AI 系统的设计与价值被充分理解，并能满足相关各方的需求。

重视多元视角有助于防止非预期伤害，并确保 AI 系统具有包容性与公平性。

持续改进

持续改进是保持 AI 开发高标准的关键。应定义并跟踪与伦理与偏见相关的指标，以评估 AI 系统表现，并基于这些数据进行迭代改进。

应征求并纳入用户与利益相关者的反馈，以确保 AI 系统符合伦理标准。

AI 治理的工具与技术

随着 AI 治理的发展，支持组织实施合适治理实践的工具与技术生态也在不断壮大。这些工具覆盖 AI 治理的多个方面，从偏见检测到可解释性与风险管理。

1. 偏见检测与缓解：
• IBM AI Fairness 360：一个开源工具包，“可在 AI 应用全生命周期中帮助检查、报告与缓解机器学习模型中的歧视与偏见”。
• Aequitas：供机器学习开发者与数据分析师使用的开源偏见与公平性评估工具包。
2. 可解释性与可理解性：
• LIME（局部可解释与模型无关的解释）：一种可解释任意“黑箱”机器学习模型预测的技术。
• SHAP（Shapley 加性解释）：一种博弈论方法，通过分析各特征的重要性及其相互关系，来解释任意机器学习模型的输出。
3. 风险评估与管理：
• AI 风险管理框架导航器：同样由 NIST 开发，帮助组织识别并缓解与 AI 系统部署与运行相关的风险
4. 隐私：
• OpenMined：一个开源项目，旨在构建以隐私为先的机器学习系统
• TensorFlow Privacy：一个用于在训练数据层面保护隐私的机器学习模型训练库
5. 模型文档化：
• Model Cards：HuggingFace 提出的用于透明报告 AI 模型信息的框架
• FactSheets：IBM 提升 AI 信任与透明性的做法

TensorFlow Privacy。（来源： TensorFlow）

这些工具与技术有助于确保 AI 系统得到负责任的管理与维护。组织内不同部门与角色在 AI 治理上各有工具与标准。然而需注意，工具本身并不充分，必须与稳健的流程与监管相配合，方能发挥效力。

案例研究：微软的“负责任的 AI”

多家公司已采取切实措施来实施 AI 治理。其中一个例子是微软的“负责任的 AI 计划”。微软是当今 AI 领域的领先者，但也经历过失败的 AI 项目——最典型的是 Tay。

Tay 由微软于 2016 年推出，是一个应在 Twitter 上学习并互动的聊天机器人。由于缺乏安全措施，在短短 24 小时内，Twitter 用户就让 Tay 学会了法西斯、冒犯与种族主义的言论。Tay 从用户处学习，却没有关于“该学什么、该避开什么”的护栏。Tay 最终被关闭，但留下了宝贵的教训。

微软通过其“负责任的 AI 计划”在 AI 治理实践的制定与实施上取得进展。其显著之处之一是运营架构：微软设立了一个 AI 伦理委员会，称为 Aether 委员会（AI、伦理与工程和研究中的影响），负责审查 AI 项目的潜在伦理问题。该委员会汇集各领域专家，审视 AI 技术对社会的影响并提供指引。

此外，微软还开发并发布了多种工具与框架，帮助开发者在日常工作中落实负责任的 AI 实践。 Responsible AI Toolbox便是其中一例，可帮助评估与提升 AI 系统的公平性。

监管与政策格局

尽管“监管”与“治理”定义不同，但二者相互影响。全球各地政府与监管机构正制定新政策与法规来规范 AI 的开发与使用。对于在工作流程中实施 AI 治理实践的组织，理解这一不断演变的格局十分必要。

欧盟《AI 法案》

AI 监管中最重要的进展之一是《欧盟人工智能法案》（EU AI Act）。其要点包括：

1. 基于风险的方法：按风险水平对 AI 系统进行分级，并对各级别提出不同要求。
2. 禁止性做法：某些 AI 应用被禁止，例如政府社会信用评分。
3. 高风险 AI 系统：对用于医疗、教育与执法等关键领域的 AI 系统设定严格要求。
4. 透明度要求：有义务告知用户何时以及以何种形式与 AI 系统互动。

其他新兴监管

尽管欧盟《AI 法案》或许是迄今最全面的 AI 监管，但其他机构也在制定各自的方法。

加拿大提出了作为更广泛隐私改革一部分的《人工智能与数据法案》（AIDA）；而加州的 AI 安全法案 SB 1047 在本文撰写时正迈向立法。

对企业的影响

不断演变的监管格局对开发 AI 系统的组织影响深远：

1. 合规要求：组织需要确保其 AI 系统遵守法规。这些法规可能与现行实践相冲突，最终需要对开发与部署流程做出重大调整。
2. 文档与透明度：更强调对 AI 开发过程进行记录，并为 AI 驱动的决策提供解释。透明度要求的具体程度当然取决于相关法律。
3. 风险管理：需要稳健的风险评估，尤其针对可能被归类为“高风险”的 AI 系统。
4. 全球考量：在多法域运营的组织需应对潜在的监管冲突。
5. 伦理考量：许多法规融入了伦理原则，要求组织更明确地考虑其 AI 系统的伦理影响。

您的组织或团队是否受这些法律约束，取决于您所处法域、所构建产品的类型及其相关风险等级。

关于 AI 监管的争论：利与弊

监管是 AI 领域争议最大的议题之一。虽然大多数 AI 社群认同“某种程度”的监管是有益的，但对于监管的性质、范围以及由谁主导，尚无共识。

该问题的复杂性引发了产业、学界、政府与公民社会的激辩，围绕监管框架的潜在利弊展开讨论。理解这些论点对于形成正确且不偏不倚的观点十分必要。

支持 AI 监管的观点

支持者认为，相关指南对于保护公众至关重要，设计良好的监管可将 AI 的潜在危害纳入可控范围。隐私侵害、偏见与就业转移是其中的若干潜在危害。他们相信，一套清晰的法律与标准可避免在伦理层面出现“逐底竞争”。此外，这些标准对建立公众对 AI 技术的信任至关重要。

另一个支持监管的论据是 AI 的广泛社会影响。随着这些技术日益影响就业、社会互动与民主进程等领域，倡导者认为有必要进行监管监督，以确保这些影响被纳入考量并得到负责任的管理。

反对 AI 监管的观点

反对者提出了多项对监管负面影响的担忧。首要论点是担心严格监管会最终抑制创新。他们忧虑过度约束的规则会放慢 AI 的发展，可能拖累医疗、气候变化与科学研究等领域的有益进步；而且 AI 发展节奏极快，监管或很快过时，甚至变得无关紧要或适得其反。

另一个重要担忧是中小企业与初创公司的合规挑战。遵守繁复监管所需的成本、人力与复杂度可能过于沉重，从而削弱 AI 领域的竞争与创新。结果可能导致 AI 开发被少数拥有充足资源、能应对复杂监管的大型科技公司垄断。

许多 AI 专家质疑，是在技术层面而非应用层面进行监管是否恰当。他们认为，与电力与互联网等其他技术类似，AI 本身并非天生有害。技术的使用方式可能恶意，也可能建设性。如这篇 文章所指出，AI 安全是应用层面的属性，而非技术本身的属性。

开发者的责任

同样必须注意，使 AI 系统安全的价值——如公平、偏见或透明性——虽根植于社会与伦理关切，但也属于技术问题。

必须承认，存在偏见的 AI 模型在技术上也是有缺陷的。一个呈现偏见的模型，按定义就无法准确表示或处理其应覆盖的完整数据谱系。

这种技术缺陷会导致性能下降、预测不准与结果不可靠。从这个角度看，解决偏见、促进公平不仅是伦理问题，更是直接影响我们所构建 AI 系统质量的基础性技术挑战。

即便在缺乏法律或监管标准的要求下，开发人员也必须尊重并将这些价值观融入所构建的 AI 系统。致力于公平与偏见缓解的研究人员与开发者，往往在从事高度技术性的工作。

设想一个用于协助银行员工评估贷款申请的 AI 系统。若因历史借贷实践中的偏见，训练数据反映出某些族裔群体被不成比例地拒贷或获得较差条件，该系统便会学会将种族与申请人评分相关联，那么在“伦理上不可接受”之前，它已在“技术上不合格”。此例说明，处理 AI 系统中的偏见不仅是伦理动机，也是技术必要。

组织与个人可在 AI 开发生命周期中通过透明性与文档化来回应关切并建立公众信任。这种“算法透明性”包括清晰传达模型的目的、数据来源、方法论或系统的潜在局限。作为开发者，您可以通过沟通以下内容来保持清晰与透明：

• 模型的训练过程
• 所用数据集的细节
• 任何数据预处理步骤
• 所选算法

这种透明性不仅有助于识别与纠正技术缺陷，也体现了对伦理 AI 开发的承诺，从而提升公众对该技术的信心。

结语

本文探讨了 AI 治理的内涵、伦理考量、监管框架与技术实践。AI 治理的重要性在于其有望在问题发生前识别风险、赢得公众信任，并将 AI 的力量导向社会福祉与公共利益。

我们还审视了 AI 治理的多方面内容，包括可用的工具与技术、企业举措以及不断演变的监管格局；同时也回顾了围绕 AI 监管的持续争论，呈现了支持与反对的观点。

归根结底，伦理与负责任的 AI 开发不仅是监管机构的职责，也落在开发这些技术的公司与个人身上。正如我们所见，解决 AI 系统中的偏见与公平问题不仅是伦理关切，更是技术必需。