负责任人工智能的理由

在过去几年中，AI 在各类组织中的采用与效能显著提升。其应用范围从用于提升业务运营效率与准确性的预测分析，到可与现实世界直接交互的机器视觉，以及通过语言更高效与技术互动的自然语言处理（NLP）。埃森哲的报告显示，84% 的受访高管认为他们需要利用 AI 才能实现增长目标。

随着这一相对新且仍在成熟的技术快速发展，责任与伦理方面的担忧也随之而来。凯捷发现，70% 的客户期望其与 AI 的互动具备透明性与公平性。此外，监管机构也开始收紧关于 AI 透明度与公平性的规定。欧盟近日发布了一揽子 AI 监管措施，旨在尽量减少 AI 系统带来的有害影响；而美国联邦贸易委员会（FTC）也宣布将追究出售存在偏见算法的公司（麻省理工科技评论）。

伦理担忧的增加是合理的，其驱动因素在于 AI 用例日益涉及医疗、司法体系和金融等高度敏感的场景。若未能妥善调校并充分理解潜在伦理风险，AI 可能会复制并放大历史中的偏见与歧视。例如，ProPublica 调查了 COMPAS 算法——该算法通过预测个人再犯的可能性来辅助刑罚判决。调查发现，黑人被告更可能收到“将会再犯”的假阳性建议，而事实上他们并不会再犯；相对地，白人被告更可能收到“不会再犯”的假阴性建议。

类似地，OpenAI 的 GPT-3 拥有 1750 亿参数的 NLP Transformer 模型，在生成包含宗教相关内容的句子时，已显示出显著偏见。该模型对其他群体（包括性别与种族）也表现出偏见，相关讨论见原始论文。

随着 AI 日益普及，确保负责任地使用 AI 至关重要。如果我们要信任这些系统来为重要且敏感的决策提供依据，它们就不能带有偏见或夹杂历史刻板印象。

什么是算法偏见？

算法偏见频繁见诸媒体报道，例如招聘决策中的性别偏见，再到在线广告在地图上重现“红线”划定（住房歧视），以及包含种族偏见的医疗保健算法。上述案例都清楚地表明：某一群体被模型区别对待。

用于形式化定义算法偏见的度量方法有很多。基本定义是算法对数据中的不同群体采取不同对待。我们关注的群体特征，如种族、性别、宗教、怀孕或退伍军人身份等，被称为受保护或敏感特征。在分析算法时，必须了解哪些群体可能最容易受到模型带来的有害影响。

用于判断算法偏见与公平性的度量大致分为两类：表征层面的公平与错误层面的公平。

表征层面的公平

此类度量评估模型对不同群体的结果。例如，在招聘算法中，可比较被回访面试的男性与女性所占比例。

错误层面的公平

错误层面的公平度量关注各群体间错误率比例的差异。以上述 COMPAS 算法偏见为例，黑人被告的假阳性率显著高于其他群体，而白人被告的假阴性率显著更低。

算法偏见的成因

算法中的偏见源自其底层数据。无论是线性回归等简单模型，还是更复杂的 Transformer 模型，本身并不带有偏见；它们只是基于输入数据生成输出。以下是数据中导致偏见的五大原因。

1. 数据集偏斜： 各群体的数据占比或训练样本数不均，可能导致模型输出偏颇。
2. 样本受污染： 数据可能包含不可靠的标签，或历史偏见已存在于数据中。
3. 特征受限： 由于不佳的数据采集实践，所收集的特征可能对特定群体不可靠或信息不足。
4. 样本规模： AI 算法在小规模数据集上的表现往往不佳。
5. 代理特征： 即便未直接包含受保护变量，某些特征也可能泄露其信息。研究表明，邮编、体育活动、就读大学等变量都可能间接向模型传递受保护变量的信息，从而导致算法偏见。

可采用哪些缓解技术？

我们已对算法偏见的概念及其成因有了较为正式的理解。缓解算法偏见的路径主要有两类：技术性方法与 AI 治理。通常，两者结合最有可能在降低算法偏见方面取得最佳效果。

技术性缓解方法

在技术性方法中，常见有三种路径：训练前的预处理技术（在训练前减少原始数据中的偏见）、训练中的处理中方法（在模型训练期间缓解偏见）、以及训练后的后处理算法（通过修改预测来降低偏见）。

这篇论文在引言中描述了文献中常用的四种预处理技术：

• 抑制： 移除与敏感变量相关性最高的变量
• 校正： 使用排序器以高效方式重新标注部分观测值，消除输入数据中的歧视
• 重加权： 为训练数据中的每个元组分配权重，以消除歧视
• 抽样： 对各群体进行抽样，以获得更均衡的群体表征，可采用均匀抽样或偏好抽样（通过复制或跳过观测）。

其他方法，如该论文的概率化建模，以及这篇论文中提出的两种“修复程序”，也为预处理阶段去除偏见提供了良好方法。

处理中方法聚焦于在训练过程中去除偏见。这类技术通常引入公平性约束，影响优化问题，从而得到更公平的结果。相关讨论示例包括探讨公平性约束的研究，以及关于公平感知分类的研究。

最后，后处理算法通过修改模型输出以降低偏见。这些算法可以如 Pleiss 等与Hardt 等所示，针对“特权”或“非特权”群体调整预测；也可以如这篇关于决策理论的论文所示，在算法输出接近决策边界（结果把握较低）时降低偏见。

对于上述任何技术，都必须与所有相关方讨论在准确性上的权衡，以及因改变底层数据或模型结果而带来的风险。这些技术可能会引导模型预测出历史上从未出现或数据中未体现的结果。

治理与问责

在组织内使用 AI 好处众多。然而，如本文所示，AI 系统带来的伦理风险会转化为组织层面的风险，例如声誉受损，进而导致营收流失。没有哪家企业愿意看到这样的头条：他们使用带有偏见的算法做出商业决策，进而对某一类客户或员工造成不利影响。

完善的 AI 治理需通过全面的风险管理来落实。需要明确 AI 决策的具体用例以及对各利益相关方的影响评估。理解与该用例相关的潜在金钱与人身风险至关重要。在为每位相关方准确评估各项风险的严重程度后，还应计算这些后果发生的可能性。

AI 治理的最佳实践包括：面向利益相关方的全面清单，自动化与手动测试，业务标准合规性测试，详细报告，以及对模型直接负责的个人与团队所作出的声明。更多细节请务必下载我们的白皮书。

负责任的 AI 依赖数据素养

在组织内实现负责任 AI 的规模化，离不开组织的数据素养建设。成功的 AI 治理需要多个利益相关方共同参与并采用统一框架。了解项目范围、部署与治理方式、其影响及潜在风险，是所有相关方践行负责任 AI 的必要前提。埃森哲指出，数据素养通过引入多元视角来建立信任，从而实现负责任 AI，并持续带来更优结果。

通过提升组织的基础数据素养，即便是不经常与 AI 系统交互的主题专家，也能将其专业知识融入这些系统，并更高效地与技术相关方沟通。这种沟通的改善会在组织内为所有相关方带来更多信任。

在组织中促进负责任 AI 所需的数据素养关键要点包括：对数据科学与机器学习工作流的理解、不同数据岗位的分工、数据在组织内的流转路径、不同类型 AI 系统的区分，以及机器学习模型的评估指标。

提升基础数据素养以规模化负责任 AI

要推动负责任 AI，必须对组织内的所有相关方进行培训。规避与算法偏见相关的风险，是组织在业务场景中成功利用 AI 众多优势的必要条件。数据素养是促成相关方高效沟通、在组织内建立信任、以及探索多元解决方案以实现负责任 AI 的关键。欧盟正为其技能议程投入 1.1 万亿欧元，重点面向监管者的 AI 技能与数据素养建设，足见这些工具在组织中的重要性。市面上已有众多课程教授数据素养基础。想进一步了解数据素养如何助力负责任 AI——请查阅我们的最新白皮书。