AI 监管：理解全球政策及其对商业的影响

什么是 AI 监管？

AI 监管是指为监督 AI 系统的开发、部署与使用而制定的法律、政策与指南。其目标是确保 AI 技术在伦理、安全、负责任的前提下使用，同时尽量降低偏见、隐私泄露以及对个人或社会造成伤害等潜在风险。

AI 伦理是一门研究如何以公平、可问责、透明并尊重人类价值的方式来开发和使用 AI 的领域。阅读我们的《AI 伦理：入门》博文，了解 AI 的短期与长期风险。

AI 监管涵盖广泛议题，包括：

• 数据隐私：确保 AI 系统在处理个人数据时遵守隐私法律。
• 偏见与公平：防止 AI 延续或放大歧视与偏见。
• 透明性：使 AI 系统可解释、可理解，确保其决策清晰且可问责。
• 安全性：确保 AI 技术不造成伤害，特别是在医疗、金融与自主系统等关键领域。
• 问责机制：为 AI 系统的决策建立明确责任，包括相应的法律责任框架。
• 经济、环境与社会影响：应对可能的岗位替代、经济不平等、环境与社会变迁。

跟随 Datacamp 的AI 基础技能路径，探索 AI 基础，深入了解如 ChatGPT 等模型，并解码生成式 AI 的奥秘，以在动态的 AI 版图中游刃有余。

为何需要 AI 监管？

AI 的潜力伴随重大风险，监管势在必行。其中一项紧迫关切是可能带来有害结果。例如，用于刑事司法的 AI 系统显示出偏见，对边缘群体影响尤甚。若管理不当，AI 可能加剧既有社会不平等。

此外，“黑箱”问题是 AI 特有的挑战。许多 AI 系统的运行机制连其创造者也无法完全解释。缺乏透明度使得理解其如何决策变得困难，从而引发问责担忧。

偏见是另一关键问题。AI 系统的表现取决于其训练数据，若数据反映社会偏见，AI 也会如此。这会在招聘、信贷与执法等领域导致不公结果。

2023 年，福布斯报道了一起针对 UnitedHealthcare 的集体诉讼（美国最大的健康保险提供商），指控其通过使用 AI 算法错误拒绝老年患者的延伸护理理赔。

若缺乏监管框架，社会可能无法为这些经济转变做好准备，导致不平等与不稳定。务必查看我们的文章《医疗中的 AI：强化诊断、个性化治疗与优化运营》；文中探讨了 AI 如何影响医疗的未来，以及企业如何通过新的 AI 技能与技术保持竞争力。

最后，AI 可能扰动就业市场，随着自动化愈加普及，工人被替代的风险上升。麦肯锡报告称，当前生成式 AI 与其他 AI 技术有潜力自动化如今多达 70% 员工时间所占的工作活动。

这些转变将意味着欧洲与美国多达 1200 万名工人需要转岗。一些员工可能需要再培训与技能提升的支持，才能在新市场中保持竞争力。

AI 监管的现状

让我们看看当前有哪些法律与监管在保障 AI 工具的公平使用：

欧盟的 AI 监管

欧盟于 2021 年 4 月提出《欧盟 AI 法案》，这是首个旨在监管欧盟内 AI 的综合法律框架。该法案由欧盟 AI 办公室起草，开创性地规范欧洲 AI 的未来，目标是在降低 AI 系统潜在风险的同时，促进创新与欧洲 AI 市场的竞争力。

《欧盟 AI 法案》采用基于风险的监管方法，按 AI 系统对个人与社会的风险水平进行分类。该法案将 AI 系统划分为四类风险：

                   

  来源：Datacamp 课程《Understanding the EU AI Act》

• 不可接受的风险：威胁安全、权利或民主价值的 AI 系统被禁止（如社会评分、有害操纵）。
• 高风险 AI：应用于医疗或执法等关键领域。须严格测试、透明并有人类监督，方可符合欧盟标准投入使用。
• 有限风险 AI：包括聊天机器人和虚拟助手。须告知用户其在与 AI 交互，但监管相对较少。
• 最小风险 AI：如垃圾邮件过滤器或游戏 AI 等低风险应用。基本免于监管。

务必关注我们的《EU AI Act Fundamentals》，掌握《欧盟 AI 法案》与 AI 基础。在课程中，您将学习如何导航监管并通过负责任的 AI 建立信任。

《欧盟 AI 法案》高度强调透明性，尤其是对于能生成内容并直接与用户交互的生成式 AI 系统（如 ChatGPT）。根据其使用方式，这些系统可能被归类为高风险或有限风险。一个关键要求是必须清晰告知用户他们正在与 AI 交互。对生成式模型而言，这意味着：

• AI 披露：开发者必须清楚标明内容由 AI 生成。这有助于用户理解他们在与机器而非人与人沟通。
• 可解释性：尽管生成式 AI 系统可能很复杂，《欧盟 AI 法案》要求达到一定清晰度。提供 AI 模型的一方需提供足够信息，让用户与监管者理解系统如何工作与做出决策。在必要时包括对底层算法与训练数据的说明。

为执行这些规则，欧盟正于国家与欧盟层面设立监督机构以监测合规。这些机构可审计 AI 系统、调查违规，并处以最高 3000 万欧元或全球营收 6% 的罚款，以较高者为准。

想进一步了解《欧盟 AI 法案》，请关注我们的《Understanding the EU AI Act》课程，您将了解 AI 风险分类与合规，包含生物识别 AI、教育与通用模型等示例。

美国的 AI 监管

美国采取更灵活、按行业分割的监管方式。尽管暂无全面的联邦 AI 法律，但在联邦与州层面已有多项现行法律、拟议法案与指南共同塑造 AI 系统的治理。

现行联邦法律与法规

以下为美国目前已实施的法律与法规：

联邦贸易委员会（FTC）法案

FTC 拥有广泛权限以保护消费者免受不公平或欺骗性行为的侵害。这包括监管可能导致歧视性做法或误导性结果的 AI 系统，尤其是在广告与消费者数据使用方面。

民权法律

多项民权法律禁止在就业、住房与贷款中的歧视。这些法律与可能无意中延续偏见的 AI 应用相关，例如用于招聘或信用评分的算法。平等就业机会委员会（EEOC）等机构正日益审查 AI 系统对这些法律的合规性。

《健康保险携带与责任法案》（HIPAA）

在医疗领域，AI 应用必须遵守 HIPAA 关于健康信息隐私与安全的规定。这包括确保任何用于患者护理的 AI 尊重保密与患者权利。

拟议联邦立法

还有一些法案已被提出，正等待通过：

《算法问责法案》

于 2022 年提出，该法案旨在要求公司评估自动化决策系统对消费者的影响。它规定对用于高风险领域的算法进行审计，以识别并减轻偏见。

《AI 权利法案》

2022 年底，拜登政府发布了“AI 权利法案”蓝图，阐明了负责任使用 AI 的原则，包括公平、透明以及对自动化决策的申诉权。

州层面监管

在州层面，多个司法辖区主动实施自己的 AI 监管，多聚焦于数据隐私与偏见缓解：

《加州消费者隐私法案》（CCPA）

这项里程碑式立法赋予消费者知悉其个人信息如何被收集、使用与共享的权利。它直接影响使用个人数据的 AI 系统，要求透明与消费者同意。

纽约市《自动化就业决策工具法》

自 2023 年起生效，该法律要求使用自动化工具进行招聘的公司每年进行偏见审计，以评估其 AI 系统对不同人口群体的影响。

行业特定监管

除联邦与州层面监管外，还有一些行业特定的 AI 监管：

自动驾驶车辆

美国交通部发布了关于自动驾驶车辆测试与部署的指南，强调安全与问责。这些指南要求公司证明其自动驾驶技术满足安全标准，方可在公共道路上部署。

医疗

医疗中的 AI 应用，如诊断工具与治疗建议，需接受美国食品药品监督管理局（FDA）的审查。FDA 正在建立 AI 技术的监管路径，以确保其安全有效。

中国的 AI 监管路径

中国的 AI 治理由国家主导，在快速创新与严格监管间寻求平衡。重点在于保持强有力的政府控制，同时确保安全与促进伦理使用。

该框架包含一系列塑造 AI 开发与使用的政策与指南。其关键特征包括：

集中式治理

中国政府通过科技部等多个部委在监管 AI 中发挥关键作用。这种集中化控制有助于在不同行业与地区一致地执行监管。

立法与指南

《数据安全法》与《个人信息保护法》等重要法律为 AI 应用中的数据处理设定了明确标准。此外，《AI 伦理指南》阐明了 AI 系统必须遵循的原则，强调人权、隐私与安全。

聚焦国家安全

监管格局高度强调国家安全，对 AI 应用实施严格评估，以确保其不危及公共秩序或国家安全。此类监督对可能影响社会稳定或治理的技术尤为相关。

集中式治理模式也引发对透明度与问责的担忧，有限的公众审视可能使政府在 AI 领域的权力缺乏制衡。

2023 年，中国出台了《生成式人工智能服务管理规定》，为生成式 AI 技术的开发、部署与使用设定了框架。其亮点包括：

• 强制安全评估：公司在上线内容生成类 AI 前需获政府批准，确保系统不对国家利益或稳定构成风险。
• 严格内容监管：对生成式 AI 输出进行严格监管，防止错误信息或扰乱社会秩序的内容，必要时采用审查。
• 高合规标准：公司必须在算法、数据来源与流程方面保持透明，以满足严格监管，提高问责并防止滥用。

随着 AI 改变各行各业，理解其伦理与业务风险至关重要。企业不仅要释放 AI 潜力，还需确保其使用负责且透明。

在我们的网络研讨会“Understanding Regulations for AI in the USA, the EU, and Around the World”中，Shalini Kurapati（Clearbox AI 首席执行官）与 Nick Reiners（欧亚集团高级分析师）将解读关键 AI 政策、监管趋势与合规策略。您将了解新规如何影响企业，并获得在美国、欧盟与全球框架下导航 AI 治理的实用建议。

AI 监管的未来

既然我们已了解当前围绕 AI 的监管格局，是时候展望下一步。随着这些工具不断进化，我们的法律与监管也必须同步演进。

国际合作与全球监管框架的必要性

AI 是全球性技术，行之有效的监管需要国际合作。AI 系统经常跨境运行，使得任何单一国家都难以全面监管。

自动驾驶、医疗、金融与安全等领域的 AI 应用常涉及跨境数据流动，带来隐私、数据保护与伦理标准方面的担忧。这一全球特性需要协调一致的 AI 治理方法。国际合作的目标包括：

• 标准对齐：确立透明、问责与公平等共同原则，形成一致的全球 AI 使用指南。
• 数据隐私与保护：为跨境数据共享制定共同规则，在尊重各国法律的同时保护隐私并确保 AI 伦理使用。
• 应对 AI 偏见：全球协作共享最佳实践，检测偏见，并制定策略以实现更公平的 AI 系统与结果。

查看我们的课程《Responsible AI Data Management》，学习负责任数据实践的基础，包括数据获取、关键法规，以及数据验证与偏见缓解策略。Y

ou 可以将这些技能应用于任何数据项目中的批判性思维，确保从头到尾都能成功、负责且合规地完成项目。

全球 AI 监管框架面临的挑战

尽管国际合作势在必行，但构建统一的全球 AI 监管框架仍面临诸多挑战：

• 国家优先事项分歧：不同国家在 AI 监管上侧重点不同——如美国重创新、欧盟重隐私、中国重国家控制——使统一的全球方案难以达成。
• 地缘政治紧张：美国与中国等主要 AI 参与者之间的竞争导致框架相互角力，并对技术转移与国家安全存疑，增加合作难度。
• 伦理与文化差异：对监控、数据隐私与人权的不同观念，使制定普遍适用的 AI 伦理标准变得具有挑战。

迈向全球 AI 框架的努力

尽管存在挑战，促进 AI 治理国际合作的努力正在持续推进：

联合国与 AI for Good

联合国通过AI for Good等论坛发起全球 AI 监管讨论，汇集专家、政策制定者与业界领袖，共同探讨 AI 的潜在益处与风险。这些讨论旨在塑造 AI 发展的国际规范，尤其聚焦可持续发展与人权领域。

全球人工智能合作伙伴关系（GPAI）

2020 年启动的GPAI是一个通过跨境合作推动 AI 负责任发展的国际倡议，成员包括加拿大、法国、日本、印度等领先 AI 国家，旨在促进最佳实践、共享数据并在坚守伦理标准的同时鼓励创新。

AI 安全峰会

英国于 2023 年 11 月举办了首届全球AI 安全峰会，汇聚全球领导者、技术专家与政策制定者，共同应对确保 AI 安全与伦理发展的关键挑战。会议强调创建 AI 安全框架的重要性，重点在于将 AI 的发展与全球安全与伦理标准相协调，同时不妨碍创新。

若缺乏公众对更高伦理标准与透明度的呼声，企业可能将利润置于安全之上，政府也可能在伤害显现前避免监管。但当公众要求问责时，就会推动立法者采取行动，制定确保 AI 造福社会而非破坏隐私或公平的政策。

正如 Bruce Schneier 在我们 DataFramed 节目《AI 的信任与监管》中所说：

技能提升与再培训的需求 

在 AI 浪潮中，亟需更新的并非只有立法；劳动力也必须适应。随着自动化与智能系统接管常规任务，新技能组合正变得至关重要。

正如我们在《数据与 AI 素养现状报告》中强调的，这一转变日益凸显为劳动力配备 AI 素养、技术熟练度与数据流利度的重要性，以在不断演变的就业版图中脱颖而出。

有 62% 的领导者认为 AI 素养如今对团队的日常工作至关重要。对组织而言，挑战不仅在于跟上技术变化，也在于确保团队能够以负责任与战略性的方式运用这些工具。

这需要结构化的学习路径——涵盖 AI 基本概念、伦理考量以及高级技术培训。

在技能提升与再培训方面进行投入的组织更能缓解岗位替代、促进创新并保持竞争力。满足这些需求的综合学习项目可以弥合差距，帮助技术与非技术团队有效理解、部署与治理 AI 系统。

DataCamp for Business 可帮助您的团队在任何规模的组织中实现 AI 技能提升。借助自定义学习路径、详尽报告与专属成功团队，您将迅速达成 AI 目标。

结语

对 AI 进行监管是确保其造福社会并管控风险的关键。随着 AI 在各行业迅速演进，现有法规常常难以跟上。

当 AI 拓展至生成式模型、自主决策与深度学习等领域，旧规可能已不足以应对。真正的挑战在于制定可随技术共同演进的适应性监管——在创新与负责任的监督之间取得平衡。

若您希望更深入理解 AI 及其影响，请查看我们的AI 基础技能路径，构建您的知识体系并走在前沿。