金融服务行业掌握着海量数据。这也难怪该行业拥有众多前景可期的人工智能与机器学习应用场景。麦肯锡估计，如果成功落地，AI 可为银行业创造高达 2 万亿美元的价值。在一场近期的网络研讨会中，渣打前集团首席数据官、现 TruEra 首席战略官 Shameek Kundu 概述了如何在金融服务中加速释放 AI 价值。
Shameek 指出，数据科学与 AI 在金融服务中的价值可归为三大类：
- 提升收入，通过更佳的客户体验与更优的决策
- 降低成本，通过更有效的风险管理与更高的运营效率
- 发掘未被实现的潜力与商业模式。
金融服务中的 AI 应用广而不深
当下，许多金融服务领域的AI 项目仍处于早期阶段，因多种原因难以实现全面部署。原因既包括数据可得性与质量受限、AI 系统部署中的技术瓶颈等技术问题，也包括缺乏数据人才、对 AI 系统信任不足等非技术障碍。
应对对 AI 系统缺乏信任的问题
尽管诸如深度学习模型等复杂机器学习模型能够为过去难以解决的问题（如蛋白质折叠）提供深刻的解决方案，但它们并不擅长解释自身的预测。
如果在诸如反洗钱与信用评分等高风险决策中盲目采用这些黑箱模型，其结果会带来社会性风险。在不了解黑箱模型如何得出预测的情况下，终端用户很难信任其输出，尤其是在发生过多起带偏见的 AI 系统的高曝光事件之后。
根据 Shameek 的观点，三项关键举措能够促进对 AI 的信任。
通过教育消除对机器学习的神秘感
面向所有人的通识教育 教育是应对对 AI 恐惧的长期策略。随着内部利益相关者、监管者与客户对 AI 如何影响自身有了总体认识，他们更可能接受 AI。
弥补技能缺口的专项教育 技术人才的匮乏阻碍了企业大规模实施 AI 系统。因此，旨在从 AI 系统中提取价值的企业，必须愿意招聘数据人才，或为现有员工提供专项培训以提升技能。
为 AI 系统建立内部护栏
内部护栏可作为实施、评估与监控 AI 系统的指导方针。
这些护栏包含三大组成部分。
- 一套指导性原则界定 AI 在公司内部可以做什么的边界。
- 赋能内部利益相关者，以促进 AI 的安全实施
- 标准化工具与技术，用于评估 AI 系统的公平性
AI 全生命周期中的缺口会让质量问题渗入 AI 系统。幸运的是，有相应工具可减轻这些问题。
解释黑箱模型 可解释 AI 仍是一个活跃的研究领域。其有望打开黑箱，揭示并增强对预测生成过程的信任。
解决数据与标签质量低的问题 学生在不熟悉的主题上可能考试不及格；若在错误的数据上训练，机器学习模型也会表现不佳。若用于训练 AI 系统的数据与部署时所见数据存在巨大差异，AI 系统可能会失败。微软基于 Python 的Responsible AI Widget 可帮助识别并解决此类问题。
测试模型的透明度与公平性 由于训练数据中隐藏的偏见，模型可能会对某些群体（如少数族裔或特定性别）产生不公平的偏见。像 fairlearn 和 IBM 的 AI Fairness 360 等开源方案有助于弥补这些缺口。
结语
在企业内部建立对 AI 的信任需要协作与时间。组织需要提升 AI 人才的技能并设立保障 AI 安全的措施，而 AI 从业者则需要充分利用可用工具，让 AI 对所有人都公平。只有在 AI 成功赢得用户信任之后，AI 系统才能获得广泛采纳。
如果您对 AI 在金融服务中的应用感兴趣，欢迎观看 Shameek 的点播网络研讨会“在金融服务中扩大 AI 采纳”。该研讨会提供了关于 AI 应用的洞见，以及加速其采纳的实用建议。
金融服务行业掌握着海量数据。这也难怪该行业拥有众多前景可期的人工智能与机器学习应用场景。麦肯锡估计，如果成功落地，AI 可为银行业创造高达 2 万亿美元的价值。在一场近期的网络研讨会中，渣打前集团首席数据官、现 TruEra 首席战略官 Shameek Kundu 概述了如何在金融服务中加速释放 AI 价值。
Shameek 指出，数据科学与 AI 在金融服务中的价值可归为三大类：
金融服务中的 AI 应用广而不深
当下，许多金融服务领域的AI 项目仍处于早期阶段，因多种原因难以实现全面部署。原因既包括数据可得性与质量受限、AI 系统部署中的技术瓶颈等技术问题，也包括缺乏数据人才、对 AI 系统信任不足等非技术障碍。
应对对 AI 系统缺乏信任的问题
尽管诸如深度学习模型等复杂机器学习模型能够为过去难以解决的问题（如蛋白质折叠）提供深刻的解决方案，但它们并不擅长解释自身的预测。
如果在诸如反洗钱与信用评分等高风险决策中盲目采用这些黑箱模型，其结果会带来社会性风险。在不了解黑箱模型如何得出预测的情况下，终端用户很难信任其输出，尤其是在发生过多起带偏见的 AI 系统的高曝光事件之后。
根据 Shameek 的观点，三项关键举措能够促进对 AI 的信任。
通过教育消除对机器学习的神秘感
面向所有人的通识教育 教育是应对对 AI 恐惧的长期策略。随着内部利益相关者、监管者与客户对 AI 如何影响自身有了总体认识，他们更可能接受 AI。
弥补技能缺口的专项教育 技术人才的匮乏阻碍了企业大规模实施 AI 系统。因此，旨在从 AI 系统中提取价值的企业，必须愿意招聘数据人才，或为现有员工提供专项培训以提升技能。
为 AI 系统建立内部护栏
内部护栏可作为实施、评估与监控 AI 系统的指导方针。
这些护栏包含三大组成部分。
使用工具与技术提升 AI 质量
AI 全生命周期中的缺口会让质量问题渗入 AI 系统。幸运的是，有相应工具可减轻这些问题。
解释黑箱模型 可解释 AI 仍是一个活跃的研究领域。其有望打开黑箱，揭示并增强对预测生成过程的信任。
解决数据与标签质量低的问题 学生在不熟悉的主题上可能考试不及格；若在错误的数据上训练，机器学习模型也会表现不佳。若用于训练 AI 系统的数据与部署时所见数据存在巨大差异，AI 系统可能会失败。微软基于 Python 的Responsible AI Widget 可帮助识别并解决此类问题。
测试模型的透明度与公平性 由于训练数据中隐藏的偏见，模型可能会对某些群体（如少数族裔或特定性别）产生不公平的偏见。像 fairlearn 和 IBM 的 AI Fairness 360 等开源方案有助于弥补这些缺口。
结语
在企业内部建立对 AI 的信任需要协作与时间。组织需要提升 AI 人才的技能并设立保障 AI 安全的措施，而 AI 从业者则需要充分利用可用工具，让 AI 对所有人都公平。只有在 AI 成功赢得用户信任之后，AI 系统才能获得广泛采纳。
如果您对 AI 在金融服务中的应用感兴趣，欢迎观看 Shameek 的点播网络研讨会“在金融服务中扩大 AI 采纳”。该研讨会提供了关于 AI 应用的洞见，以及加速其采纳的实用建议。