AI热潮下，董事会和CEO必须能够全面洞悉AI

至顶网CIO与CTO频道 07月27日 编译：AI已经成为我们日常生活的一部分，这一点你无法否认。几乎来自所有不同行业的财富1000强企业领导者，都在积极开展AI计划。大中型全球企业都在加速创新，利用AI的诱人前景提高收入、增加利润、并在产品和服务产品中发现新的价值。

尽管AI的发展迅速，但董事会和CEO们在AI语言素养和风险管理实践方面仍然远远落后。AI的崛起就像是一场暴风雨，一场完美的风暴可能正在酝酿之中，但很少有董事会和CEO能回答这个问题：你的AI算法和AI模型位于何处，AI算法或者模型是否存在风险？

AI的发展是迅猛的：2020年7月初发布的最新全球研究报告指出，AI市场的复合年增长率超过42％，在美国AI市场规模超过7337亿美元。根据麻省理工学院斯隆研究中心（MIT Sloan Research）的说法，超过90％的大型企业正在利用AI改善他们的客户交互旅程。AI创业投资的增长让人想起了互联网时代的牛市，但你可能还记得，2002年3月牛市下跌了76％，这唤醒了人们对价值实现和盈利能力重要性的觉醒。

根据CBI Insights的数据，2019年AI初创公司总共募集了266亿美金，涉及全球2200多笔交易，尽管遭遇了疫情，但医疗应急和智能机器、医疗机器人等变革性技术，正在迅速兴起成为帮助应对疫情的AI解决方案。

平均而言，到2022年，高级分析方面的投资将超过整体市场预算的11％。随着企业组织将AI和机器学习工具纳入他们的业务流程，到2025年，AI软件相关支出将达到1250亿美元。

你可能会认为，董事会和CEO们可以轻松地了解他们所有的AI算法和AI模型位于何处，非常清楚各种风险状况，并且能够通过清晰的KPI和ROI来证明价值的实现。

遗憾的是，很多企业被采用黑盒AI实践的AI计划吸引，这就意味着没有清晰的问责制，是不透明的，更不用说审计风险了。董事会董事和CEO们知道他们的员工身处何方（无论是远程办公还是在办公室），知道应该联系谁来解决客户服务或个人问题。

但是，恐怕没有一家跨国企业的董事会或者CEO可以在不到五分钟的时间内，拿出一份该企业所有AI算法或者AI模型资产的完整列表，也不知道上一次修订模型是在什么时候，给不出可靠的、经过第三方验证的风险分类证据。

随着数据的民主化逐渐成为实现AI的基础，我们必须提高AI和机器学习的相关KPI，让AI KPI比财务KPI更加重要，从而提高透明度，就像审计师受到损益表信托责任制的约束一样。世界正在发生巨变，数据已经成为我们最具战略意义的资产，但是鲜有企业成为数据管理实践的标杆，他们不知道数据是在哪里设计、收集和存储的以实现和跟踪AI转型所能带来的价值。

尽管有不少企业已经投资了机器学习运营（MLOps），但很少有企业拥有成熟的AI卓越中心，其中，MLOps是一项核心能力。New Relic最近一项研究发现，受访的750位全球高级IT决策者中，有89％的人认为，AI和机器学习对于企业组织的IT运营至关重要。有近84％的受访者认为，AI和机器学习将让他们的职责变得更易于管理。这一乐观的预测，将加速数据管理实践的不断完善，而这正是AI建模和风险管理实践的关键。

笔者在过去18个月中对超过500位全球大型B2B企业C级高管的交流中发现，没有一家企业可以在5分钟时间内回答大多数以下问题。

要保持领先地位，就要恰当地提出各种AI相关的问题，每一个使用AI算法构建定制化AI模型以解决特定问题或业务挑战的项目，都应能够回答以下这些问题：

使用场景历史

- AI模型/算法用于什么用途？

- AI模型/算法解决了哪些业务问题或者挑战？

- 在设计、构建和实施各种用例之前，企业最初估算的AI模型和AI方法ROI是多少？

AI模型所有权历史

- 谁编写了算法或者开发了AI模型？

- 流程负责人目前还在该企业吗？

- 考虑到AI模型和算法方法的风险，AI模型是否有二级流程负责人？

- 算法和模型结构是否经过了创建者之外其他人的审核？审核者是谁？

创建和修订历史

- AI模型或者AI算法是何时构建的？

- 自第一次用于生产环境中以来，对AI模型或AI算法进行了多少次修订？

- 正在使用哪种类型的AI算法？

- 该算法是开源的吗？还是有人编写了独特的AI算法来解决独有的业务挑战？

AI算法或模型方法历史

- AI算法的数学结构或数学公式是什么？

- 这些是否经过了第三方专家对准确性的验证？

- 负责监督正在使用中的AI算法模型的负责人？

- AI模型开发的数据类型（结构化/非结构化数据）和数据源（内部、外部、两者兼有）是什么？

- 数据集有多大？

- 在被分析之前，数据集是否经过了清洗？如果是的话，是谁清洗的，使用了什么方法？

- AI模型中使用的数据源，质量和准确性怎么样？

- 与所有版本的历史记录相比，预测准确性的基准得分是多少？

- AI模型和AI算法是否有风险分类，是否制定了风险缓解计划？

- 开发的AI模型是否经过了数据偏差测试？

- 使用了哪些数据偏差方法？

- 进行了几种数据偏差风险评估？

- 上一次审查和优化/重新训练AI模型是在什么时候？

AI算法或模型的价值实现

- 就投资回报率而言，AI模型能给企业组织带来什么价值？

- 是否有效率或者效果值能够清晰定义ROI？

- 第一个用例的ROI/价值结果预测，与实际AI产生的ROI结果相差多少？

- AI价值结果是否已经经过了财务或者第三方专家的验证、审核或签署？如果是的话，是否已经提交了报告？

- 这种AI模型方法与其他行业最佳实践相比如何？

- 是否有针对AI模型或文件的有效流程改进计划？

尽管还有很多其他问题，但要监督AI卓越中心来跟踪AI模型的演进发展，董事会和CEO们可以从年度审计风险评估和治理运营流程开始着手。

遗憾的是，多数情况下AI模型都是由数据科学家、计算机程序员或者专业服务公司（第三方供厂商）开发的，他们都致力于构建一个特定的AI模型，不管是预测美国热点区域第二波疫情情况，还是使用AI无人机预测害虫给收获季带来的影响，还是预测收入，以及确保AI方法的潜在风险管理实践，在大多数情况下，设计和构建AI模型的参与者都是用心良苦的。

董事会和CEO们必须意识到，AI素养是他们发展和培养人才所需的一种新能力。AI模型需要不断优化才能成功用于生产环境，而对数据管理基础设施进行现代化投资，是确保数据和机器学习与时俱进的关键。如果管理层不监控AI模型的生产环境，对模型进行再训练，并且随着时间的推移增加其他数据源以加强模型洞察的话，他们就会犯错。

AI就像是建造一座花园，施肥和除草是收获美丽的一项长期投资。AI不是雕塑，你不能构建一个模型然后未来几年一直保持它的原始状态不变。有人说AI是一种新型石油，而我更愿意说AI是一种新型氧气，因为AI越来越普及，像气候变化一样，潮起潮落无处不在。你想要能够洞悉花园中的一切生长状态，就需要卓越的远见才能做出明智的规划。

对于董事会和CEO们来说，遗憾的是很多技术负责人或者CIO并不擅长AI和数据科学实践，这进一步提高了实施AI的企业所面临的风险。首席数据官（CDO）和首席数据科学家官（CDSO）的兴起，推动了AI进化、模型构建、风险管理实践的发展，尽管大多数公司在数据支持系统方面的投资，不得不和保护算法和AI模型安全性方面的投资节奏保持一致。

董事会和CEO们有责任确保AI审核和风险管理框架得到合理实施，推进AI治理的向前迈进。