CIO如何应对数据AI化的隐性成本挑战

AI

如今，CIO和CTO面临一项新的核心挑战：证明自身组织的数据已具备支撑持续增长的AI项目的能力。技术服务商Ahead Systems的CIO Donie Lochan表示，AI就绪数据的要求与传统数据管理之间存在显著差异，这正是推进相关工作的主要障碍之一。

Lochan指出，现有的治理框架大多并非为AI在生产环境中的运作方式而设计。"它们是为部署前的审批流程而建立的。"然而，AI的治理工作必须延伸到部署之后。

"在传统治理机制中，一旦出现险情，通常的做法是召集评审委员会。"Lochan说，"但等会议召开时，AI系统可能已经做出了数以千计的新决策。"

他认为，更好的方法是将每一次事件都视为完善架构本身的信号，即更新防护机制、调整升级阈值、收紧决策权限。"如此一来，治理就不再是一套流程，而是一个有生命力的系统。"

销售智能与数据采集平台ZoomInfo的CTO Filip Popovic表示，AI系统应当以管理生产软件的方式加以治理，涵盖可观测性、审计追踪、升级程序以及明确的责任归属。

"现实是，险情和失败不可避免，目标不是彻底消除它们，而是确保能够快速发现。"他建议，对此类问题的有效控制可以反过来推动系统改进。"此外，每一个AI驱动的建议或行动，都应当能够追溯到产生它的数据、信号和推理过程。"

AI驱动的决策与现实复杂性的碰撞

数据质量与分析解决方案提供商Qlik的CTO Sam Pierson表示，为应对部署后的AI治理问题，CIO和CTO需要清晰的数据血缘关系与客观的可信信号，以便判断问题究竟源于模型本身、工作流程、权限设置、过期数据、业务定义不清，还是数据管道故障。

SaaS咨询公司LRN的CTO Parijat Jauhari认为，当用户经历结果不一致，或感觉AI驱动的决策未能反映现实复杂性时，信任就会崩塌。"最有效的组织意识到，AI治理不仅仅是采用问题，更是领导力与文化的挑战。"他解释道，"当法务、合规、人力资源与技术团队协同工作时，才能从多个维度审视决策。"

Popovic举例说，如果AI系统根据客户意向数据生成外联内容，而法务部门对合规或隐私要求提出疑虑，就需要建立一套治理模型，由工程、法务、安全和业务相关方共同界定可接受的行为边界。"同样，如果销售部门希望自动化执行某些动作，而客户成功部门认为这可能损害现有客户关系，就必须有清晰的升级处理框架。"

他还补充道，AI往往并非制造新问题，而是暴露了组织内部原本就存在但被较慢的人工流程所掩盖的协同问题。

治理框架的节奏滞后

Pierson警告称，AI无法被强行嵌入那些为季度审查周期而设计的治理模型。

"传统治理框架是为更慢的业务节奏而设计的，决策可以批量审查，例外情况可以事后分析，问责也可以回溯记录。"他解释说。

然而AI并非如此运作。"它是持续的、动态的，且越来越深度嵌入实时业务决策之中。"等到问题出现在季度报告中，组织很可能已经基于有缺陷的数据采取了行动，重复了错误建议，或将一个小的治理漏洞演变成了更大的运营问题。

技术研究咨询公司ISG的AI与数据工程总监Olga Kupriyanova表示，治理边界必须扩展，覆盖那些此前从未经过整理的数据。"这并不意味着要把所有事情都做一遍，而是要有意识地决定哪些'暗数据'成为可信来源，哪些需要清洗，哪些则完全与AI隔离。"所有这些都纳入与核心数据一致的定义与边界之内。

以纪律应对质疑

Lochan表示，透明度是消除内部阻力的关键。"如果你试图淡化或隐瞒不一致之处，只会加深质疑。"他警告说，"真正重建信任的方式，是让人们清楚地看到哪里出了问题、系统做了什么，以及你做出了哪些改变以防止同样的问题再次发生。"

Lochan指出，领先的企业不仅仅是在AI上加大投入，更是在以不同的方式分配资本，对有效的部分快速推进，对无效的部分在成为负担之前果断退出。"同样，那些将治理视为持续设计规范而非合规任务的CIO和CTO，才是最终的赢家。"

Popovic表示，取得最大成功的组织，会将AI视为业务转型举措，而非软件实施项目。"他们在数据质量、治理、组织协同和变革管理上投入同等力度。"长期赢家未必是拥有最先进模型的公司。"而是那些能够在人类、系统与AI驱动决策之间建立最高信任度的公司。"

从失败中汲取教训

Kupriyanova表示，领导者处理AI失败的方式，应当与他们希望技术分析师处理失败的方式一致。

"一位优秀的分析师犯了错误，无论是自己发现还是他人指出，都会接受它、从中学习、不断进步。"她解释道，"而糟糕的领导者则会感到被冒犯。AI必须像一位优秀的分析师一样行事，只是规模更大，而且必须真正地从中学习。"

Q&A

Q1：AI就绪数据与传统数据管理有什么区别？

A：AI就绪数据对治理要求更高，传统治理框架通常在部署前进行审批，而AI需要部署后持续治理。一旦出现问题，AI可能已在审查会议召开前做出了数千个新决策。因此，必须将每次事件都视为完善系统架构的信号，将治理转变为动态运行的系统，而非一次性的合规流程。

Q2：企业应如何建立有效的AI治理模型？

A：有效的AI治理应参照生产软件管理方式，涵盖可观测性、审计追踪、升级程序和明确责任归属。法务、合规、人力资源和技术团队需要协同工作，从多维度评估AI决策。同时，所有AI驱动的建议或行动都应能追溯到产生它的数据、信号和推理过程，确保透明性和可追责性。

Q3：传统治理框架为何无法直接适用于AI系统？

A：传统治理框架按季度审查周期运作，适合批量审查决策和事后追责。而AI系统持续、动态运行，深度嵌入实时业务决策。等问题出现在季度报告时，组织可能已基于错误数据采取行动并扩大了治理漏洞。因此，治理边界需要扩展，并对历史未整理的"暗数据"做出明确处理决策。