成本担忧使 CIO 的 AI 战略陷入困境

不确定的结果和对生成式 AI 承诺效益缺乏信心，正成为企业采用该技术的主要障碍。

根据 IDC 最近的一项调查，成本问题是另一个主要的生成式 AI 障碍，超过 1,000 名受访 IT 专业人士中有 46% 表示，定价缺乏可预测性是在其组织中实施生成式 AI 的主要障碍。

为缓解这些担忧，根据 10 月对 IT 专业人士和业务部门主管的调查，IDC 调查受访者"表示倾向于按需付费的消费模式，这与大多数需要提前承诺的供应商不同步"。

TIAA 的首席运营、信息和数字官 Sastry Durvasula 坚信，基于消费的定价模式是企业 AI 战略的最佳选择。

他说："大多数组织仍在摸索其 AI 使用模式，因此承诺大量前期成本是有风险的。按需付费提供了更好的成本可见性和控制，以及根据实际使用情况进行扩展的灵活性。我们较少关注一次性的训练/微调成本，更担心管理持续的运营支出。通过这种方式，我们可以直接将成本与价值挂钩，并根据需要进行调整。"

Rockwell Automation 的 CIO Chris Nardecchia 同意按需付费是 CIO 首选的定价模式。

他说："大多数企业，尤其是科技行业之外的企业，在实施能够运行高级模型的内部 AI 基础设施时面临重大障碍。虽然从零开始构建对大多数人来说是遥不可及的，但基于消费的模式允许 CIO 逐步实施 AI，并获得更可衡量的投资回报。"

IT 领导者正在更好地理解供应商的生成式 AI 定价方法——但总的来说他们并不喜欢。IDC 研究副总裁兼调查作者之一 Dave McCarthy 指出，CIO 仍在处理如何最好地管理云中的意外成本，并且已经了解到，在没有历史数据的情况下估算新工作负载的成本是具有挑战性的。

McCarthy 说："由于 AI 对大多数公司来说都是新事物，这给他们的 AI 计划带来了预算挑战。更糟糕的是，许多供应商仍在尝试各种可能改变的定价模式。这种不确定性给必须在预算限制内工作的风险规避型公司带来了挑战。按需付费定价是一种通过不锁定长期合同来降低财务风险的方式。"

UST 的首席 AI 架构师 Adnan Masood 说，"不可预测的定价"使得即使是 CFO 也难以管理 AI 支出。

他说："即使使用先进的数据驱动策略的 CFO 也无法完全预测的成本波动......这对这些高管必须保护的核心竞争力来说是一个巨大的威胁，可能会使其偏离轨道。"

在 Masood 看来，"真正的担忧不是技术的力量，而是缺乏实时成本控制和明确的性能指标来证明大胆的 AI 投资的合理性。"

值得质疑的结果，可疑的收益

除了定价担忧外，IDC 发现对不良结果的担忧（51.3%）——包括无意的偏见、未经授权使用他人的知识产权或无意泄露机密信息——以及对生成式 AI 效益缺乏信心（46.1%）是采用的主要障碍。

Marsh McLennan 的 CIO Paul Beswick 表示，解决方案可能是使用 SaaS 代理并追求基本的生成式 AI 用例，如自动文档摘要，而不是试图构建和训练基础模型。他补充说，这样做也可能是一种节省成本的 AI 入门方式。

他说："确实存在许多技术组织完全有能力以适中的价格轻松获取的能力。我认为更大的风险是他们被不太可能成功的事情分散注意力，或购买价格/性能权衡不好的技术。"

Beswick 补充说："除非在非常高价值和非常小众的用例中工作，否则大多数组织应避免尝试构建自己的定制生成式 AI 模型。对于大多数公司来说，我认为利用正在建立的生态系统，通过购买或租赁方式进入会获得更好的回报。"

UST 的 Masood 同意模型训练的成本潜力不适合胆小的人。

IT 领导者"似乎最担心失控的训练费用：一旦你启动大规模生成模型，如果没有运营透明度和强大的风险缓解策略，它可能成为无底洞，"他说。"同时，每日增量费用带来的冲击会破坏机构的合法性——如果没有强大的治理创新框架，没人愿意向董事会解释昨晚 AI 使用量激增的原因。"

给定 GPU 成本，预算限制也在阻碍 AI 基础设施的建设，Rockwell 的 Nardecchia 说。他补充说，有经验的 AI 架构师和数据科学家短缺、技术复杂性和数据就绪性也是主要障碍。

"基础模型需要大量清晰、结构化的数据——而大多数组织仍在与遗留系统孤岛和低质量数据作斗争。这在很大程度上是我从同行那里听到的第一大制约因素，"他说，谈到对不良结果的担忧。

供应商正在通过解决定价问题和努力改善结果来克服这些障碍。例如，Microsoft 本周为 Copilot Chat 引入了基于消费的定价。而 Amazon 最近推出了旨在改善结果的 Bedrock 生成式 AI 平台的新功能。

在 AWS re:Invent 大会上，Doordash 的 Chaitanya Hari 表示，Amazon Bedrock 的新知识库功能使公司能够实现从摄取到检索的整个检索增强生成 (RAG) 工作流程，而无需大量自定义数据集成或复杂的数据后端管理。

"即使模型速度快且相当准确，我们如何确保它从我们提供的上下文中提取信息，而不是随意编造？我们通过多次迭代的提示工程和微调，确保我们的 AI 模型只可靠地引用我们通过 Amazon Bedrock 提供的知识库，"DoorDash 企业 AI 解决方案产品负责人 Hari 说。

数据交换成本和生成式 AI 溢价

IDC 的调查还揭示了阻碍生成式 AI 采用的额外定价担忧，包括与系统间数据交换相关的隐藏成本。

IDC 的调查显示，大多数组织预计公共云 IaaS 将是其生成式 AI 基础设施的主要来源。但报告作者指出，许多组织可能希望将本地系统与 IaaS 结合使用以获得更大的隐私性。这种对混合生成式 AI 架构的偏好"将需要明确定义的定价模型，以考虑部署位置之间数据传输相关的成本"。

IDC 和 CIO 指出，生成式 AI 服务的溢价定价是另一个 CIO 关注点。

UST 的 Masood 说："当投资回报率模糊不清时，代理式 AI（sophistical AI agents acting autonomously）的溢价成本合理地令人恐惧。"

供应商最终将如何为代理式 AI 使用定价仍是一个争论和混淆的问题。例如，最近宣布 Agentforce 2.0 的 Salesforce 正在采用按对话收费的方式。该平台目前被 FedEx 用于简化运营，被 Saks Fifth Avenue 用于回答客户关于零售商品的问题。

这些先进功能在一段时间内可能并非所有企业都能负担得起。根据 IDC 的调查，生成式 AI 注入服务的各种定价模式是必然的——但预计将在几年内稳定下来。

克服生成式 AI 障碍

虽然几乎每个公司都在考虑或实施某种形式的 AI，但很少有公司第一次就能做对，这从高失败率的 AI 试点可以看出。但事情不必如此。

Alliant 智能自动化和 AI 董事总经理 Chris Stephenson 说："CIO 和业务所有者需要采取不同的方法来实施新的 AI 驱动流程，有多种策略可以提高 AI 试点的成功率。"

他补充说："有时，即使功能理想，AI 试点也可能因为缺乏资助项目的关键利益相关者或预期使用它的员工的支持而失败。在 AI 试点开始时，项目负责人应...尽早确定项目的关键 ROI 衡量标准，向利益相关者展示项目在每个步骤的进展情况。"

数据中心提供商 Digital Realty 指导 CIO 从小规模的目标试点开始证明 ROI，通过将 AI 与业务目标保持一致并使用明确的指标来展示它如何推动收入、削减成本或降低风险，从而在整个组织中建立信任和信心。

Digital Realty CTO Chris Sharp 说："我们建议企业客户保持对其整个基础设施堆栈的可见性。一个简单而有效的方法是跟踪令牌、瓦特和美元之间的关系。该模型监控 AI 部署中的令牌生产、支持基础设施所需的功率——考虑密度和容量动态——以及随时间推移相关的运营成本。"

Lumiyo 的 CIO、前 Vuori 和 Red Bull 的 CIO 和 CTO Bryan Muehlberger 建议 CIO 在推进之前将所有与 AI 相关的成本——不确定的定价模型、电力成本和经济状况——纳入任何方程式。

他说："目前，芯片成本上涨、与之相关的能源消耗以及与中国的宏观经济紧张关系和供应链内部的问题[是主要担忧]。这些将在未来一到两年内对 AI 产生重大影响。即使是 OpenAI 也因这些复杂性而在部署其最新版本时遇到一些问题。"