CIO必须谨防自己犯下“夸大AI使用”的错误

长期以来，在IT行业，厂商们都在夸大自己产品的功能，在当前的AI炒作周期中，这种情况肯定也在发生。现在，甚至用户企业似乎也在夸大自己的AI能力，这可能会导致严重的麻烦。

那些采用AI的组织，其IT领导者可能面临着来自董事会、其他高管和市场本身的巨大压力，要求他们推出重大的AI计划。此外，观察人士表示，对AI定义的混淆也可能导致无意中夸大AI的能力。

在当前的AI淘金热中，企业可能会倾向于夸大自己的AI实施以吸引投资者和客户，这种做法被称为“AI washing”，但他们应该三思而后行，律师事务所Bracewell的监管合规律师David Shargel这样表示。

美国监管机构正在关注那些夸大的AI声明，美国证券交易委员会于3月宣布与两家投资顾问达成和解。美国证券交易委员会指控这两家公司就其使用AI进行投资建议做出误导性陈述，两家公司为此支付了40万美金的和解金。

来自上层的压力

Shargel在今年1月和他人共同撰写了一篇关于AI washing的博客文章，他表示，一些公司可能夸大了他们对AI的使用，因为他们不了解AI包含的内容。但他表示，似乎也存在一些故意夸大的情况。

“AI washing是一种新现象，但实际上只是另一种欺诈行为。公司总是在欺诈，他们会基于新技术找到新的欺诈方式。”

除了监管问题之外，Shargel补充说，那些夸大AI使用情况的公司，可能会面临股东诉讼和失去客户信任。

换句话说，一些组织对AI独创性的呼吁可能会变成一种诱惑。

企业AI平台提供商Domino Data Lab的AI战略负责人Kjell Carlsson表示，这是因为CIO和其他IT领导者面临着采用AI和成功部署AI的巨大压力，这为他们夸大其词创造了一些动机。

“人们对AI有着令人难以置信的需求和渴望，当他们说到AI的时候，指的是使用生成式AI的命令，就像‘我们已经看到了OpenAI的力量——告诉我，我们将如何使用大型语言模型来改变我们的业务。’”

他说，很多公司一直在关注技术趋势并试图赶上潮流。

“ChatGPT一经推出，令人惊讶的是，大多数商业智能厂商都立即加入进来，重新开发他们的聊天机器人，这样他们就可以说，‘我们是一个支持AI的商业智能中心’，”Carlsson说。

他补充说，一些商业智能厂商将他们简单的聊天机器人重新命名为AI工具，虽然在技术上并没有错，但他们使用的是基于规则的系统，不依赖于生成式AI，而生成式AI正在推动当前的市场炒作。

现在，用户企业（而非厂商）可能也受到诱惑去做同样的事情。

根据文件搜索公司FactSet的分析，标普500企业中，有199家企业都在他们的2024年第一季度财报电话会议上提到了AI，这一数量创下新高。FactSet在一篇博客文章中写道，5年时间内财报电话会议上提及AI的平均次数为80次，而且自2023年第一季度ChatGPT首次亮相以来，提及次数急剧增加。

混乱和通货膨胀

品牌信息AI工具提供商Jacquard的首席产品官Toby Coulthard表示，这种与AI关联的热潮让公司着眼于未来收入增长，而不是短期利润，这对投资者来说是一个有吸引力的立场。他说，由于对AI的定义存在混淆，无论是包含了大型语言模型(LLM)、神经网络、机器学习、或者仅仅是数据科学应用，都会让企业在声称使用AI时“有很大的自由度”。

Coulthard补充说：“为了保持或增加市值而做某事的内在动机，加上定义不明确的概念，使得一个关于什么是合适的、什么是不合适的巨大灰色地带出现了。除非市场真正地以有意义的方式定义AI，或者直到投资者以更平衡的方式衡量AI，否则我认为AI的发展不会放缓。”

缺乏用例

Domino Data Lab的Carlsson表示，对于那些被迫探索AI的CIO和其他IT领导者来说，他们面临的一个困难是董事会和CEO对生成式AI和大型语言模型感到兴奋不已，而更传统的AI和机器学习工具仍然可以为许多组织带来许多好处。

他说，虽然生成式AI显示出巨大的潜力，但到目前为止，很少有用例出现，一些是针对生物制药等特定行业，少数是针对大多数其他公司的。据Carlsson称，目前正在流行的是用于处理客户投诉的智能聊天机器人，还有具有企业搜索功能的虚拟助手。

他补充说，其他生成式AI的用例很少出现。

“当我和组织交谈的时候，即使是那些有过几个成功案例的组织，进一步应用的渠道也相当狭窄，从商业价值的角度来看，你很快就会得到看似边缘的项目。我采访过的一家公司说，‘我们有500条关于如何使用生成式AI的建议，但实际上是只有5条建议重复了100次。’”

在某些情况下，企业使用生成式AI来做传统AI工具可以做的那些事情，比如基本分析和流程自动化，这可能会给IT领导者带来一些问题。即使经过调整，生成式AI仍然会产生幻觉，从而在更传统的工具具有更高一致性的情况产生一定程度的不确定性。

“这是一项新的技术，需要处理新数据，追求新的用例，这很有挑战性，你会发现这些模型的表现与传统模型是不同的。不确定性和风险水平很可怕，因此它很难被用来取代现有的技术。”

要小心

Bracewell的Shargel建议，企业在对自身AI能力做出广泛声明时要小心谨慎。为了避免监管审查，企业应该为内部使用和监管备案明确定义AI。

他补充说，CIO和其他高管在发出声明之前，也应该考虑审查他们的AI能力。

Shargel说：“企业真正需要做的是，以对待其他披露内容相同的方式来对待AI，企业不会在没有审查或合规审计的情况下披露其财务状况。公司需要以同样的方式对待有关技术和AI的披露，并且他们需要有能力评估其准确性。”