在一个充满风险的领域,避免不利结果与获得改变游戏规则的优势,二者是同样重要的。成功的CIO会找到办法以平衡风险和回报。
在AI引发的热潮中,技术正在迅速崛起,初创公司迫切需要获得关注,超大规模企业正在争先恐后地争夺市场份额。对最精明的CIO们来说,这种环境也是对他们决策能力的一大考验。但无论是否准备好,他们都必须做出具有深远影响的选择,停滞不前不是他们的一个选项。
Covanta是一家专门从事可持续材料管理(包括大规模回收)的企业,该公司首席信息官Srini Gudipati表示:“AI发展很快,所以我们不想拖延。我们需要准备好回应我们的CEO,以解决和AI相关的问题。”
Forrester Research新兴技术副总裁Brian Hopkins对此表示认同。他说:“我们无法足够快地筛选所有这些内容,但你不能袖手旁观。机会太大了,其中存在很多风险,也有很多地雷需要排除。”
有一点是肯定的:未来几年,AI技术将获得大量资金注入。IDC预测,AI的核心IT支出将从2024年的2356亿美金增长到2027年的5210亿美元。
应对风险
进行任何技术进行投注或投资的第一步,都是要了解你自己承受风险的能力。Webster Bank首席信息官Vikram Nafde表示:“我们对采用AI技术保持审慎和深思熟虑的态度,这与我们作为传统金融机构的适度风险偏好是一致的。”Webster Bank是一家商业银行,拥有超过750亿美金的资产,主要是通过商业银行、消费者银行和HSA银行(一家以医疗保健为重点的金融服务提供商)提供数字服务和传统服务。
在AI方面,Nafde看到了所选供应商的风险、用例商业的价值以及项目的成本,他已经制定好了战略来解决这三个问题。
在供应商方面,Nafde是从和超大规模厂商建立合作关系开始的。他说:“我们想要一个由大型的、成熟的参与者组成的生态系统。”目前Webster Bank的现有合作伙伴包括AWS和微软。尽管Nafde更喜欢与大型企业合作,但他找到了一些开发出工具可以在超大规模设备上运行的生成式AI的小型公司,其中一家公司开发的工具可以根据之前的互动和其他市场数据来预测客户意图和行为。
为了找到有前景的用例,Webster Bank仔细研究了几十个提案,并决定从其中三个可以带来切实好处的提案开始。该银行目前正在开展这些POC计划:内部生产力的智能搜索、利用生成式AI功能实现自动化以协助银团商业贷款工作流程、以及客户流失预测。
为了应对第三个风险领域(也就是成本),Nafde正在带头为内部员工提供必要的技能、能力和工具,以在公司内部开展AI计划。Nafde表示:“我们通过投资发展FTE(全职员工)并为我们的技术人员配备必要的专业知识,目标是最大限度地减少对外部顾问的依赖,并最大限度地提高我们从内部推动创新的能力。”
在Covanta,Gudipati正在根据具体情况具体一个项目一个项目地实施AI,其重点是通过在成熟技术能力范围内进行实施,每次解决一个特定的问题。他说:“我们正在谨慎行事,因为大型语言模型的兴起将数据安全风险提升到了一个新的水平。过去几年我们一直在使用开源模型开发自己的内部AI功能,这确保我们的敏感数据和知识产权不会被外部提供商所利用。”
Covanta的一个POC是通过识别已经进入Covanta设施的丙烷罐等物品以及无害的可回收物来降低将危险材料带入设施内的风险。Gudipati说:“我们正在探索的技术使用AI和X射线技术来分析入站卡车,以便在丙烷罐在与大型粉碎机撞击发生爆炸之前发,就发现丙烷罐的可疑轮廓。”如果发生爆炸将是将是一个重大危险,需要付出巨大代价。他表示,消除火灾风险的成本约为每小时10000美元,实施后应该能够收回这部分成本。
在另一个实施方案中,Covanta正在使用AI来检查潜在客户的网站,以衡量公司的碳足迹,以及公司是否有资格获得联邦能源信贷。他说:“我们的数据团队使用亚马逊云上的生成式AI来探索可持续性指标,因此在这方面是创收的。”
还有一个实施,是Covanta正在使用Salesforce的CRM案例管理工具来创建发票,并使客户能够直接与Salesforce机器人对话来回答任何发票相关问题。Covanta还使用AI对合同进行法律审查,检测并突出可能的风险点。“这些都是默默使用工具的一些好例子。”
公共事业行业的谨慎心态
传统上,政府机构是最不愿意承担风险的组织,其运作必然会受到公众的监督,公众对无法获得回报或使公民数据面临风险的项目几乎是无法容忍的。
美国哈里斯县通用服务执行董事兼首席信息官Sindhu Menon表示:“在哈里斯县,我们将数据机密性、完整性和可用性放在解决方案设计和架构的最前沿。”按照人口计算,该机构是全美第三大县,该机构为休斯顿地区470万公民提供服务。
与Gudipati和Nafde一样,Menon和她的团队正计划使用超大规模设备作为风险相对较低的一个选择。尽管是多云环境,但该机构的大部分云实施都托管在微软Azure上,其中一些托管在AWS云上,还有一些托管在ServiceNow的311公民信息平台上。Menon表示,哈里斯县有大约六个基于AI的POC正处于规划阶段,其中一个用于许可证处理现代化,另一个用于司法程序现代化。
奠定基础
为了开展POC实施,Menon和她的团队正在建立一个实验室,预计将于2024年3月首次亮相,用于在推出AI工具之前对其进行测试。该实验室位于县办公大楼内,将吸引来自多个部门的成员,包括哈里斯县的数据团队和架构团队。
她解释说:“全县都有很大的兴趣参与测试。我们的目标是将团队聚集在一起,提供一个安全的环境来学习和测试解决方案。”对于可能涉及当前托管在Azure上的Snowflake数据湖这一典型项目,Menon强调数据质量是至关重要的。“AI工具依赖于这些解决方案中使用的数据。我们需要良好的数据管理实践才能获得所需的结果和AI解决方案。”
同样,Nafde组建了一个由约20人组成的AI治理团队,由Webster Bank首席企业架构师和首席数据官领导,其中包括技术专家、风险和合规人员以及律师。该银行的AI团队一个重点关注点同样是数据质量。为此,这个团队对银行的Snowflake环境实施了数据质量和治理工具。
对于Covanta的Gudipati来说,第一步是通过建立一个强大而全面的数据基础来实施AI技术和服务,使公司“为AI做好准备”。
“AI需要由高质量数据的滋养,因此我们使用Talend创建了全面的数据管理结构,并利用Snowflake作为我们的运营数据存储和仓库。然后,我们在AWS上实施了一套全面的AI工具,这些工具本身可以很好地协同工作,为我们提供真正的AIOps。我们广泛使用AWS作为基础设施和数据存储,因此选择他们是有意义的。我们建设完成了地基和基础设施,让AI在此之上能够真正地发挥全部潜力。”
被锁定的风险
由于运行AI算法成本不低,因此每个项目都面临着成本高于预期的风险。
Gudipati说:“AI引擎的运行成本很高,它相比传统AI要消耗更多的处理器,因此我们必须关注成本。”
Nafde表示认同。“人们没有意识到AI模型必须调动如此多的计算资源。他们不知道这会花费多少钱,我们有计算服务的成本触发因素。我们相信我们可以管理运行成本,因为我们将不断地评估成本。”
委托云服务提供商(包括超大规模提供商)并非没有被锁定的风险。尽管可以从一个云提供商转向另一家云提供商,以获得更好的交易合同,但迁移的劳动力和费用是令人望而生畏的,可能会抵消任何潜在的节省。例如,Snowflake可以运行在微软Azure或者AWS上,因此可以从一个云迁移到另一个云。“我不认为这是不可能的,但你需要做一些基础工作,提前考虑一下是件好事。”
不要只是站在那里,做点什么
对于CIO来说,以前很少有技术能够让他们在生成式AI的帮助下采取行动。风险缓解策略面临着高管的推动,他们不希望自己的公司落后。
“这可能是历史上第一次,非技术人员能够看到一些东西并对此感到兴奋,因为他们可以参与其中,这已经成为董事会层面兴趣的一个转折点,”Forrester的Hopkins说。
Nafde认为,在金融服务领域,支付公司Stripe和移动应用MX等初创公司可以利用AI来接管客户关系。“用户行为可能发生很大的变化以至于人们不会想到银行,而是他们正在使用的支付应用。金融科技公司和初创公司要么利用AI超越老牌企业,要么就是被淘汰。”
然而,与初创公司不同的是,老牌企业不能冒着因为把全部赌注押在AI上而可能遭受损失的风险,他们面临的挑战是找到一条能够产生底线结果的中间路线。Gudipati说:“我们不会告诉全世界我们是一家基于AI的企业,但我们会把AI作为一个日常解决问题的工具。”
好文章,需要你的鼓励
Blackwell GPU的生产制造工作量达到Hopper GPU的两倍有余,但带来的收入仅增加至约1.7倍。
由AMD驱动的El Capitan超级计算机(现位于美国劳伦斯利弗莫尔国家实验室(LLNL))成为世界上速度最快的超级计算机。