Gartner表示人工智能(AI)是人类与机器交互方式的一次巨大转变,尤其是生成式人工智能(生成式AI)的飞速发展。随着AI已从单纯的IT行动转变为全企业行动,首席信息官(CIO)和IT高管需要重点关注两大关键领域。
Gartner杰出研究副总裁Mary Mesaglio表示:“生成式AI不仅仅是一种技术和商业趋势,更是人机交互方式的一次深刻转变。人类正在转变思路,从机器能为我们做什么,转变为机器能成为我们的什么。机器正在不断演变,从人类的工具进化成人类的队友。Gartner预测,到2025年,在全球90%的企业中,生成式AI将成为员工的伙伴。”
Gartner杰出研究副总裁Don Scheibenreif表示:“CIO在如何塑造AI以及AI如何塑造我们上扮演着重要角色。根据Gartner近期的首席执行官(CEO)调研,CIO是CEO挖掘生成式AI价值的第一选择。”
Gartner分析师表示,未来12-24个月要优先考虑从两个方面挖掘AI的价值——确定AI目标,确保AI就绪。
确定AI目标
AI分为两种类型:
Scheibenreif 表示:“越来越多的AI将由IT和整个企业共同交付。要想取得成功,整个高管团队都必须参与进来,这是一个CIO可以大有作为的重要机会。”
CIO可以帮助CEO和其他高管同事克服AI的复杂性,并通过分析后台、前台、新产品和服务以及新核心能力等领域使用生成式AI的机遇和风险,确定企业机构的AI目标(见图1)。
图1:Gartner AI机遇雷达
来源:Gartner(2023年10月)
确保AI就绪
Scheibenreif表示:“随着AI继续深入改变人类与机器之间的关系,CIO必须积极塑造这种变化的本质。在这个人机交互的新时代,将会出现许多意料之外的后果。”
Mesaglio表示:“AI技术决策不仅仅是一项技术决策,同时还是一项技术、经济、社会和伦理决策。为了引导所在企业机构作出AI相关决策,CIO与IT领导者需要制定灯塔原则——明确AI愿景,指明前进方向,说明可接受和不可接受的人机关系。”
但很少有企业机构制定了灯塔原则并明确AI愿景。2023年6月,Gartner对606名CIO和技术领导者进行了调查,发现只有9%的企业机构制定了AI愿景声明,超过三分之一的受访者没有制定AI愿景宣言的计划。
要想在未来12个月迅速、安全地采用生成式AI,企业机构必须做到以下三点:
Scheibenreif 表示:“在这个由AI推动业务的时代,我们需要提前规划,否则将会出现意想不到的后果。CIO需要一种能够照亮前进道路的方法,即便一切看起来都是崭新或模糊的。为安全应对这场变革,CIO必须与高管一起确定日常AI与颠覆性AI使用的目标,并且建立AI就绪的原则、数据与安全。”
好文章,需要你的鼓励
大数据可观测性初创公司Monte Carlo Data推出全新Agent Observability产品,为AI应用提供全方位数据和AI可观测性。该工具帮助团队检测、分类和修复生产环境中AI应用的可靠性问题,防止代价高昂的"幻觉"现象,避免客户信任度下降和系统宕机。新产品采用大语言模型作为评判器的技术,能够同时监控AI数据输入和输出,提供统一的AI可观测性解决方案。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
网络安全公司Aikido披露了迄今最大规模的npm供应链攻击事件。攻击者通过钓鱼邮件获取维护者账户凭证,向18个热门JavaScript包注入恶意代码,这些包每周下载量超过26亿次。恶意代码专门劫持加密货币交易,监控浏览器API接口将资金转移至攻击者地址。受影响的包括chalk、debug等广泛使用的开发工具库。虽然攻击在5分钟内被发现并及时公开,但专家警告此类上游攻击极具破坏性,可能与朝鲜黑客组织相关。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。