最近一段时间,各种计算大会相继召开。前几年我们一直在谈建设算力底座成为经济发展的基础,现在我们更多在谈智算,甚至异构智算,已成为生成式AI发展的基石。
从PC时代到移动互联网时代,再到如今的AI时代,每一轮技术变革都在不断降低使用门槛和开发门槛,智算的发展也将进一步降低生成式AI的应用,使其可以快速推进。
生成式AI的成功并非偶然,一方面是大模型能力的引入,一方面就是智算在多个层面的支撑。从海量数据的快速处理到模型的训练推理,智算为生成式AI的创新提供了无与伦比的动力。
智算不仅仅是计算能力的提升,更是数据处理、算法优化和资源管理的综合体现。智算的普及将推动各行各业的数字化转型,实现更精准的数据分析,优化决策过程,提升效率等。
例如,零售行业正在利用智算支撑的AI,分析客户数据,实时调整库存和促销策略。商家能够预测消费者的需求变化,进而优化供应链,提高整体运营效率,提供更精准的购物体验。
但大模型训练不仅关系到企业的算力成本,也与业务方向和资金周转效率密切相关。企业需要根据自身的需求选择自建、租用、公有云等不同的模式。
很多智算服务商都已经构建了包括大模型训练、推理、训推一体以及边缘推理在内的AI全场景服务器产品组合,为生成式AI算力成员发展提供全面的支撑。
同时生态合作也在不断拓展中,因为不同的行业、不同的场景都有大量的“最后一公里”问题要解决,集合生态的力量可以更好地帮助生成式AI平稳落地。
本期《数字化转型方略》我们将进一步探讨智算产业的发展方向,以及如何更好地支撑生成式AI的发展,因为只有产业的蓬勃,才能看到更多生成式AI在企业落地应用。
未来让算力变得更智能这件事还会不断推进,为生成式AI发展持续铺路。
《数字化转型方略》2024年第10期:http://www.zhiding.cn/dxinsight/2410
好文章,需要你的鼓励
阿里纳德数据中心与Calibrant Energy合作开发首创电池储能系统,通过绕过传统电网升级时间线,使俄勒冈州希尔斯伯勒在建数据中心园区提前数年上线。该31兆瓦、62兆瓦时储能系统计划2026年投运,将作为响应电网的动态资产,在需求高峰期放电,增强区域电网可靠性。这标志着美国首次使用专用电池系统加速大型数据中心并网。
威斯康星大学研究团队开发了LUMINA系统,专门检测AI在回答问题时的"撒谎"行为。该系统发现AI有时会忽视提供的参考资料,固执地依赖内部知识生成不准确回答。LUMINA通过监测AI对外部文档和内部知识的依赖程度来识别这种行为,在多个测试中达到90%以上的准确率,比以往方法提升13%,为构建更可信的AI系统提供了重要工具。
微软在Edge浏览器中推出增强版Copilot模式,提供更强大的AI代理功能,目前在美国进行限量预览。该模式包含Actions和Journeys两大功能:Actions让浏览器能代表用户执行任务,如语音控制打开网页或查找文章特定内容;Journeys则记住用户浏览历史,帮助用户继续之前的研究任务。此举正值AI浏览器竞争加剧,OpenAI推出ChatGPT Atlas、Perplexity发布Comet、谷歌集成Gemini到Chrome。目前Chrome占据71%市场份额,Edge仅占4.67%。
这项由法国CentraleSupélec大学领导的研究通过严格控制的实验,系统比较了AI的推理训练与传统训练方式。研究发现推理训练在数学、开放式任务中效果显著,但需要70亿参数以上模型才能充分发挥优势,且成本增加明显。研究为AI开发者提供了明确的应用指导,有助于根据具体场景选择最优训练策略。