最近一段时间,各种计算大会相继召开。前几年我们一直在谈建设算力底座成为经济发展的基础,现在我们更多在谈智算,甚至异构智算,已成为生成式AI发展的基石。
从PC时代到移动互联网时代,再到如今的AI时代,每一轮技术变革都在不断降低使用门槛和开发门槛,智算的发展也将进一步降低生成式AI的应用,使其可以快速推进。
生成式AI的成功并非偶然,一方面是大模型能力的引入,一方面就是智算在多个层面的支撑。从海量数据的快速处理到模型的训练推理,智算为生成式AI的创新提供了无与伦比的动力。
智算不仅仅是计算能力的提升,更是数据处理、算法优化和资源管理的综合体现。智算的普及将推动各行各业的数字化转型,实现更精准的数据分析,优化决策过程,提升效率等。
例如,零售行业正在利用智算支撑的AI,分析客户数据,实时调整库存和促销策略。商家能够预测消费者的需求变化,进而优化供应链,提高整体运营效率,提供更精准的购物体验。
但大模型训练不仅关系到企业的算力成本,也与业务方向和资金周转效率密切相关。企业需要根据自身的需求选择自建、租用、公有云等不同的模式。
很多智算服务商都已经构建了包括大模型训练、推理、训推一体以及边缘推理在内的AI全场景服务器产品组合,为生成式AI算力成员发展提供全面的支撑。
同时生态合作也在不断拓展中,因为不同的行业、不同的场景都有大量的“最后一公里”问题要解决,集合生态的力量可以更好地帮助生成式AI平稳落地。
本期《数字化转型方略》我们将进一步探讨智算产业的发展方向,以及如何更好地支撑生成式AI的发展,因为只有产业的蓬勃,才能看到更多生成式AI在企业落地应用。
未来让算力变得更智能这件事还会不断推进,为生成式AI发展持续铺路。
《数字化转型方略》2024年第10期:http://www.zhiding.cn/dxinsight/2410
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。