ChatGPT仅推出2个月,月活跃用户就已达1亿,半年时间ChatGPT就成为了生成式AI的现象级产品。
在生成式AI的发展中,算力的存在可以说举足轻重。可以看到大模型正在带动AI算力需求超越摩尔定律增长,据统计AI训练任务中的算力增长,每 3.5个月就会翻一倍。
以GhatGPT为例,在预训练算力上,训练一次1,746亿参数的GPT-3模型需要的算力约为 3,640 PFlop/s-day,对应的单次训练成本高达460万美元;日常运营算力上,GhatGPT根据访问量与内容量测算,单月运营算力约4,800PFlop/s-day;调优迭代算力上,每月模型调优带来的算力需求为82.5~137.5 PFlop/s-day。
现阶段,算力作为数字经济时代新的生产力,已成为经济社会高质量发展的重要支撑。工业和信息化部数据显示,我国近年来算力产业年增长率近30%,算力总规模位居全球第二。截至2022年底,我国算力总规模达到180EFLOPS(每秒18000京次浮点运算),算力核心产业规模达到1.8万亿元。
工业和信息化部新闻发言人、总工程师赵志国近日表示,近期通用人工智能的发展对算力提出了更高要求,工业和信息化部将重点从三方面着手:一是持续推动算力基础设施建设;二是聚力推进关键核心技术攻关和产业升级;三是激发算力应用赋能价值。
而且在“百模”大赛下,全球算力需求呈指数级增加,带动了国内AI服务器市场快速增长。本期《数字化转型方略》将和大家聊聊什么样的算力,才能满足大模型千亿数量级的训练需求?AI算力还有哪些发展方向?
总的来说,AI算力的发展已经成为数字经济时代的重要驱动力,无论是芯片厂商、服务器厂商、还是云厂商,他们都在不断地满足着AI算力的需求,推动着AI技术的发展。而对于我们来说,未来是如何用好AI算力,产生创新洞见。
《数字化转型方略》2023年第7期:http://www.zhiding.cn/dxinsight/2307
好文章,需要你的鼓励
DeepSeek 的 AI 模型在处理效率方面取得重大突破,可能对数据中心产生深远影响。尽管引发了科技股抛售,但业内专家认为,这项创新将推动 AI 应用普及,促进大规模和分布式数据中心基础设施需求增长。更高效的 AI 算法有望降低成本、扩大应用范围,从而加速数据中心行业发展。
Rivian 正全面推进 AI 技术整合,开发下一代电动车平台,以挑战特斯拉的市场地位。公司计划于 2025 年实现免手驾驶,2026 年达到 L3 级自动驾驶。Rivian 还将在车载系统中广泛应用 AI 技术,提供语音交互等功能,并计划推出更实惠的车型,扩大市场份额。
Postman 发布了 AI 代理构建器,这是一款创新的生成式 AI 工具。它允许开发者通过整合大语言模型、API 和工作流程来设计、构建、测试和部署智能代理。这一工具旨在简化 API 交互、优化工作流程,并支持创建能执行复杂任务的智能代理,标志着 API 优先的 AI 开发迈出了重要一步。
微软第二财季利润同比增长10%,人工智能年化收入达130亿美元。然而,云计算业务未达预期,下季度指引不及预期,导致盘后股价下跌。公司资本支出创新高,以满足AI和云需求。尽管Azure增长放缓,但微软对下半年增速加快持乐观态度。同时,中国AI初创公司DeepSeek的崛起引发业界对AI基础设施投资的重新审视。