ChatGPT仅推出2个月,月活跃用户就已达1亿,半年时间ChatGPT就成为了生成式AI的现象级产品。
在生成式AI的发展中,算力的存在可以说举足轻重。可以看到大模型正在带动AI算力需求超越摩尔定律增长,据统计AI训练任务中的算力增长,每 3.5个月就会翻一倍。
以GhatGPT为例,在预训练算力上,训练一次1,746亿参数的GPT-3模型需要的算力约为 3,640 PFlop/s-day,对应的单次训练成本高达460万美元;日常运营算力上,GhatGPT根据访问量与内容量测算,单月运营算力约4,800PFlop/s-day;调优迭代算力上,每月模型调优带来的算力需求为82.5~137.5 PFlop/s-day。
现阶段,算力作为数字经济时代新的生产力,已成为经济社会高质量发展的重要支撑。工业和信息化部数据显示,我国近年来算力产业年增长率近30%,算力总规模位居全球第二。截至2022年底,我国算力总规模达到180EFLOPS(每秒18000京次浮点运算),算力核心产业规模达到1.8万亿元。
工业和信息化部新闻发言人、总工程师赵志国近日表示,近期通用人工智能的发展对算力提出了更高要求,工业和信息化部将重点从三方面着手:一是持续推动算力基础设施建设;二是聚力推进关键核心技术攻关和产业升级;三是激发算力应用赋能价值。
而且在“百模”大赛下,全球算力需求呈指数级增加,带动了国内AI服务器市场快速增长。本期《数字化转型方略》将和大家聊聊什么样的算力,才能满足大模型千亿数量级的训练需求?AI算力还有哪些发展方向?
总的来说,AI算力的发展已经成为数字经济时代的重要驱动力,无论是芯片厂商、服务器厂商、还是云厂商,他们都在不断地满足着AI算力的需求,推动着AI技术的发展。而对于我们来说,未来是如何用好AI算力,产生创新洞见。
《数字化转型方略》2023年第7期:http://www.zhiding.cn/dxinsight/2307
好文章,需要你的鼓励
数据分析平台公司Databricks完成10亿美元K轮融资,公司估值超过1000亿美元,累计融资总额超过200亿美元。公司第二季度收入运营率达到40亿美元,同比增长50%,AI产品收入运营率超过10亿美元。超过650家客户年消费超过100万美元,净收入留存率超过140%。资金将用于扩展Agent Bricks和Lakebase业务及全球扩张。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
医疗信息管理平台Predoc宣布获得3000万美元新融资,用于扩大运营规模并在肿瘤科、研究网络和虚拟医疗提供商中推广应用。该公司成立于2022年,利用人工智能技术提供端到端平台服务,自动化病历检索并整合为可操作的临床洞察。平台可实现病历检索速度提升75%,临床审查时间减少70%,旨在增强而非替代临床判断。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。