AWS今天公布了一系列AI优化的实例,号称这是市场上最强大的实例,旨在吸引更多企业在AWS云平台上运行人工智能项目。
这个新的P3系列是基于NVIDIA最新一代Volta GPU——Tesla V100,对标的是微软和Google的云产品。该芯片是在5月公布,在大小和苹果Apple Watch手表的模片上封装了211亿个晶体管。这些晶体管形成了超过5700个处理核心,其中640个是所谓的Tensor Cores,是专门针对运行AI模型的优化电路。
Amazon新推出的P3实例系列有三种规格,分别提供每虚拟机1个、4个和8个V100。最高的两个配置中芯片是使用NVIDIA开发的NVLink技术连接的,该技术可交换数据进行处理,速度远远快于传统方式。这三个实例背后是有最多64个基于英特尔至强E5-2686v4 CPU修改版的vCPU支持。
所有这些芯片能够让最大的P3实例在特定情况下提供高达1 petaflop的性能。在更实际的情况下,该系列也要比AWS上一代P2快大约14倍。
AWS高管Matt Garman在声明中表示,P2实例已经是“当前云中能够最大限度完成机器学习”的实例,也就是说,P3系列的发布只会进一步巩固AWS的领先地位,特别是AWS的两大竞争对手Google和微软目前都还没有在他们各自的云平台上支持NVIDIA V100芯片。
Moor Insights & Strategy高性能计算和深度学习咨询主管Karl Freund表示:“AWS和NVIDIA再一次走在了前列,树立了业界其他厂商可以遵循的价格标杆。”
现在企业客户能够开始使用新P3系列的方法有两种,他们可以手动设置,或者使用针对P3系列的两个预配置Amazon Machine Images之一,其中包括。
NVIDIA表示,AWS客户是第一批可使用NVIDIA AI Cloud Container Registry的客户,这个软件堆栈包含常用的深度学习框架,例如TensorFlow、Caffee、CNTK和Torch。
NVIDIA公司副总裁、企业系统总经理Jim McHugh表示:“这将为开发者提供他们需要的大量功能,其想法是尽可能多地吸引用户,让深度学习普及开来。”
尽管AWS是第一个采用NVIDIA最新技术的厂商,但是其他云提供商也将这么做,不过他并没有提供具体的时间表。
P3系列的第一个采用者是位于纽约的化学模拟提供商Schrödinger LLC。这家公司宣称,新的实例让他们在一天内运行的模拟数量是上一代P2的4倍。
好文章,需要你的鼓励
在我们的日常生活中,睡眠的重要性不言而喻。一个晚上没睡好,第二天的工作效率就会大打折扣,而充足的睡眠不仅能让我们恢复精力,还能帮助大脑整理和巩固当天学到的知识。有趣的是,AI模型竟然也表现出了类似的“睡眠需求”。
DeepSeek-AI团队通过创新的软硬件协同设计,仅用2048张GPU训练出性能卓越的DeepSeek-V3大语言模型,挑战了AI训练需要海量资源的传统观念。该研究采用多头潜在注意力、专家混合架构、FP8低精度训练等技术,大幅提升内存效率和计算性能,为AI技术的民主化和可持续发展提供了新思路。
尽管模型上下文协议(MCP)自11月推出以来用户数量快速增长,但金融机构等监管行业仍保持谨慎态度。银行等金融服务公司虽然在机器学习和算法方面是先驱,但对于MCP和Agent2Agent(A2A)系统的采用较为保守。监管企业通常只使用内部代理,因为其API集成需要经过多年审查以确保合规性和安全性。专家指出,MCP缺乏基本构建块,特别是在互操作性、通信标准、身份验证和审计跟踪方面。金融机构需要确保代理能够进行"了解您的客户"验证,并具备可验证的身份识别能力。
加拿大女王大学研究团队首次系统评估了大型视频语言模型的因果推理能力,发现即使最先进的AI在理解视频中事件因果关系方面表现极差,大多数模型准确率甚至低于随机猜测。研究创建了全球首个视频因果推理基准VCRBench,并提出了识别-推理分解法(RRD),通过任务分解显著提升了AI性能,最高改善幅度达25.2%。