AWS今天公布了一系列AI优化的实例,号称这是市场上最强大的实例,旨在吸引更多企业在AWS云平台上运行人工智能项目。
这个新的P3系列是基于NVIDIA最新一代Volta GPU——Tesla V100,对标的是微软和Google的云产品。该芯片是在5月公布,在大小和苹果Apple Watch手表的模片上封装了211亿个晶体管。这些晶体管形成了超过5700个处理核心,其中640个是所谓的Tensor Cores,是专门针对运行AI模型的优化电路。
Amazon新推出的P3实例系列有三种规格,分别提供每虚拟机1个、4个和8个V100。最高的两个配置中芯片是使用NVIDIA开发的NVLink技术连接的,该技术可交换数据进行处理,速度远远快于传统方式。这三个实例背后是有最多64个基于英特尔至强E5-2686v4 CPU修改版的vCPU支持。
所有这些芯片能够让最大的P3实例在特定情况下提供高达1 petaflop的性能。在更实际的情况下,该系列也要比AWS上一代P2快大约14倍。
AWS高管Matt Garman在声明中表示,P2实例已经是“当前云中能够最大限度完成机器学习”的实例,也就是说,P3系列的发布只会进一步巩固AWS的领先地位,特别是AWS的两大竞争对手Google和微软目前都还没有在他们各自的云平台上支持NVIDIA V100芯片。
Moor Insights & Strategy高性能计算和深度学习咨询主管Karl Freund表示:“AWS和NVIDIA再一次走在了前列,树立了业界其他厂商可以遵循的价格标杆。”
现在企业客户能够开始使用新P3系列的方法有两种,他们可以手动设置,或者使用针对P3系列的两个预配置Amazon Machine Images之一,其中包括。
NVIDIA表示,AWS客户是第一批可使用NVIDIA AI Cloud Container Registry的客户,这个软件堆栈包含常用的深度学习框架,例如TensorFlow、Caffee、CNTK和Torch。
NVIDIA公司副总裁、企业系统总经理Jim McHugh表示:“这将为开发者提供他们需要的大量功能,其想法是尽可能多地吸引用户,让深度学习普及开来。”
尽管AWS是第一个采用NVIDIA最新技术的厂商,但是其他云提供商也将这么做,不过他并没有提供具体的时间表。
P3系列的第一个采用者是位于纽约的化学模拟提供商Schrödinger LLC。这家公司宣称,新的实例让他们在一天内运行的模拟数量是上一代P2的4倍。
好文章,需要你的鼓励
这篇研究重新审视了循环神经网络中的双线性状态转换机制,挑战了传统观点。高通AI研究团队证明,隐藏单元不仅是被动记忆存储,更是网络计算的积极参与者。研究建立了一个从实数对角线到完全双线性的模型层级,对应不同复杂度的状态跟踪任务。实验表明,双线性RNN能有效学习各种状态跟踪任务,甚至只需极少量训练数据。研究还发现,纯乘法交互比加法交互更有利于状态跟踪,为循环网络设计提供了新视角。
这项研究探讨了多模态大语言模型在增强推理能力时出现的视觉幻觉问题。研究发现,模型生成更长推理链时,对视觉信息的关注减少,导致幻觉增加。研究者提出RH-AUC指标和RH-Bench基准来评估模型在推理与幻觉间的平衡,发现较大模型表现更好,纯强化学习训练优于监督微调加强化学习,且训练数据的类型比数量更重要。这些发现对开发既具推理能力又保持视觉准确性的AI系统具有重要意义。
这篇研究探讨了大语言模型在自动推理任务中的不确定性问题。研究者提出,模型生成形式规范时的概率不确定性不是缺陷,而是宝贵的信号源。通过引入概率上下文无关文法框架分析SMT-LIB程序分布,他们发现不确定性信号具有任务相关性(如逻辑任务中的语法熵AUROC>0.93)。他们的轻量级信号融合方法能减少14-100%的错误,仅需最小弃权,将大语言模型驱动的形式化转变为可靠工程学科。研究揭示当模型正确理解逻辑关系时会产生稳定的语法模式,为判断何时信任模型提供了可靠指标。
来自沙特阿拉伯王子苏丹大学和阿尔法萨尔大学的研究团队开发了GATE(General Arabic Text Embedding)模型,这是一套专为阿拉伯语设计的文本嵌入系统。该研究结合了套娃表示学习和混合损失训练方法,解决了阿拉伯语特有的语义处理挑战。GATE模型在MTEB基准测试的语义文本相似度任务中表现卓越,比包括OpenAI在内的更大模型高出20-25%,同时保持了多维度(768至64)的高效表现。研究通过详细的错误分析揭示了模型在不同相似度水平上的表现特点,为阿拉伯语NLP领域提供了新的研究方向。