ChatGPT现在也在Oracle Cloud Infrastructure(OCI)中训练了!
甲骨文通过与微软的合作,将Azure平台扩展到OCI,支持OpenAI的持续发展。不仅是OpenAI,甲骨文在第四季度签署超过30项人工智能销售订单,总金额超过125亿美元。这一利好也反映在财报上,Oracle 2024财年第四财季营业收入为143亿美元,同比增长3 %。
Oracle Database 23ai能够让企业客户与数据库进行自然语言交流,并在几分钟内开发新应用程序,客户无需编写任何代码,还可以跨越系统与地域与所有数据进行交互,实现“4个Any”——Anytime、Anywhere、Any Data、Anyone。
未来23ai还将推出本地版,帮助企业更好地进行RAG(检索增强生成),目标是让管理、开发和生成更简化。
用一条SQL贯通各类数据
企业都知道应用生成式AI好,但是具体应该怎么做?甲骨文为企业提供了一个使用生成式AI的平台“Oracle Database 23ai”。
在日前举办的甲骨文数据·AI论坛2024上,甲骨文公司副总裁及中国区董事总经理吴承杨强调了甲骨文的数据库愿景:轻松生成和运行现代应用和分析,并适用于任何规模的项目。
甲骨文公司副总裁及中国区董事总经理吴承杨
甲骨文融合数据库中的最新版本Oracle Database 23ai的新功能主要体现在,面向数据的AI(AI for Data)、加速应用程序开发(Dev for Data)和关键任务数据(Mission Critical for Data)。
融合数据库的重要性体现在,能够在同一平台上运行不同的数据类型,包括图数据、空间数据、结构化数据、非结构化数据、向量数据。
但平台上的各种数据如何贯穿起来?答案就是SQL。
甲骨文通过大语言模型生成SQL,SQL可以在平台上融会贯通的切入到各种数据类型。吴承杨用地铁来举例,比如你进入地铁的一个线路,就可以达到这条线路的每一站,但是问题是如何进入,现在只需要说一句话就可以进入。
当然这里最重要的一点是,甲骨文把向量数据库嵌到整个数据库里,而不是将数据库的内容拿出来给AI,这让用户应用和数据的使用更加简单化。
甲骨文公司中国区技术咨询部高级总监李珈谈到一个手机应用客户,他们收到的投诉信息有文本、语音等类型,他们之前的做法是将投诉信息向量化后,放在向量数据库,通过相似性搜索检索出最有意见的20个人,再去关系型数据库查询。这样往往会检索出不是需要分析的地区的客户,这就需要回到向量数据库把搜索范围扩大,而现在只需要一条SQL就能将匹配的内容准确的搜索出来,效率的提升是不可比拟的。
在企业中,除了DBA(数据库管理员),可能很多人都未必知道数据库是什么。甲骨文能做到的就是让企业用户在使用数据库时根本感受不到数据库的存在,却能够拥有稳定、流畅的体验,就像我们无需知道一个房间的Wi-Fi安装在哪里,便能体验到满格的信号。
OCI 成为企业AI发展中的关键角色
今天算力资源是紧俏的,几乎每一个企业都要进行训练、优化、推理,而且GPU资源的使用有些时候还跟数据中心的地点有关系,比如推理需要和应用在一起,那么数据中心就不能随意挪动。
“大模型进化所需要的计算量呈指数级增长,Oracle AI 基础设施有自己的优势。”吴承杨说。首先是容量问题,这不同于虚拟机,因为像OpenAI这类的公司需要的资源是庞大的;其次是需要怎样的GPU去支撑,比如GPU的互联问题,如何保证更低的延时。
“甲骨文的优势在于与英伟达一同设计基础设施,同时使用基于以太网的RoCE,并对以太网进行优化形成无损网络。”甲骨文公司中国区技术咨询部高级总监嵇小峰说,这使得整个GPU拥有更好的可扩展性,现在可以达到3万张卡,未来量级可能会更大。
通过新的OCI Compute裸机实例、超低延迟RDMA网络和高效能储存,OCI Supercluster的速度将显著加快。OCI Compute同时采用NVIDIA GB200 Grace Blackwell Superchip与 NVIDIA Blackwell B200 Tensor Core GPU,协助客户应对 AI 模型不断增长的需求。
Oracle云技术运用一系列NVIDIA堆栈,例如NVIDIA加速计算基础设施和NVIDIA AI Enterprise软件平台,其中包括新推出的NVIDIA NIM™推理微服务。这些微服务建立在 NVIDIA TensorRT™、NVIDIA TensorRT-LLM和NVIDIA Triton Inference Server™等NVIDIA 推理软件的基础上。
甲骨文除了将Microsoft Azure AI平台扩展到OCI,为OpenAI 提供更多的算力支持外,还与Google Cloud合作,让客户可以将OCI和 Google Cloud 技术结合使用。
例如,锐明技术正基于OCI构建以AI为核心的商用车安全和信息化解决方案,通过使用AI+视频监控技术保障商用车行车和公共安全,业务模块包括驾驶员行为检测、高级辅助驾驶系统等。
OCI的强劲算力帮助锐明技术构建了数据预处理、标注、训练和推理平台。此外,在全球拥有48个云区域的OCI,还满足其业务全球化和数据合规的需求,保障业务稳定高效运行,且综合性价比高。
今天甲骨文正在助力中国出海企业,无论是训练还是推理,OCI都可以帮助企业在应对市场挑战时,实现快速发展和跨越式增长,为全球业务拓展提供坚实的后盾。
好文章,需要你的鼓励
这项由Midjourney团队主导的研究解决了AI创意写作中的关键问题:如何让AI既能写出高质量内容,又能保持创作的多样性和趣味性。通过引入"偏差度"概念和开发DDPO、DORPO两种新训练方法,他们成功让AI学会从那些被传统方法忽视的优秀独特样本中汲取创意灵感,最终训练出的模型在保持顶级质量的同时,创作多样性接近人类水平,为AI创意写作开辟了新方向。
初创公司Positron获得5160万美元A轮融资,推出专门针对AI推理的Atlas芯片。该公司声称其芯片在性能功耗比和成本效益方面比英伟达H100高出2-5倍,并已获得Cloudflare等企业客户采用。Positron专注于内存优化设计,无需液体冷却,可直接部署在现有数据中心。公司计划2026年推出支持16万亿参数模型的下一代Titan平台。
上海AI实验室联合多所高校开发出VisualPRM系统,这是首个专门用于多模态推理的过程奖励模型。该系统能像老师批改作业一样逐步检查AI的推理过程,显著提升了AI在视觉推理任务上的表现。研究团队构建了包含40万样本的训练数据集和专门的评估基准,实现了在七个推理基准上的全面性能提升,即使是最先进的大型模型也获得了5.9个百分点的改进。