每年亚马逊云科技在纽约峰会,亚马逊云科技都会给我们带来人工智能上的惊喜。今年,亚马逊云科技一如既往地带来了生成式AI令人瞩目的一系列更新,这些更新再次降低了生成式AI的使用门槛,将生成式AI的应用推向了一个新的高度。更新包括生成式AI驱动的企业级应用Amazon App Studio的预览版、Amazon Bedrock及Amazon Q的增强。
Amazon App Studio企业级生成式AI应用轻松打造
“自2023年以来,有326个生成式AI功能全面投入使用。”亚马逊云科技全球AI产品副总裁Matt Wood表示,在过去18个月中,亚马逊云科技推出的机器学习和生成式AI功能是其他主要云提供商总和的两倍多。
纽约峰会最大的亮点无过于Amazon App Studio,让用户可以通过自然语言轻松打造企业级应用程序。用户可以指定应用程序的功能和应该提取的数据源,Amazon App Studio将在几分钟内生成一个“专业开发人员可能需要几天时间才能从头开始构建”的应用程序。
现场展示了库存跟踪系统、索赔审批流程:用户输入应用程序的名称,调用数据源,然后描述要生成的应用程序。同时系统附带了一些示例提示提供帮助,用户可以根据需要输入描述,Amazon App Studio会根据描述生成应用程序的要求列表以及它将执行的操作。
Amazon App Studio使用了Amazon Bedrock上的多个模型,包括Amazon Titan、Claude 3等模型,具体会取决于工作来选择。
从数据连接到智能代理,Amazon Bedrock全面升级
现在用户可以在Amazon Bedrock中微调模型了,微调Anthropic Claude 3 Haiku功能现已推出预览版,允许企业根据其需求和用例指定模型,从而使定制更容易,这是Claude 3模型首次可用于微调。
众所周知,更好的数据意味着更好的生成式AI内容输出。Amazon Bedrock增强了数据连接器范围,加入了对广泛使用的第三方Web域数据源的连接,包括Confluence、Salesforce、SharePoint上的数据都可以轻松接入到Amazon Bedrock当中。知识库可以让模型读懂用户专属的内容以扩充模型的知识面,很多用户在这些Web域中存储日常使用的数据,更新使用户能够更方便地将生成式AI带入到其日常应用场景当中。
而且Amazon Bedrock还提供了过滤器,在Guardrails中推出了基于上下文基础检查的幻觉检测功能,研究显示Guardrails可过滤高达75%的幻觉。这项功能是通过对上下文的基础性检查来提供的,用户可以在Amazon Bedrock的Guardrails中设置针对生成结果准确性的关联值,低于这一设定阈值的生成结果就会被Guardrails判定为不相关的幻觉结果并不予显示。
Amazon Bedrock还为代理提供了两项新功能:内存保留和代码解释。
Amazon Bedrock的代理(Agent)功能推出了跨多个交互的记忆保留特性,来解决生成式AI记不住的问题。基于该功能构建的代理(现在也被称为智能体),能够随时间推移学习并适应每个用户的独特需求和偏好,同时多个记忆之间完全分离,每个用户的对话历史和上下文都会安全地存储在唯一的记忆ID之下。这项功能将有助于提升预订航班或是处理客户反馈等复杂任务代理下的用户体验。
Amazon Bedrock还推出了代码解释支持功能,允许Agent代理在安全的沙箱环境中动态生成和运行代码片段,从而显著提升其处理复杂任务的能力,包括数据分析、可视化、文本处理、方程求解和优化问题等,并支持多种数据类型和格式,同时在需要时由大型语言模型(LLM)决定是否调用该功能,以确保灵活性和安全性。
针对模型的集中治理,Amazon Bedrock推出了ApplyGuardrail的API用于评估所有基础模型的输入提示和响应。不论你的生成式AI应用使用的是哪款基础模型,或者哪几款基础模型,构建者都可以配置一套标准化的防护措施以确保其应用中的模型输入提示和模型响应拥有更加一致的表现。
Swami Sivasubramanian谈到,借助Amazon Bedrock中的新功能,企业可以更轻松地利用数据、增强代理,并快速、安全且负责任地将生成式AI部署到生产中。
Amazon Q的后缀日益丰富,功能也日益扩展
亚马逊云科技将Amazon Q Developer扩展到Amazon SageMaker Studio中,以简化并加速机器学习的工作流程。
在SageMaker Studio中,数据科学家和ML工程师可以获得Amazon Q Developer的所有现有功能,如代码生成、调试和建议,以及数据准备、模型训练和模型部署等任务的专业帮助。
Amazon Q Developer现在还扩展至在用户自己的集成开发环境IDE中,并提供自定义功能,以在用户的IDE代码编辑器和聊天中提供基于开发者私有代码库生成的代码建议,这使得开发者能够更好地打造其专属的代码助手。
另外,Amazon Q Business的一项功能Amazon Q Apps现已正式发布。用户可以通过自然语言对话的方式,构建基于企业数据的生成式AI应用,并安全地将其发布到企业内部的应用程序库Amazon Q Apps Library中,并添加多个应用类型标签,从让企业内的使用者方便地进行检索,以查找其所需的Amazon Q Apps应用。
比如,用户提出“请从会议记录中提取行动要点”或“我需要协助撰写公司文件”,Amazon Q可以快速生成应用程序自动完成这些任务,并持续提供高效服务。“我们让任何人都能够使用Amazon Q Apps构建生成式AI应用程序,只需在几秒钟内编写简单的自然语言提示即可。”Sivasubramanian说。
至此,亚马逊云科技的生成是AI技术栈已经越来越丰满,一系列强大而便捷的工具,极大地降低了企业使用生成式AI的门槛,帮助企业用生成式AI在竞争中保持领先地位。
亚马逊云科技公布全球第二批生成式AI能力认证合作伙伴
今年3月,亚马逊云科技在全球推出业内首个生成式AI能力认证,旨在验证、认可在利用亚马逊云科技生成式AI技术方面拥有专业知识、实践经验和成功案例的合作伙伴。
在2024纽约峰会上,亚马逊云科技宣布了全球第二批获得该能力认证的合作伙伴,其中有11家来自中国的合作伙伴,包括伊克罗德、柯基数据、八斗智能、墨奇科技、神州数码、聚云科技、神州泰岳、灵奥科技、Zilliz、跨海科技和华讯网络。
截止目前,全球已有60余家合作伙伴获得了该认证。亚马逊云科技生成式AI与机器学习市场推广全球副总裁Rahul Pathak表示,“我们非常兴奋迎来新一批获得亚马逊云科技生成式AI能力认证的合作伙伴。自该能力认证推出以来,这些合作伙伴已经在全球范围内帮助客户构建和部署了许多生成式AI工作负载,取得了显著成就和积极影响。”
好文章,需要你的鼓励
Manulife公司的AI战略以惠及多个市场的关键用例为中心,其中一个主要重点是销售代理支持。随着代理的客户组合不断增长,他们越来越难以跟踪个人需求和偏好。
数据管理供应商Veeam刚刚发布了针对开源VMware替代方案Proxmox的软件版本,同时开发出一套原型工具来顶替另一款虚拟化平台,即基于Xen Server的分叉XCP-NG。
多模态大型语言模型(MLLMs)通过遵循一般的人类指令来解释视觉内容,已经展示了令人印象深刻的视频理解性能。然而,这些MLLMs在