德勤和亚马逊云科技一直是紧密的全球战略合作伙伴,2015年开展全球战略合作,2018年在大中华区达成战略合作。在中国的五年时间里,德勤和亚马逊云科技聚焦汽车、生命科学、零售快消和制造等行业,在数据分析、安全与合规、SAP迁移上云、托管服务以及ESG等领域打造了系列解决方案。
最近双方又新增了合作内容,德勤中国与亚马逊云科技共同创建生成式AI联合实验室。亚马逊云科技大中华区创新成长企业及合作伙伴生态系统事业部总经理倪殿令表示,亚马逊云科技始终以不断降低人工智能及机器学习的门槛为目标和愿景,通过合作致力于帮助所有行业客户在生成式AI上进行创新实践。
具体合作将围绕“1+3”展开合作,“1” 是以亚马逊云科技的坚实技术为依托,在AI计算能力、亚马逊云科技海外区域推出的全新托管生成式AI服务Amazon Bedrock、和全托管机器学习服务Amazon SageMaker等技术领域深入合作;“3” 是结合德勤在战略咨询、技术实施和全球合规方面的卓越能力,在生成式AI业务应用战略咨询、生成式AI安全合规咨询和生成式AI应用落地场景创新三大方面展开合作,帮助企业打通从业务战略、应用场景、安全合规到技术落地的业务闭环。
跨越企业生成式AI发展的旅程
“有趋势不代表行业中所有的客户都能够真正从生成式AI中获得价值。”德勤中国管理咨询云服务领导合伙人及人工智能与数据服务副领导合伙人孙晓臻看到,企业要在这个过程中关注三件事。
第一,关注生成式AI到底带来了什么样的新用例和功能,因为有的东西是超越了以往想象的新模式;
第二,关注怎么运用、部署、运维生成式AI,需要跟上技术的节奏,通过跟供应商、跟合作伙伴去提炼这一部分能力;
第三,关注怎样持续评估已经落地的生成式AI应用,因为其会跟随大模型的发展节奏以及周边的应用开发节奏变化而变化。
生成式AI的发展也在不断变化,越来越多的企业不再是追求更多的参数,而是要把自己的数据结合模型定制服务;越来越多的部署在特定领域的模型,而且企业不只会运行一个模型;越来越多的生成式AI解决方案会结合到商业化软件中;越来越多的政策会出台,无论是全球还是中国。
“企业生成式AI发展的旅程,包括了探索、实践、发展三个阶段。”孙晓臻看到,很多企业低估了生成式AI的探索阶段,出现了一种想快速成功的幻觉,企业需要做好合理的规划和准备,不然就很容易停滞不前。
如何做好生成式AI旅程的规划,做多少积累才能真正把生成式AI运用到业务中,这些也是德勤中国和亚马逊云科技成立生成式AI联合实验室的原因。
德勤也看到,现在生成式AI的主要优先事项聚焦在业务策略和生成式AI用例积累、实现价值的速度和运营模式的灵活性、合作伙伴管理和运营成本、道德,合规和风险管理、激活高管和利益相关者的认同、为未来变更配备组织。联合实验室则可以在业务战略转型、安全合规、行业解决方案联合创新等方面为企业提供帮助。
提供最好的技术底座
在联合实验室,亚马逊云科技能够提供最好的技术底座。如何以低成本、高效的方式把模型运用起来、数据如何合规地管理等,有着非常多的工作隐藏在后面。
亚马逊云科技已经和德勤一起帮助企业解决这些问题,像帮助一家全球领先的制造企业部署企业知识智能问答助手,形成一套共享知识库,具备了自然语言处理和知识库检索能力, 能够及时响应,自动提取知识,快速定位例产品描述、用户手册、技术规格、营销材料、常见问题解答、法规等内容,在短短4个月之内,已经应用于50多个内部业务团队,在产品研发、IT、公司运营、客户服务等不同场景都获得了效率提升。
而这个案例能够实现生成式AI的成功,也是经历了一个旅程。德勤与亚马逊云科技从2020年就开始帮助该企业上云,实现了低代码平台基础架构的演进,2022年完成了云上数据湖的建立。
“正是有这样的前期积累,才能让这家企业在今年可以快速进行生成式AI的尝试,并取得成功。”亚马逊云科技大中华区技术专家团队总监王晓野说。
联合实验室首先将聚焦三个方向进行探讨,加速创造业务价值,包括:
第一,基于大语言模型的智能BI解决方案,以Amazon Bedrock和Amazon SageMaker为基础,预置了包括中文在内的多种大语言模型,可实现自然语言到SQL查询语言的无缝转换,使企业普通业务人员无需具备SQL专业技能也能轻松获取所需数据,并洞察业务价值;
第二,生成式AI知识管理解决方案,基于Amazon Bedrock和Amazon SageMaker,提供包括Amazon Titan和Anthropic Claude等领先人工智能公司的高性能基础模型,以及多种开源大语言模型选项。通过构建企业知识平台,帮助企业在保障内部数据隐私和安全的前提下,快速高效地部署知识问答或检索系统;
第三,大语言模型运维平台(LLMOps)解决方案,通过采用Amazon SageMaker作为模型训练和推理平台,使客户能自助对大语言模型调优工作进行流程化管理,利用基础设施即代码(IaC)快速生成工具链资源,实现操作自动化,提高模型迭代效率。
德勤的管理咨询和合规服务+亚马逊云科技的产品和解决方案,能够给客户提供一站式的服务。而且亚马逊云科技合作伙伴网络(APN)体系里面还有大量的合作伙伴,未来也会实现更多的共创共赢。
好文章,需要你的鼓励
Lumen Technologies对美国网络的数据中心和云连接进行重大升级,在16个高连接城市的70多个第三方数据中心提供高达400Gbps以太网和IP服务。该光纤网络支持客户按需开通服务,几分钟内完成带宽配置,最高可扩展至400Gbps且按使用量付费。升级后的网络能够轻松连接数据中心和云接入点,扩展企业应用,并应对AI和数据密集型需求波动。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
RtBrick研究警告,运营商面临AI和流媒体服务带宽需求"压倒性"风险。调查显示87%运营商预期客户将要求更高宽带速度,但81%承认现有架构无法应对下一波AI和流媒体流量。84%反映客户期望已超越网络能力。尽管91%愿意投资分解式网络,95%计划五年内部署,但仅2%正在实施。主要障碍包括领导层缺乏决策支持、运营转型复杂性和专业技能短缺。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。