聚云科技创始人朱军在今年的亚马逊云科技合作伙伴峰会上遇到了一件趣事:在数十家合作伙伴中,一半专注于RAG(检索增强生成),另一半则深耕于智能客服,几乎没有第三类应用。
这种现象恰巧反映出市场对大模型的过度乐观,而在实际落地时,智能客服、问答知识库类应用仍然是主要关注点。朱军也坦言,在同质化严重的情况下,就需要向应用层延伸,这也要求合作伙伴要具备更强的能力。
聚云科技是猎豹移动控股的子公司,专注于多云管理服务(MSP)。作为亚马逊云科技高级咨询合作伙伴,聚云科技与亚马逊云科技的合作已有十年之久,双方共同见证了中国互联网从出海的高速发展,到现在生成式AI时代的来临。
从最初为猎豹移动提供技术支持的内部团队,到为中国企业出海提供云管理服务,再到通过生成式AI推动客户在云端实现创新,聚云科技一直紧随市场变化,不断创新业务模式。
聚云科技创始人朱军
全栈生成式AI能力的炼成
生成式AI产生的价值已经不用过多赘述,但现阶段对于企业而言,直接训练大模型并非最佳选择。要想真正实现落地,必须从那些能直接产生价值的应用场景入手。
猎豹移动公司董事长兼CEO傅盛一直是AI领域的深耕者,他把生成式AI落地分为三个段位,青铜:企业刚刚开始接触共有数据大模型进行一些尝试,实现文生图、文生视频,以及文案包装等简单工作;黄金:随着企业对大模型能力范围的逐步理解,使用企业数据让大模型理解企业内部运营,实现智能客服等;王者:实现企业经营数据、大模型和应用三者的绑定,通过AI辅助决策,帮助企业提高决策效率与准确率。
基于对生成式AI和对客户场景的理解,过去两年,聚云科技在亚马逊云科技全球基础设施上搭建了一系列生成式AI解决方案,包括RAGPro企业知识库、AI-Space 、数字人、DecisionAI,实现了Data for AI-Ready Service 的全栈生成式AI创新业务支持能力。
RAGPro企业知识库:通过使用Amazon Bedrock接入Anthropic Claude 3.5系列模型进行语音转文字与内容生成,打造了企业知识库解决方案,实现企业数据汇总,在内部帮助培训,在外部实现智能客服等,让企业工作效率提高30%-50%,运营与人力成本降低75%。Amazon Bedrock让聚云科技可以结合预训练模型和知识库组件,轻松实现RAG,并应用于RAGPro解决方案中,进一步提升信息检索效率。
AI-Space:通过Amazon SageMaker 进行模型训练和部署,再利用Amazon Bedrock的模型管理能力,对Stable Diffusion的插件API进行封装,帮助企业快速部署文生图片,文生视频解决方案,将原来平均3-6个月的上线周期缩短至一周。
数字人:基于前面两个基础,实现了数字人的意图识别与文字生成等功能,从而为消费者提供流畅、高质量的直播互动体验。
DecisionAI:通过对接Amazon Relational Database Service (Amazon RDS)、Amazon Redshift等数据源,再基于Amazon Bedrock接入Claude 3.5模型进行归因分析,打造了生成式BI解决方案,为企业业务人员提供数据洞察与深度行业解析,助力企业快速响应业务变化,捕捉关键商业机会。
MSP是大模型时代不可或缺的角色
聚云科技正在为客户赋能的路上不断加速,为WPS快速新增了生成式AI功能“Text2PPT”和“Doc2PPT”;为LiveMe打造了全新生成式AI应用“KaCha”, 可以为用户自动生成不同风格照片,为短视频客户提供智能图像擦除、背景抠除、图片转视频、视频风格化等视频生成能力;为某国际广告传播集团打造一站式广告创意融合平台,大大提高了不同团队之间的工作效率,将广告创意项目的工作时间由之前的一个月缩短到四天。
客户在生成式AI领域的创新,离不开亚马逊云科技的赋能,主要涵盖技术支持、解决方案共创、市场营销与推广三大领域。
端到端专业赋能:通过技术专家培养;全年提供20+次培训,涵盖8场AI专项课程,累计培训超过230人次;专业团队支持方面,PSA和SSA团队协助聚云科技进行自研模型的训练与调优。
解决方案共创:与CTO Office联合构建图像生成解决方案、与CSDC联合构建机频生成解决方案。
营销与推广:GenAI POC/MDF计划的支持;推动多行业渠道销售团队合作、行业媒体方案宣传;并开展各类市场营销活动推广。
同时,亚马逊云科技根据聚云科技的特点,针对员工开展了两类培训。首先是基础培训,帮助刚接触云技术的员工打好云计算基础;其次是AI实践培训,针对具体应用场景,提升员工的实战能力。
“我坚信未来一定是一个高度专业化分工的社会,云计算和大模型将进一步加剧技术的分工,因此,MSP在其中扮演的角色将变得愈加重要。”朱军说,“我们扮演的是承上启下的角色,我们的核心价值在于对客户和云厂商产品服务的理解。”
在大模型时代,MSP是不可或缺的一员。作为中国首批获得亚马逊云科技生成式AI能力认证的合作伙伴,聚云科技未来将继续与亚马逊云科技保持深度合作。在生成式AI全栈工具和应用开发方面持续创新,特别是在媒体与娱乐、零售、金融、汽车等行业解决方案领域,为客户提供更优质的产品与服务,与更多中国企业携手服务全球市场。
好文章,需要你的鼓励
在2025年KubeCon/CloudNativeCon北美大会上,云原生开发社区正努力超越AI炒作,理性应对人工智能带来的风险与机遇。随着开发者和运营人员广泛使用AI工具构建AI驱动的应用功能,平台工程迎来复兴。CNCF推出Kubernetes AI认证合规程序,为AI工作负载在Kubernetes上的部署设定开放标准。会议展示了网络基础设施层优化、AI辅助开发安全性提升以及AI SRE改善可观测性工作流等创新成果。
维吉尼亚理工学院研究团队对58个大语言模型在单细胞生物学领域的应用进行了全面调查,将模型分为基础、文本桥接、空间多模态、表观遗传和智能代理五大类,涵盖细胞注释、轨迹预测、药物反应等八项核心任务。研究基于40多个公开数据集,建立了包含生物学理解、可解释性等十个维度的评估体系,为这个快速发展的交叉领域提供了首个系统性分析框架。
DeepL作为欧洲AI领域的代表企业,正将业务拓展至翻译之外,推出面向企业的AI代理DeepL Agent。CEO库蒂洛夫斯基认为,虽然在日常翻译场景面临更多竞争,但在关键业务级别的企业翻译需求中,DeepL凭借高精度、质量控制和合规性仍具优势。他对欧盟AI法案表示担忧,认为过度监管可能阻碍创新,使欧洲在全球AI竞争中落后。
西湖大学王欢教授团队联合国际研究机构,针对AI推理模型内存消耗过大的问题,开发了RLKV技术框架。该技术通过强化学习识别推理模型中的关键"推理头",实现20-50%的内存缩减同时保持推理性能。研究发现推理头与检索头功能不同,前者负责维持逻辑连贯性。实验验证了技术在多个数学推理和编程任务中的有效性,为推理模型的大规模应用提供了现实可行的解决方案。