容联云将大模型的风，吹到行业当中 原创

各行各业都希望能够让AI技术与各自的业务应用深度融合，关于行业大模型的研发也就此展开。金融行业中许多银行和保险公司正运用大数据和机器学习技术创新智能风险评估和欺诈检测系统。制造业则依赖物联网和机器视觉技术，推动生产流程的智能化。医疗行业更是运用深度学习技术，期望能够为患者提供更精确的诊断和治疗。

要想成功实施行业大模型，容联云AI研究院院长刘杰认为需要从三个关键层面出发：第一，要对目标行业有深入的了解，明确其业务特性和需求。第二，在模型建设中，必须确保它具备强大的核心能力，涵盖基础、通识和智能化等各个方面。第三，结合这些知识和能力为特定行业设计并实施真正有效的解决方案。

但是刘杰也在行业中看到一个现象，许多公司在大模型的热潮中盲目跟风，招募大量专家进行研发，但最后可能发现应用的效果并不如预期，导致项目的撤销。刘杰认为这实际上是一个警示，提示公司应当结合自己的战略和产品去考虑研发大模型的必要性和目标。

那么，当前的行业大模型进展到了哪一步呢？

向垂直行业的大模型进发

容联云很早就开始探索智能化道路：2017年，容联云发布了语音+文本机器人，此后也持续在人工智能技术上进行产品和解决方案的产业落地探索；2021年，容联云收购客户关系管理软件服务商过河兵科技和数据智能服务商诸葛智能。容联云已经形成“通讯+数据+智能”的完整技术底座。

今年年初，随着ChatGPT的爆火，容联云的研发团队又意识到，他们的研发基础和研究路线与 ChatGPT 也有许多契合之处，例如在产品和应用中提升语言生成能力、查询代码生成能力和数据分析等认知智能方面的技术。“技术的路线环节、方案等大框架是相通的。”刘杰解释道。因此，容联云很快将自己的研究方向与ChatGPT进行了对比和锁定，并开始投入前期的大模型基础调研、算法和模型训练的研发过程。

容联云在实现行业大模型的路径已经非常清晰，前半段会相对较快地搭建起技术流程并走通技术通路，后半段再与具体的业务场景和客户的垂直应用相结合，针对一些技术细节反复摸索和调试。

“容联云在大模型研发过程中要着力解决后半段的问题，这也是未来一段时间我们将主要关注的问题。”刘杰说道。因为与场景结合的细节对模型最终的能力水平和质量影响较大，例如需要使用何种规模的模型、如何实现并行的多机多卡训练、需要多少数据以及需要何种质量的数据等数据工程上的问题。

“目前，关于行业大模型的各种技术的讨论、分析和资料非常丰富，因此在这个层面上，技术上并不是关键障碍，而是如何更好地将现有的通用技术与具体场景进行匹配，并进行更好的能力研发和落地。”

三个层面打造行业大模型 

容联云的模型是技术的积累和实现，就是希望通过产品将这些技术能力转化为赋能客户的实用工具，增强客户的生产力。容联云采用了务实的策略，按照三个具体阶段来实现行业大模型的能力。

首先，行业大型模型的加入使得在较少的训练数据上也能适应新的业务场景，容联云可以显著提升其原有的AI和NLP能力，特别是在意图识别、实体识别等方面。

其次，行业大模型使容联云实现了一些之前没有落的功能，如文案生成、问答上下文理解及文章解析等。

最后，容联云整合行业大模型的能力，进一步深化AI与业务的融合，创造出真正的AI原生智能化产品“赤兔大模型”。

三个层面构成了容联云从技术到产品的整体研发路径。赤兔大模型是容联云面向企业应用的垂直行业多层次大语言模型，赤兔大模型聚焦懂交流、会分析、有知识、能执行“四大能力”，为智能客服和营销等场景保驾护航。

基于“赤兔大模型”，企业可以搭建自己的数智化服务和营销相关业务场景，完成从“降本增效”到“价值创造”的进化，赋能沟通智能2.0时代。刘杰介绍，在赤兔大模型加持下，智能沟通2.0将在AI基础能力、会话分析洞察、对话能力、人机协同四个方面有大幅提升。

AI基础能力方面，智能客服依赖的上下文意图、情感识别、实体识别、信息抽取、相似问生成等能力均可通过AI大模型替换或做能力补充；会话分析洞察方面，AI大模型可对沟通记录进行质检标记、主动分析座席工作行为，自动生成最佳实践SOP，极大挖掘呼叫中心大量会话信息的潜在价值；对话能力方面，基于赤兔大模型丰富的参数和强大的内容生成能力，能够支持智能客服实现更加个性化的问答回复；人机协同方面，企业可以利用大模型做AI助手的工程化设计，从坐席话务前中后不同环节辅助陪伴坐席更好、更高效的完成业务。

依托赤兔大模型，企业客服可以实现多维度、细粒度的对话分析理解与内容生产，通过意见挖掘、情感分析、立场检测等洞察用户需求。同时，赤兔大模型还针对多种场景的人机交互应用，自动生成业务话术及流程方案、问答知识库，提升AI运营效率、客服效能及销售转化。刘杰表示，丰富的内部知识储备，和灵活的外部知识运用，可以解决大模型在真实性、即时性、逻辑性、可控性等方面的问题。

把握大模型工具，落地行业

赤兔大模型在落地行业的选择上，容联云并没有“面面俱到”，而是把金融行业做深，做透。在金融领域，由于各块业务、系统间数据不互通，往往需要SaaS厂商提供成型的解决方案。“赤兔大模型”结合金融领域知识进行训练，可以真正理解客户的开放问题，根据不同的业务需求和场景特点匹配相应回答，提高金融服务的效果。

在实际落地场景中，金融客户更多使用十亿级参数规模的模型来完成服务。所以，赤兔大模型在参数规模和模型性能之间做到了极高的效率，以50～100亿的参数达到了极高的生成能力，为客户提供更高的性价比和满足私有化部署的要求。

目前，赤兔大模型助力某国有大型券商企业对原有客户联络中心系统进行开创性价值升级，为其打造“全域客户洞察+个性化营销触达”的解决方案。业务系统升级后，客户体验显著改善，开户转化率、月活率、交易额等核心指标获得长足提升。

赤兔大模型技术已经在行业中得到验证并开始得到投入，随着它逐渐成熟，容联云也在研发更完善的赤兔大模型生态产品。容联云的目标是通过大模型的应用，提升销售团队的业务水平，特别是缩短普通销售和金牌销售之间的差距。大模型能够更好地赋能一线销售人员，特别是普通水平的销售。刘杰表示，预计通过大模型的辅助，初级销售的产能将提升近50%，而中级销售的产能提升目标为10%至30%。

在互联网时代，网络作为一种信息工具，极大程度上为信息的传播提供了更加快速和便捷的方式。在AI时代，大模型作为一个智能工具，也为企业发展提供了新的思路和方向。

企业在这一阶段纷纷入局并不是一件坏事，因为与自身业务相结合的行业大模型，必定会在激烈的市场竞争中占领先机。“根据自身业务、客户和投入情况，做出具有个性化的行业大模型，共同向‘山顶’进发。”刘杰说道。