“大语言模型释放了 AI 的强大潜力,而现在是小模型高效应用的时代。”
近日,《麻省理工科技评论》发布2025年“十大突破性技术”,小语言模型位列首位。麻省理工科技评论认为,如果你的需求是重复性较高的特定请求,那么并不需要整个互联网的数据来训练模型。在某些任务中,专注于特定数据集的小模型,性能可以媲美甚至超越更大的模型。
事实确实如此。尤其对于提供专业服务的企业来说,直接部署通用大模型不仅成本高,而且往往无法解决具体行业里的专业场景问题,比如让通用大模型推荐合适客户的金融产品,或者对一段金融客户服务过程进行效果评价,TA就会力不从心或者出现幻觉胡乱回答。
通用大模型并非万能,大模型落地也不是简单粗暴的一力降十会。不同行业的企业要结合自身积累的数据、知识、业务场景、业务流程等资源,进行针对性的精细化打磨,构建起企业自己的行业大模型以及一系列基于场景的大模型应用,这才是大模型落地真正行之有效的方法。
在大模型落地的赛场上,金融行业是领跑者之一。因为金融行业天然具有数据属性和良好的数字化基础,同时金融企业和机构具备强烈的数智化升级需求与多样化的业务需求,以及对新兴技术的较高接受度与资金支持度。包括证券、银行、保险、信托、财富管理等在内的所有金融细分行业的每个场景,都值得用大模型重塑一遍。
金融证券机构正在用行业大模型重塑竞争力
金融证券行业大模型重塑的场景可以分为外部客户服务、内部员工提效和监管科技三大类。
外部客户服务包括智能投行、智能投顾、智能投研、智能投资、智能营销、智能客服等场景;内部员工提效包括智能风控、智慧运营、智能办公等场景;监管科技则涉及身份识别、监管数据支撑、风险预警等场景。
来源:《交易技术前沿》总第56期《人工智能大模型在证券行业应用路径与实践》
这些场景因为技术成熟度和场景价值度会有一些优先级排序,并不都是一蹴而就齐步实现。比如智能客服、 智能办公、智能营销、智慧运营等场景是技术相对最成熟和容易落地的场景,也是目前金融证券企业和机构在集中推进大模型落地的场景。而智能投资、智能投行等场景技术成熟度相对较低,未来落地仍需要一些时间。
客户经理和客服坐席是金融证券企业与客户连接互动的关键角色。客户经理侧重于提供专业的投资顾问服务和长期关系维护,客服坐席侧重于即时的问题解决和日常服务支持。两者相辅相成,共同为客户提供全面、优质的服务体验,从而增加客户对机构的信任和满意度。因此,持续提升客户经理和客服坐席的专业化水平、销售能力和服务能力就成为所有金融证券机构最重要的事项之一。
2024年初,在与多家大模型厂商深度交流后,中信建投证券选择中关村科金作为大模型应用落地的合作伙伴,并携手打造出证券行业金融产品学习的“大模型智能陪练平台”。该平台深度融合了智能知识助手和智能陪练功能,为中信建投证券300余家分支机构的客户经理们提供精准、高效、合规的金融产品信息获取及学习服务。
相比传统的集中培训、案例教学、观摩学习、集中考试等培训方法,大模型智能陪练平台使中信建投证券的产品部门整体节省80%以上的产品培训时间,销售团队提升70%以上的知识获取效率,预计整体可推动企业金融产品销售业绩提升20%左右。
中信建投证券“大模型智能陪练平台”也因为在大模型技术应用领域中具有前瞻性、创新性、并且能够带来实际价值和示范效应的实践,荣获“2025沙丘社区大模型先锋案例TOP50”奖项,以及“2024爱分析·金融数字化最佳实践案例”。
从知识应用到知识掌握,中信建投证券的大模型应用落地之路
金融证券机构传统培训方法难以解决的关键问题是,企业积累的行业知识大多停留在个人层面,无法有效转化为企业的知识库资源,优秀的销售技巧难以通过传统IT系统进行结构化保存,即便企业拥有部分相关知识,由于缺乏实践也可能沦为沉默的图书馆,难以起到达到良好的培训学习效果。此外,对于有大量产品资料的企业,客户经理难以通过高效的手段快速获取关键产品知识,导致对产品理解不深,影响产品销售目标达成。
中信建投证券“大模型智能陪练平台”从产品知识库入手,第一阶段打造智能知识助手,实现“知识应用”,第二阶段建设智能陪练助手,提升“知识掌握”。而一切的前提是一个更懂金融证券知识的行业大模型。
中关村科金基于得助大模型平台的模型一站式训推能力,对百亿级参数通用大模型完成10亿token金融证券知识注入,并针对金融产品培训陪练进行模型分层LoRA微调。训练完成的行业大模型相比通用大模型,金融证券专业知识的理解、推理、内容生成能力提升60%以上,为智能知识助手、智能陪练助手的应用打下坚实基础。
基于训练后的行业大模型,智能知识助手实现了知识管理、知识问答、智能产品推荐等新的场景功能,有效提升知识获取效率和知识应用场景。
中信建投证券每个金融产品发布时都会配有一套标准产品素材包,包括产品相关资料,以及精英客户经理与客户沟通过程的记录,涵盖Word、PDF、Excel、PPT、图片、音频、视频等多种格式类型。智能知识助手基于OCR多模态文档解析、ASR模型和音视频等技术,对这些素材进行精准解析,实现版面、图表、表格的识别适配和音视频的文字转译,整体识别准确率高于95%。
同时,知识助手与企业内部业务系统进行无缝集成,实现多渠道、多系统、多格式类型文档素材知识汇集,通过自动打标签、以及大模型对业务流程的理解,智能知识助手可以提供准确的、全面的FAQ问答信息,还可根据金融产品、基金经理、管理机构、研究员4个维度进行知识分类,帮助客户经理更好的进行产品推荐,确保推荐产品符合客户诉求,提升销售合规性。
智能陪练助手可基于不同形式的培训材料和培训要求,使用行业大模型智能生成对练话术,陪练助手会模拟成一个对金融产品感兴趣的客户并提问,通ASR(自动语音识别)和TTS(文本到语音)技术,陪练助手可提供真实的语音对练场景,增强交互体验,辅助客户经理完成培训对练。对练完成后,陪练助手会针对回答准确度、语速、响应时间、音量、服务态度等五个维度进行打分,并给出对练效果评价。通过这样模拟真实的语音对练交互练习, 在实际演练中提升客户经理展业过程的专业能力及应变能力。
大模型智能陪练平台采用私有化部署,最大程度确保企业内部数据安全。此外,大模型智能陪练平台还结合超过千项金融行业内容质检规则,对大模型生成内容进行实时质检与反馈,确保生成内容的合规性高于99%。
除了外部客户服务相关的智能陪练、智能知识助手,行业大模型在内部员工提效方面同样发挥巨大价值。比如,在风控合规领域,中关村科金携手申万宏源证券,打造了证券行业合规领域的专有大模型,推动知识库平台的智能化服务升级。依托中关村科金自研的得助大模型平台,与申万宏源证券的内部知识库和业务系统进行深度融合,打造出一款大模型知识助手应用。通过优化大模型问答RAG 模型的多模态文档识别和Rerank 检索算法等关键技术,该助手能够显著提升在合规领域的问答能力,帮助员工更高效地查询企业规章制度,确保业务的合规性。
此外,华福证券同样引入了中关村科金的智能质检系统,利用大模型、ASR智能语音、NLP语言处理等技术,实现对企微客服海量脱敏交互数据的合规质检,系统先进行机器质检,然后根据业务需要进行人工抽检或复检,通过人机结合的方式大幅提升质量管理的效率及会话数据的分析能力。
平台+应用+服务是企业大模型落地的最佳路径
中信建投证券的“大模型智能陪练平台”、申万宏源证券的“合规领域的专有大模型”的背后逻辑十分相似,都是基于企业知识库融入行业大模型能力,并接入内部业务系统,再打造满足具体场景需求的大模型应用。
这背后折射出国内企业在大模型落地上的一种共识:通用大模型主兜底,确保智能水平下限足够高;行业大模型主落地,确保场景应用价值足够大。从通用大模型到行业大模型和大模型应用,这一步工作很大程度上决定了大模型落地的成效和价值,大模型平台正是其中的关键。
大模型平台是一个专门为大模型的开发、训练、部署和应用提供支持和服务的综合性平台,无论是通用大模型的管理,行业大模型的精调,以及大模型应用的构建和部署,都离不开大模型平台。中关村科金不做通用大模型,但全力做好企业一站式大模型平台。刚刚升级的得助大模型平台2.0具备算力统一调度,一站式模型训推,应用快速构建三大能力,可以满足各类企业大模型应用的构建和部署需求。同时,得助大模型平台2.0 内置上百套基于企业最佳实践的场景应用模版,把个性化场景抽象成标准化套件,进一步降低企业大模型落地的时间和成本。
大模型价值需要通过大模型应用来呈现。对ToB企业来说,具备更丰富的行业Know-How和更深厚的行业知识积累,才更有可能打造出满足企业和客户需求的大模型应用。作为一家领先的大模型技术与应用公司,中关村科金聚焦大模型应用落地,特别是在企业高效连接客户的场景,拥有10余年的行业经验和产品能力积累。目前中关村科金的行业大模型和大模型应用已经在证券、银行、政务、央国企、保险、财富管理、制造、零售等多个行业相继落地,在提升客户体验和员工体验两大方向上帮助企业实现对外增长和对内提效。
在2024年12月举办的大模型技术与应用创新论坛上,中关村科金正式发布大模型时代的“三级引擎战略”,提出“平台+应用+服务是企业大模型落地的最佳路径”,这既是中关村科金的心得和实践,也是希望跟产业一起讨论,如何让中国的大模型落地做得更快更好。
平台是大模型落地的技术引擎,既包括大模型平台也包括数字化平台。对想要拥抱大模型的企业来说,结合自身数字化平台优势,选择自建或者合作一个大模型平台来打造行业大模型和大模型应用是迈入智能化阶段的关键。
应用是大模型落地的产品引擎,在企业经营全流程的各个环节中,都有可能通过大模型进行智能化升级,比如金融证券行业中提到的外部客户服务、内部员工提效和监管科技等细分场景,都可以利用智能化和数字化的平台相结合,打造出智能化的应用。比如前文提到的智能陪练、智能知识助手等。
服务是大模型落地的价值引擎。这里的服务既包含大模型厂商对企业的服务,也包括企业对其客户的服务。前者决定了企业落地大模型的效率和效果,后者决定了企业通过大模型应用为客户和员工带来的价值增量。
IDC最新预测,到2028年,60%的A1000企业将减少客户关系管理支出,选择更先进的数据工具、多样化的数据源和人工智能驱动的界面。到2028年,人工智能驱动的自动化将使50%的A2000企业能够采用身临其境的技术来重新构想客户参与方式,并促进更深层次的联系。
在企业高效连接客户这个赛道,行业大模型正在成为主流。
有多少行业就有多少行业大模型,有多少场景就有多少场景大模型应用。2025年是大模型应用落地全面爆发的一年,时不我待。
责任编辑:王煊
免责声明:
中国电子银行网发布的专栏、投稿以及征文相关文章,其文字、图片、视频均来源于作者投稿或转载自相关作品方;如涉及未经许可使用作品的问题,请您优先联系我们(联系邮箱:cebnet@cfca.com.cn,电话:400-880-9888),我们会第一时间核实,谢谢配合。