本文聚焦人工智能与量子科技的深度融合,将量子经典混合LoRA技术应用于商业银行大模型智能路由场景,有效降低了模型的参数量,实现对用户意图分类的精准判别与动态模型分发。
2026年《政府工作报告》明确提出“建立未来产业投入增长和风险分担机制,培育发展未来能源、量子科技、生物制造、具身智能、脑机接口、6G等未来产业”。量子科技已连续三年被写入政府工作报告。作为引领新一轮科技革命和产业革命的关键领域,量子科技正加速从基础研究向产业应用迈进。此背景下,本文聚焦人工智能与量子科技的深度融合,将量子经典混合LoRA技术应用于商业银行大模型智能路由场景,有效降低了模型的参数量,实现对用户意图分类的精准判别与动态模型分发。
大模型动态路由机制
“4M”模型动态路由框架
当前,随着大模型技术的不断发展,多模型协同逐渐成为企业AI系统的主流架构,模型动态路由机制已成为影响系统效率、成本与质量的重要基础能力。本文创新提出“4M”模型动态路由框架,分别是MoE based Token(词元)级路由、Model(模型)级路由、MCP based Tool(工具)级路由和 Multi-Agent(多智能体)级路由,具体如下。
MoE based Token级路由是最细粒度的路由形式,是模型路由体系中最微观的一层,其核心作用域位于单一模型内部,典型代表是混合专家模型(Mixture of Experts, MoE)。在MoE架构中,每个输入Token会根据门控网络动态选择并激活部分专家子网络,实现计算资源的精细化分配。与传统固定Top-K路由不同,动态Token级路由能够根据输入复杂度自适应调整激活专家数量:简单Token可能仅激活1个专家,而涉及复杂推理的Token则可能激活更多专家,从而在保持模型表达能力的同时显著降低计算开销。
Model级路由是在多个独立部署的大模型之间进行动态请求分配,是多模型调度系统的核心层,它决定了这个请求应该发给某个通用大模型或是专用模型。Model级路由的实现方式多样,包括基于请求语义特征的分类器路由、基于历史表现的强化学习路由、基于响应质量反馈的在线学习路由等。其核心挑战在于如何快速、准确地评估请求复杂度,并将其与模型的能力边界精准匹配。
MCP based Tool级路由聚焦于智能体与外部工具的交互决策,解决的是“是否调用工具、调用何种工具、如何调用工具”的问题。以ReAct框架为代表的Tool级路由策略,通过“思考—行动—观察”的循环机制,让智能体根据当前任务状态自主决策工具调用路径。Tool级路由的关键在于准确判断任务对外部信息的依赖程度,并在工具调用成本与回答质量之间取得平衡。
Multi-Agent 级路由是最宏观的一层,它在多个智能体之间进行复杂任务的分解与调度,是多智能体协作系统的任务调度核心。与Model级路由关注“哪个模型处理”不同,Agent级路由更关注“哪个智能体负责、如何拆分任务、执行顺序如何编排、结果如何聚合”。Agent级路由通常涉及任务流程图的构建、依赖关系的管理以及并行/串行执行的调度优化,是实现复杂业务流程自动化的关键基础设施。
“4M”中的每一种方案并非孤立存在,而是构成了从模型内部计算到系统级任务调度的完整路由体系。在实际应用中,MoE based Token级路由优化单模型效率,Model级路由实现多模型协同,MCP based Tool级路由扩展模型能力边界,Multi-Agent级路由支撑复杂业务编排,四种方案协同才能全面释放多模型系统的潜力。
金融热点,一号掌控,关注视频号不迷路!
????????????
Model级路由方案
本文主要聚焦Model级路由方案,重点对该类路由机制进行详细介绍。当前,随着大模型技术的不断发展,模型通用推理能力正在不断增强,但并非所有模型在处理各类任务时能力都相同,如有的擅长代码生成,有的精通数学推理,有的在通识问答上表现优异。公开数据显示:绝大多数的简单查询(标准FAQ、账户信息查询、业务办理指引)由小尺寸模型或规则引擎处理,以实现快速响应;部分业务咨询(产品对比分析、多步骤业务办理)由中等尺寸模型承接,以确保应用准确性;少量的深度推理任务(投资建议生成、风险评估报告)才需要调用大尺寸模型,以完成复杂生成任务。商业银行应根据用户意图将请求分发至最合适的模型,从而发挥不同模型的能力。
Model级路由是在多个独立部署的大模型之间进行动态请求分配的核心调度机制,是多模型协同系统的“智能调度中枢”。它直接决定了“用户请求应该由哪种模型来处理”,是实现“让合适的模型处理合适的任务”这一核心目标的关键技术层。
Model级路由可分为静态路由和动态路由两种方式,其中静态路由基于预定义规则(关键词、阈值、用户身份等)调度,实现简单、可解释性强,但灵活性差,适用于简单固定场景。动态路由基于语义特征和实时状态,可通过意图识别、相似度匹配、强化学习等算法自适应调度,灵活性强但成本较高,适用于复杂动态场景。二者在决策逻辑、实现成本和适用场景上各有侧重,具体对比如下。
本文聚焦Model级路由中的动态路由开展相关研究。动态路由主要使用轻量级分类模型。本文运用量子经典混合LoRA技术对RoBERTa分类模型进行微调,使其准确地完成模型动态路由任务。
实证分析
业务理解和数据理解
在大模型赋能软件工程过程中,往往需要处理包含需求问答、代码生成、数据分析等多种任务,因此往往需要基于模型路由技术将不同任务路由至不同模型。以本文构建的AI ModelHub为例,该技术采用分层解耦设计,作为模型网关前的智能代理,核心模块包括:数据采集层、多维分析引擎、价值评估器、路由决策器、模型网关适配层,智能路由根据不同任务、不同模型在不同并发及不同Token输入的返回时长表现匹配模型,实现模型资源合理有效利用。AI ModelHub主要采用RoBERTa模型构建,根据不同任务完成模型智能路由。RoBERTa(A Robustly Optimized BERT Approach)是由Facebook和华盛顿大学研究员于2019年提出的一种改进版的 BERT 模型。相比原始BERT模型, RoBERTa在多个方面进行了优化,如使用更大规模的训练数据集以及改进的掩码策略,从而提升了模型的准确性和鲁棒性。这些改进使RoBERTa模型在多项自然语言处理任务中均取得了优秀表现,展现出强大的语言理解与生成能力。
本文针对AI ModelHub中的RoBERTa模型使用量子经典混合LoRA技术进行微调,针对10种分类任务,每个问题会被分到一类中,从而路由到对应的模型。本文基于1499条训练数据样本进行微调,并采用498条数据样本进行测试。
模型构建
本文采用量子经典混合LoRA技术对RoBERTa模型进行高效微调。具体而言,针对模型中的Query和Value层(Query 层输出为查询向量,Value层输出为数值向量,是 Transformer 模型架构的基本结构),引入量子经典混合LoRA 技术进行替换。进一步地,通过角度嵌入方法,将经过矩阵 A得到的输出向量映射到参数化量子线路中,并采用4个量子比特构建该线路。最终,对每个量子比特执行PauliZ 测量并提取其期望值,从而生成与矩阵A维度一致的输出向量。量子线路部分由带参数的RY门和CRY门构成:RY门作用于单个量子比特,通过旋转操作实现量子叠加; CRY门则对两个量子比特中的目标比特进行受控旋转,从而在量子比特之间建立纠缠关系。对应的量子线路结构如图1所示。
量子经典混合LoRA技术微调RoBERTa模型示意图如图2所示。
模型评估
本文分别使用经典LoRA技术和量子经典混合LoRA技术对RoBERTa进行微调,并使用Accuracy作为模型准确性评判指标,此外本文还对比了模型的可训练参数量。实证分析结果如表2所示。
由表2可知,量子经典混合LoRA技术在模型微调中兼具准确率和参数效率优势。具体而言,在模型准确性方面,量子经典混合LoRA技术较经典 LoRA 技术,Accuracy从0.763提升至0.775,提高了1.2个百分点。量子经典混合LoRA技术在可训练参数量方面较经典LoRA技术降低了73.99%。
结语
本文将量子经典混合LoRA技术应用于商业银行大模型智能路由场景,在提升AI ModelHub动态路由模型准确率的同时,有效降低了可训练参数量。这一跨领域的技术融合,聚焦量子计算与人工智能,一方面丰富了自然语言处理的技术实现路径,凸显“量智融合”技术方案的独特创新优势;另一方面也为金融行业同类智能业务落地提供可复用的借鉴参考。
【龚伟华为华夏银行首席信息官,王彦博为华夏银行科技开发与运行中心副总经理,完振升为华夏银行合肥分行信息科技部总经理,李璧鲁单位为华夏银行科技开发与运行中心,庄希宁单位为本源量子计算科技(合肥)股份有限公司,徐奇单位为华银数字科技(北京)有限公司。本文所述技术与《金融 AI 应用师(FAI)职业技能培训(高级)》—量子计算与金融算法前瞻章节中知识点相关,读者可结合文章及课程学习相关案例与技术。本文获北京市科技计划项目《基于 CoE 架构的银行信贷风控大模型系统关键技术研究与应用》(项目编号:Z241100001324024)支持。华夏银行股份有限公司关杏元,华夏银行合肥分行张雨星、康连清,本源量子计算科技(合肥)股份有限公司王硕、王超、周彭睿、郑永杰、肖智明,华银数字科技(北京)有限公司杨璇、张月、王杰、冯琳、曹晓峰、王少昆对本文亦有贡献】
来源:“当代金融家杂志社”公众号
往期精彩内容回顾
守正创新、踔厉奋发:全力推进一流银行系投资银行建设
海南农商行李晓刚:坚持“六向”推动为海南自贸港建设贡献更大金融力量
武汉金控总经理丁震:为科技强国建设贡献地方金控力量
孔庆龙:以“金融活水”滴灌乡村“文旅之花”
北银金科:为打造“数字京行”奋力前行
国海证券何春梅:走中国特色金融发展之路以证券行业高质量发展助力金融强国建设
陕国投信托董事长姚卫东:找准高质量转型发力点,助力培育新质生产力
如有字体或图片侵权请联系删除。
商务合作加V:172420282
原创声明:本号所刊登署名文章,如非特别说明,皆为原创或作者授权发表。
转载务请注明出处:转自微信公众号?“当金(bankershr)”,不允许更改内容。
《当代金融家》征订单.xlsx