2023金融街论坛 | 王晓航：金融大模型，跨越产业落地鸿沟

由北京市人民政府与中国人民银行、国家金融监督管理总局、中国证券监督管理委员会、新华通讯社、国家外汇管理局共同主办的2023金融街论坛年会于11月8日至10日在北京举行。本届论坛年会以“更好的中国，更好的世界--加强金融开放合作，促进经济共享共赢”为主题，邀请到了来自全球30多个国家和地区的400余位重量级嘉宾出席，共同就当前经济金融热点话题进行交流，探讨如何深化国际金融合作，推动全球经济发展。

11月10日上午，蚂蚁集团副总裁、蚂蚁金融大模型负责人王晓航受邀参加了主题为“金融科技创新与安全”的金融科技大会平行论坛，并就大模型在金融产业落地应用的挑战及实践，与在场的多位专家学者进行了深入沟通。

大模型落地金融产业是复杂系统工程

王晓航提出，鉴于金融在专业性、逻辑性、风险控制、合规性及可靠性方面的高要求，通用大模型在金融行业落地“不存在开箱即用”。当前，大模型落地金融产业的主要挑战主要来自于大模型本身存在的领域知识短板、复杂推理和决策短板以及可靠性短板。通过有效压缩万亿token的世界知识，大模型具备了很强的知识基础，但对垂直金融领域的专业知识理解还远远不够;同时在专业决策方面能力尚有欠缺，无法有效解决量化分析、资源运筹优化、精细化匹配这三类问题;而且大模型也无法在严谨性、合规性、适当性以及价值主张方面匹配金融行业的高要求。

针对这些挑战，王晓航认为，除了要为大模型注入金融通识和私域知识，还需要采用多种技术组合，“大模型落地金融产业是复杂系统工程”。例如，通过“大模型+小模型”的协作模式，小模型负责专业判断和决策，大模型负责调用各种专业小模型，可以实现精确的专业决策;通过“大模型隐性知识+图谱显性知识”互补模式，图谱知识覆盖高频和高价值场景，大模型覆盖低频和长尾场景，可以实现服务质量与服务水平的平衡;通过“ClosedQA+OpenQA”相结合，前者解决如财经问答、客服、投教等有明确答案的特定场景，后者基于大规模参数知识，解决需要理解和推理的开放性问题，可以实现精确性和全面性的平衡，有效提升用户体验。

尽管如上技术组合可以补齐大模型的短板，但大模型要对金融消费者开放，实现规模化应用，还需要满足可靠性的要求。

满足可靠性要求，大模型需要做好全周期强化

基于长期安全技术、合规技术的积累，蚂蚁集团打造了一套立体化的可靠系统，贯穿大模型训练和推理的全生命周期。这套系统包括：数据治理阶段，从1800亿+token金融数据中筛选出171亿token优质数据，从源头上保障大模型的学习质量和价值取向;模型训练阶段，通过60万+价值观和合规性对齐指令集，数百位标注师人工反馈，有效降低大模型问题率;在应用阶段，通过包含100+识别模型和60万+风险词库的“蚁鉴”，在请求和生成两端都进行严密的风险判别和拦截。涉及到合规和专业性要求高的内容，由大模型基于ClosedQA生成答案后，再由白盒化的知识图谱进行增强校验。此外，蚂蚁集团还构造了百万级的负向样本，通过持续的自动化攻击检测模型安全能力。

经过上述全周期的加固，在金融可靠性评估上，蚂蚁金融大模型已达到了媲美专家的可靠性，能很好的满足消费级金融服务对可靠性的要求。

王晓航认为，我们正处于中国金融经济深化改革的历史节点，也处于金融科技大爆发的关键时刻，如何在先进技术落地应用与维持金融稳定之间取得平衡，是每一个从业者面临的挑战。蚂蚁集团将持续探索前沿技术，积极用技术推动行业进步，同时严守合规性与安全性底盘，为数字经济的发展和智能化社会的建设贡献力量。