AI时代金融风险管理新实践——构建兼顾创新和安全的AI风险管理体系_市场解读

AI时代金融风险管理新实践——构建兼顾创新和安全的AI风险管理体系

创始人

2026-08-19 18:23:22

0次

（来源：毕马威中国毕马威KPMG）

人工智能（AI）正在重塑全球金融业的运行方式。从客户服务到风险管理，从产品创新到运营优化，AI正在加速应用到金融机构的日常业务场景中。与此同时，AI带来的风险也开始显现，这包括模型本身的算法黑箱、生成幻觉等风险，也包括AI模型开发和使用带来的数据风险、合规与法律风险、第三方依赖风险以及伦理风险等。

在这样的背景下，国内外监管机构都在加快完善人工智能治理要求，强调通过创新与安全并重的风险治理，引导金融机构在风险可控的前提下应用人工智能。国家金融监督管理总局在2026年6月发布的《关于银行业保险业人工智能安全开发应用的指导意见》（金发（2026）8号，以下简称《指导意见》）明确提出，要将人工智能风险纳入全面风险管理体系，实施分类分级管理和高风险应用准入管理，在关键环节建立人工监督和干预机制，并强化外包与供应链风险管理。

本文将在系统梳理监管要求的基础上，分析金融机构落实AI风险管理面临的挑战，并提出毕马威的AI风险管理框架，希望能够和金融机构共同探索AI风险管理的实施路径，实现AI的高水平开发应用。

一、国内外监管要求解读

中国监管近期动态

2025年8月，国务院发布《关于深入实施“人工智能+”行动的意见》，提出以科技、产业、消费、民生、治理、全球合作等领域为重点，加快实现人工智能与这些领域的深度融合，同时提出要强化模型、数据、算力等人工智能基础支撑能力；

2025年9月，全国网络安全标准化技术委员会发布《人工智能安全治理框架》2.0版本，该框架结合人工智能技术发展和应用实践，提出了人工智能安全治理原则、人工智能安全风险分类以及相应的技术应对措施和综合治理措施；

2026年3月，中国人民银行明确要求要深化业技融合，积极稳妥、安全有序推进金融领域人工智能应用，释放数字化、智能化发展动能；

2026年6月，国家金融监督管理总局发布《关于银行业保险业人工智能安全开发应用的指导意见》，这是国家层面人工智能治理政策在金融领域的落地延伸。该指导意见从治理架构、开发应用、数据治理、算力建设、风险治理、安全能力提升以及保障监督7个方面对银行业保险业的AI安全开发应用提出了指导意见。

《指导意见》对金融机构的风险管理工作提出了哪些要求？

《指导意见》结合国际AI治理实践，形成了“风险为本、分类分级、强监管、重落地”的本土化监管特色。从风险管理的角度出发，金融机构需要考虑以下四方面工作：

国际监管总结

近几年，越来越多的国家及地区监管机构逐步将人工智能纳入严格的监管体系。尽管对于人工智能管理的适用范围、技术要求、实施时间有所区别，但核心内容均要求所辖机构应该明确风险治理体系、实施风险分级管控、以及涵盖全生命周期管理。

二、中国金融机构落实AI风险管理的现实挑战

案例一：某国际大型银行实践

该银行建立了以五大核心治理要素为支柱的全行级AI风险管理框架‌，旨在通过分级风控、集中注册与高层问责机制，确保AI应用的可信度与合规性，其五大要素包括：

AI风险重要性评估‌：依据数据应用委员会定义并核准的准则，判定各AI使用场景的风险重要性等级。

差异化的治理要求‌：根据风险等级匹配“基础”或“增强”两类管理标准，实施差异化管控。

集中式AI应用清单：所有AI应用场景及底层模型均登记入库，统筹全生命周期的治理要求落地。

运营模式‌：明确各业务条线及分支机构的职责分工，支撑日常治理活动执行。

高层管理问责‌：由董事会及高级管理层直接监督，确立管理意识与最终责任归属。

案例二：某英国大型保险公司实践

该公司实施了一套全面的AI治理框架，借鉴了风险管理、法律、合规、隐私、安全和数据科学等多个领域的指导原则。公司设立了跨职能团队的AI治理工作组，负责监督整个组织内AI系统的伦理、合规和战略性部署。工作组成员来自关键业务部门的高层领导，确保所有AI项目都嵌入负责任、安全和伦理导向的原则。

公司要求对所有AI系统（无论是内部开发还是第三方提供）的风险进行严格评估和持续合规监控，强化整个AI开发生命周期中的责任机制和保障措施。为更好地管理AI风险，公司将模型风险框架扩展至AI领域，对各类AI应用场景按风险等级进行分类，并将其纳入风险管理体系。对于低风险AI系统，采取轻量级管理；而对于高风险AI系统，则实施全面的管理要求。

该公司强调其技术基础设施具备强大的监督和持续监控能力，同时正在积极演进其技术架构，包括企业级平台建设，以支持负责任AI的开发与应用，并实现自动化的持续监控功能。

三、毕马威建议的AI风险管理框架

(1) AI风险管理的适用范围

金融机构在建立AI风险管理框架前，首先需要明确适用范围，在新加坡金融管理局发布的《人工智能风险管理指南》中AI风险管理的适用范围包括：

模型：将基本的假设、数据转化为估计或决策的方法或途径；

系统：多个模型的组合或基于机器的组件结构；

应用场景：模型或系统被应用于的具体现实用例。

(2) AI风险的定义和细分类型

AI风险是指人工智能技术在开发、测试、部署、运行、应用过程中，因模型缺陷、数据问题、系统漏洞、网络攻击、不当使用、外包依赖及供应链等因素，导致机构产生财务、权益和声誉损失，或业务运行中断的风险。

AI风险的复杂性在于其很难被界定为一种单一类型风险。参考《人工智能安全治理框架2.0》中的分类，AI风险可分为：

AI技术内生风险：包含模型算法风险（输出幻觉、模型漂移、算法偏见、黑箱风险等）和数据风险（数据泄露、数据投毒、训练数据合规性等）;

AI技术应用风险：包含合规与法律风险、第三方依赖风险；

AI应用衍生风险：包含社会和环境风险、伦理风险等。

(3) AI风险的治理架构

金融机构应建立清晰的AI风险治理架构，建立三道防线，将AI风险管理提升到机构董事会和专门委员会层面，明确牵头部门，建立跨科技、业务、风险、数据等部门的协同机制，其中：

董事会及其下设委员会，对AI风险治理负总体责任，审批AI战略、风险偏好，明确可接受的AI应用边界，审议批准高风险AI应用清单及准入标准，听取AI风险管理情况和重大风险事件。

高管层及其下设委员会，执行董事会要求，落地AI风险管理各项管理机制，处置重大AI风险事件，保障资源配置。

第一道防线，包括AI技术的需求提出、数据准备、开发部署和运行使用方，直接负责AI风险的主体责任，包括制定AI应用清单、开展分级分类、进行日常监测和报告，确保AI输出符合业规则与安全标准，落实“人工复核”等关键兜底机制。

第二道防线，负责制定AI风险管理政策流程，独立审核AI应用清单、分类分级标准、高风险应用准入等事项，独立对AI技术运行情况进行持续监测和模型验证，并将AI风险有效纳入全面风险管理体系。金融机构应该确定二道防线各主要职能的牵头部门，并满足风险隔离的要求。

第三道防线，对AI风险管理体系开展独立审计，核查一、二道防线履职与制度执行有效性，识别管控缺陷，推动整改闭环，独立向董事会报告审计结果。

(4) AI风险的全生命周期管理流程

风险识别

金融机构需要根据AI应用场景、大模型情况、运行状态、适应范围、技术架构、接口数据、模型部署特征、应用场景、运行状态、管理归属等建立AI应用的信息标准，以此为基础进行各类AI应用梳理，建立规范性的AI应用清单。

AI应用清单应至少记录如下关键属性：

AI用途与描述、获批使用范围
模型类型、所用数据、依赖关系
生命周期状态、风险重要性评级
验证状态、关键角色与职责
与关键文档的链接

风险评估

金融机构需要建立AI风险的分类分级机制，根据各类AI应用的风险水平、风险发生可能性、发生风险的影响程度等因素确定AI应用场景的分类分级结果。如欧盟的《人工智能数字综合法案》将AI系统划分为四个风险类别：‌不可接受风险（禁止）‌、‌高风险（严格合规）‌、‌有限风险（透明度义务）‌、‌低风险（基本义务），并加以差异化管理要求。

风险监测

根据AI风险分类分级结果，进行差异化的风险监测。针对“高风险”应用，例如信用评估、信贷审批、业务定价、反洗钱、交易风控的应用场景，进行高频率、高颗粒度的监测。

根据《指导意见》的要求，AI应用涉及客户权益或具有实质性财务影响的关键决策时，需设置人工复核节点，完整保留原始数据、推理路径和阈值触发记录，确保责任可追溯。金融机构应该依据AI自主性程度与风险重要性确定人工监督程度，对于高自主性AI需更严格的人工审查与审批，并明确人工干预的触发条件与权限。

风险缓释

基于风险分级结果，可以设定差异化的风险缓释和控制措施。其中，针对高风险AI应用，金融机构需要经风险管理委员会审批后才能实施，并且需要增加模型监控和验证频率、限制其应用范围、设置人工监督和干预机制等。当风险发生时，可采用的风险缓释措施包括：暂停模型投产、切换备用系统、启动专项风险调查等。针对中风险和低风险场景，风险控制和风险缓释的措施可以相应调整，以匹配其风险重要程度。同时还可以定期进行AI风险压力测试，并通过拨备计提和资本加点等方式抵御风险。

风险报告

AI风险管理的最后一环是将上述工作内容整理分析后形成专项的AI风险报告，并融入全面风险管理报告。内容可以包括AI分类分级情况，高风险AI场景运行情况、重大AI风险事件、AI应用验证和测试情况、改进建议等。AI风险报告有助于管理层系统性理解目前的AI风险轮廓，及时对AI管理策略进行调整，确保AI风险的管理水平与AI应用的程度相匹配。

(5) AI模型验证

与传统模型验证主要以开展确定性验证不同，AI模型是基于大数据驱动的概率性生成机制，其验证逻辑、目标、方法均与传统验证模式存在巨大差异。模型验证需要针对具体的部署模式（云API或本地部署）、模型规模（大模型或小模型）和系统架构（对话、RAG或智能体）进行定制。

AI模型验证范围：需要深度拆解到系统的每个技术组件进行验证，同时要考量组件间的交互效应与系统涌现行为，以捕捉复杂的系统变化产生的风险。验证范围应包括从基础模型（参数规模、训练侧重是否与应用场景匹配）、RAG检索层、再到提示词工程与系统指令的完整闭环。

AI模型关键验证领域：

功能正确性和推理稳健性：针对模型输出的非确定性问题，验证需要依托黄金测试集对标专家标准结果。同时需要运用自一致性（self-consistency）和多数投票 (majority voting) 方法来校验模型推理的稳健性；

上下文敏感性：需要测试模型的确定性和敏感性，以确保提示词中与语义无关的微小差异不会导致截然不同的输出。

信息检索限制：需要对模型在其上下文窗口中保留和处理信息的能力进行量化，利用“大海捞针”(Needle-in-the-Haystack tests) 测试来识别长文档中“丢失”的信息。

检索增强生成 (RAG)：需要对知识库系统的检索环节和生成环节分开验证。要评估检索的精确率和召回率；做溯源测试确保模型输出来源于原始参考文本等。

智能体与函数调用：需要进行工具调用契约测试（校验API接口规范符合性）、规划执行逻辑评估以校验多步任务逻辑，同时需要验证成本与响应时延，避免Token消耗失控。

(6) 数据管理、外包风险管理和供应链风险管理

《指导意见》还要求金融机构做好数据、外包机构、开源组件和技术供应链的风险管理。

数据管理：确立数据质量标准，确保AI基础数据的可用性、可兼容性、可追溯性；建立非结构化数据的采集、清洗、标注、应用管理规范；监测是否有隐私数据用于生成式AI模型训练；建立知识提取、整合、共享机制流程，确立从知识创建、审核、发布、更新到归档的规范化管理。

外包风险管理：需要在外包策略、数据安全和集中度管理等方面建立管理机制；与外部企业合作时，需要建立有效的风险隔离防火墙，防范风险跨业传递；需要对外包合作机构实行准入评估；对引入的外部模型建立严格的内部评估，有效评价模型的优缺点和适配性。

供应链风险管理：建立人工智能算力、模型、数据和技术工具的供应链安全合规管理机制，关注对个别技术服务过度依赖产生的集中度风险；对于外部引入的开源组件，应开展审查评估，加强代码审计、漏洞扫描和安全测试；定期排查开源组件风险隐患，防范供应链投毒。

(7) AI风险如何融入全面风险管理框架

《指导意见》要求金融机构应将人工智能风险纳入全面风险管理体系，定期开展对人工智能应用风险及管理措施的评估审查。如何定位AI风险，将其纳入金融机构全面风险管理框架，并评估AI风险和其他各类风险的相互影响，是金融机构需要持续探索的课题。结合现有的监管要求，需要考虑以下管理要素：

评估AI风险重要性

影响性：AI失效或表现不佳对机构（财务、运营、监管、声誉）及客户（公平性、伦理违规）的潜在后果
复杂性：源于所用AI技术和所用数据的性质及新颖性
依赖度：AI系统的自主程度、人工参与或监督程度以及替代方案的可得性

将AI风险纳入全面风险管理体系

纳入全面风险政策和流程，将AI风险纳入全面风险管理的政策/办法，制定专项制度、流程和报告予以规范。
纳入风险偏好管理，将AI风险纳入风险偏好体系中，增加AI约束的容忍度指标，并配套做好落地和联动。
纳入风险报告范畴，在全面风险管理报告中，分析阐述包括AI应用总体情况、AI风险变化情况与趋势、AI风险事件情况及原因分析等内容，确保董事会和高级管理层可以及时全面理解AI风险轮廓。
纳入内部资本充足评估程序（ICAAP），在ICAAP的主要风险识别与评估阶段纳入，同时定期评估AI风险所涉及的业务范围、影响程度及风险水平，必要时计提合理的资本以抵御AI风险。

分析AI风险与其他单一重大风险的

AI时代金融风险管理新实践——构建兼顾创新和安全的AI风险管理体系

相关内容

热门资讯