为进一步规范人工智能技术的引入与使用,保障数据安全与业务合规性,人保财险严格落实国家科技伦理相关要求,遵循“依法合规、价值导向、规范先行、安全可靠、自主可控、责任明确”六大原则,确保新技术在安全可控前提下赋能业务可持续发展,切实维护国家安全和金融安全,为广大客户提供安全稳定的金融服务。
一、基本原则
(一)依法合规原则。恪守国家及监管相关要求,将合规要求嵌入到AI应用准入、开发、上线、运营、下线全流程,确保技术应用依法合规。
(二)价值导向原则。推动AI应用主动融入国家战略,更好发挥保险功能作用,促进业务模式与价值重塑,实现高质量发展。对所有应用场景与能力建设建立可量化的业务价值度量指标,确保资源投入高效。
(三)规范先行原则。建立统一的AI技术应用与安全管控规范,落实AI分类分级管理,兼顾技术前瞻性与建设规范性,实现体系化管控。
(四)安全可靠原则。强化数据、模型、组件全维度安全管理,做好开源治理、供应商管理、模型安全测试,完善安全防护与应急处置机制,保障系统安全稳定运行。
(五)自主可控原则。优先采用国产化技术与算力平台,增强软硬件自研能力,加强自有人才储备,提升自主可控水平。
(六)责任明确原则。落实“谁使用谁负责”监管要求,压实各个业务部门作为人工智能技术使用方的主体责任,做到风险可识别、责任可追溯。
二、治理组织管理
在董事会层面设置风险管理相关专门委员会,统筹制定人工智能发展规划,推进能力体系建设,对AI安全开发与应用管理负责;在管理层层面设立数字化发展委员会,负责AI工作的具体落地实施,审定并指导人工智能技术与应用的管理建设工作,对人工智能相关事故进行问责。
三、应对计划与举措
公司将负责任AI治理嵌入人工智能技术准入、开发、上线、运营、下线全生命周期,落实以下计划与举措:
(一)强化数据隐私保护与网络安全管控
制定保护数据隐私与网络安全相关管理制度。遵循数据最小必要原则,严格落实数据脱敏、访问权限管控。敏感个人信息、来源不明、存在风险数据禁止用于生成式AI模型训练。部署大模型安全护栏,拦截有害输入输出,防范敏感信息外泄。落实网络边界防护、访问控制与安全监测。常态化开展网络安全攻防演练、漏洞扫描及安全加固工作,防范网络攻击。
(二)防范人工智能算法与数据集潜在偏见
制定防范算法偏见与歧视相关管理制度。防范因性别、年龄、种族、肤色、宗教、地域、残障、收入等带来的算法偏见与歧视。在数据集构建、标注、训练、测试环节开展伦理审查,降低样本偏见性与歧视性风险。AI应用上线前开展公平性专项测试,上线后持续监测模型输出,避免对特定群体产生不合理差别对待。
(三)建设关键场景人机协同与人工干预机制
对于涉及客户权益或有实质性财务影响的关键决策,须设置人工复核流程。对于高风险AI应用,须配套人工监督和干预机制,明确触发条件、执行主体与操作方式。对AI应用进行实时监控,出现算法错误、输出异常、重大业务风险时,由被授权管理员执行结果覆盖、流程暂停、模型停用,并配套备用或人工替代流程。
(四)提升AI系统透明度与决策可解释性
在面向客户提供AI服务时,对AI生成内容做显著性标识,对决策过程做详细说明,在用户界面显著位置展示客户知情同意声明,清晰标注AI服务的能力范围、局限性及潜在不确定性,配套客户申诉投诉入口。强化AI模型可解释性,高风险场景优先选用具有高可解释性的AI模型,运用RAG技术提升AI应用输出可追溯性和依据透明度。
(五)建立清晰的AI风险责任归属体系
落实“谁使用谁负责”,业务部门承担业务需求与业务风险主体责任,科技部门承担技术开发、安全运维责任,财会部门负责降本增效评价。完整留存全流程日志,发生AI相关风险时,精准溯源定位责任主体。采购第三方AI技术时,在合同中明确供应商安全权责,做好风险隔离。
(六)划定智能体应用访问与操作权限边界
基于智能体应用的业务范围,严格遵循最小权限原则划定智能体应用访问与操作权限边界,对于各类高风险操作,须经过管理员确认后方可执行。未经评审不得扩大智能体能力及访问与操作权限。
(七)推进AI算力绿色高效利用
在AI应用全生命周期中管控能源、水资源消耗及碳排放量。在AI需求评估中,将算力能耗纳入实施成本考量。在AI应用成效报告中主动披露对能源、水资源消耗及碳排放量。优先选用绿色低碳算力基础设施,持续优化算力使用效率,降低AI业务资源消耗。
(八)禁止使用存在重大伦理风险的AI系统
严禁使用存在重大伦理与合规风险的人工智能产品,包括具备操控行为、利用安全漏洞、社会评分、未经授权开展生物识别监控的人工智能产品。对于涉及生成和编辑人脸、人声等生物识别信息的AI应用,须开展专项安全评估后方可使用。
(九)落实AI全生命周期分类分级管控
编制AI应用清单,实施分类分级管控。高风险AI应用须经审批后方可实施。对于面客生成式AI应用需履行大模型备案或登记手续,对于面客或高风险AI应用需及时向金融监管总局或其派出机构报告。
(十)开展常态化AI合规与伦理培训
面向业务、科技、风控岗位开展常态化安全合规培训,普及制度要求与伦理风险红线,提升全员风险识别能力;针对AI开发团队强化数据安全、算法公平、开源合规等专项培训,将负责任AI理念融入AI应用全生命周期各环节。