银行推进人工智能技术应用时需同步考量可信AI的评估与验证
易观数字化:今年以来,政府层面、金融监管层面在科技伦理治理的指导要求上持续加码,《中共中央办公厅 国务院办公厅印发关于加强科技伦理治理的意见》中,点明人工智能作为重点领域应完善科技伦理治理的规范和标准;《中国银保监会办公厅关于银行业保险业数字化转型的指导意见》中指出,要防范模型和算法风险,定期评估模型预测能力及在不同场景下的局限性,确保模型的可解释性和可审计性,防止算法歧视。人工智能治理的形势日益迫切,在这当中,人工智能是否可信被视为一种重要的品质,需要引起金融机构的足够重视。本文将从可信AI对于银行的重要性、关键特征、评估与验证方式、合作厂商选择等维度进行专题分析。
可信AI在银行数字化转型背景下的重要性日益凸显
银行业在数字化转型建设过程中,人工智能技术是构建数智化能力的关键领域,在技术创新与应用的同时,银行也面临着来自人工智能的风险挑战。
易观分析认为,人工智能的伦理风险、模型与算法风险、数据风险、隐私风险是当前银行需要应对的几类主要AI风险,人工智能黑盒性、不确定性、脆弱易攻击性造成的隐忧和不信任感,使银行在应用层面难以对其委以重任,在研发层面也难以进行有突破性的探索。因此AI是否可信、可控在当前以数字化能力为依托的转型背景下变得尤为关键,实现可信AI是银行科技能力建设布局的重要内容,是银行实现业务稳健发展的前提和有力保障。
可信AI的特征应结合银行实际应用需求加以延展
可信AI的概念在国内是由何积丰院士于2017年香山科学会议上首次提出,是指人工智能技术本身具备可信的品质。目前学术界针对人工智能治理已经发表了多篇研究论述,对其治理原则的普遍认识聚焦在透明、安全、公平、可问责、隐私保护几项特性中。结合银行业AI应用发展现状,易观分析认为,可信AI应当具备八大关键特征,即稳定性、鲁棒性、可解释性、安全性、公平性、普惠性、客户自治性以及可追溯性。
相应地,银行对于AI是否具备可信品质的考量应围绕自主可控战略要求,结合银行实际应用需求,如识别欺诈、隐私泄露、系统攻击、信贷风险、洗钱风险等风险场景,对可信AI的关键特征加以延展。例如,AI在进行智能决策分析、智能推荐、智能风控等活动时应做到透明可释、记录可溯,具备可解释性、客户自治性、可追溯性;在进行智能识别、智能问答等活动时应做到抗扰动、抗欺骗,且符合伦理道德与行业规范,具备鲁棒性、公平性、普惠性。同时,人工智能应具备抗风险、抗攻击和隐私保护的稳定性、安全性特征。
可信AI的评估与验证应基于场景视角小规模进行再规模化启动
可信AI本身作为技术能力的一种表现,是反映在算法和模型层面,而不是直接体现在业务流程或是客户体验中的。
易观分析认为,银行在推进人工智能相关项目时,应有的放矢地进行可信AI的评测。在银行业对可信AI尚无统一评测标准的情况下,银行应基于场景视角,选择有需求、有痛点、频次高、风险敏感等场景,以自主技术能力开展可信AI相关的评估与验证,并将其作为银行IT治理架构下的关键任务进行统筹考虑。评估与验证应以小规模验证为主,通过风险点和样本设置,重点验证可信AI一个或多个特征在单一场景下的表现,经小规模验证后再规模化启动。
对厂商的选择应关注其人工智能的整体能力表现
从目前人工智能领域的市场来看,可信AI相关的参与者和产品提供者以大型互联网公司、独立创业公司、渗透行业的供应商、产业背景公司为主,这些厂商具备了不同程度的可信AI研发能力,但并不存在单一提供可信AI产品的厂商。
易观分析认为,银行应从整体能力出发对厂商进行选型评价,并且将可信能力需要作为AI产品及解决方案的重要评价标准之一,结合自身场景需求选择合适的合作伙伴。
声明须知:易观数字化在本文中引用的第三方数据和其他信息均来源于公开渠道,易观数字化不对此承担任何责任。任何情况下,本文仅作为参考,不作为任何依据。本文著作权归发布者所有,未经易观数字化授权,严禁转载、引用或以任何方式使用易观数字化发布的任何内容。经授权后的任何媒体、网站或者个人使用时应原文引用并注明来源,且分析观点以易观数字化官方发布的内容为准,不得进行任何形式的删减、增添、拼接、演绎、歪曲等。因不当使用而引发的争议,易观数字化不承担因此产生的任何责任,并保留向相关责任主体进行责任追究的权利。
中考那一年,国足打进了世界杯2002年6月,我参加中考。我在双峰县永丰镇城北学校中23班,那个时候城北学校新建还不久,有小学和初中。教我们语文的是班主任向老师,她平时十分严格。我记得在初一时,就要求我们每周写
高速公路周边建房不被允许合法吗?时有群众反馈,高速公路周边不被允许建房。但明明可以看到高速公路周边是有房子的,那位什么其它人可以修,到了我这里就不能修建了。许多群众和相关工作单位就产生了矛盾。作为群众一方的观点是
被拘留对自己以后找工作或者后代考公务员有影响吗?被拘留对自己以后找工作或者后代考公务员有没有影响?首先要明确一个问题拘留属于哪一种?拘留共分两种,一种是行政拘留,另一种是刑事拘留。行政拘留属于行政处罚。一概属于行政处罚都不会对自
四川成都保留最古老的天主教堂平安堂1897年,一位中文名骆书雅的法国籍天主教神父,在成都老皇城的西面,开始主持修建一座建筑。1904年,一座拜占庭风格式的建筑,出现在今天叫西华门(原名平安桥)的街上还被一片民居包围
17消息队列秒杀时如何处理每秒上万次的下单请求?一开始我们就了解了高并发系统的三个目标高性能高可用易扩展。然后我们就讲解了分布式数据库改造缓存的使用。究其原因我们遇到的大部分场景都是读多写少,尤其是在一个系统的初级阶段。但是随着
18消息投递如何保证消息仅仅被消费一次?上节课我们通过在电商系统增加消息组件达到了削峰填谷的作用,对次要业务逻辑做了异步处理,对不同的系统模块做了解耦。因为业务逻辑从队列中移除了,所以我们要有响应的队列处理逻辑了,这时系
19消息队列如何降低消息队列系统中消息的延迟?这些可我们来思考一下,消息队列除了前面介绍的内容,还有哪些点呢?先来看一个场景在电商项目中,用户在下完单支付之后,会向消息队列发送一条消息,服务程序消费消息后给用户发送优惠券或者增
华为跌倒,苹果吃饱?雷军失眠,连夜分享一个天大的好消息这两年手机市场可以说是风云变幻,去年华为麒麟芯片断供之后,华为的手机业务受到了很大的阻力,即便到现在,华为Mate40系列依然处在缺货状态,普通消费者一机难求。而且按照惯例原本4月
小米新机黑科技玩法,可变身徕卡索尼,逼格满满!华为苹果学不来小米11Ultra发布已经几个月了,但是讨论热度却一直没有停下。在讨论这部被称为安卓之光的旗舰机时,经常有一个配置点是无法绕过的,那就是小米11Ultra的背部副屏。此次小米11U
什么才是合法且无瑕疵的网约车网约车的全称是网络预约出租汽车。随着网约车的不断发展壮大,由单一的称赞变成了今天爱恨夹杂的新局面。当时滴滴网约车刚出现时,那是全国上下一面欢呼。以往困扰出租汽车乘租服务态度不佳的难
小说乌蒙山营房夜话(1)之初来乍到今天是叶舟工作11周年的日子,11年前叶舟离开大学校园走向社会,开始了社会磨砺的挫折生涯,有感于过往岁月匆匆流逝,于是执笔,围绕乌蒙山的哨所写下笔记。今天一早,中队长吉中就联络叶舟