陈晓丽

 中国人民银行湘潭市中心支行  湖南湘潭 411100 

摘要：全球化、数字化正在加速推动人工智能在金融领域的发展，但人工智能发展也存在技术、伦理、法律等层面的争议，与金融领域人工智能相关的数据、网络安全、稳定、道德等风险及不良影响，可能破坏金融监管目标，通过传统手段监管金融领域人工智能面临极大挑战。建议借鉴近年来各国对金融机构违规责任和问责的监管改革经验，通过外部监管促进金融机构加强内部治理，包括强化金融机构管理者对人工智能的责任和问责、完善人工智能决策服务投入、明确对人工智能的尽职调查和可解释性等强制要求，有助于解决金融领域人工智能发展带来的风险。

关键词：人工职能；金融；监管

中图分类号：TP18;F832;F49　   文献标识码：A    文章编号：1673-5889(2020)35-0000-03

一、引言

由于金融的性质和全球金融数字化转型进程持续，人工智能在金融领域迅速发展，其风险和影响也对金融监管构成挑战。首先，人工智能发展带来的数据风险、金融稳定风险、网络安全风险、道德风险，将加剧信息的不对称、加剧对数据的依赖性、加剧金融系统性风险。其次，目前各国对金融领域人工智能的监管还在不断摸索当中，传统监管措施存在局限性。最后，主要发达国家和地区已经实施或准备实施金融机构违规责任和问责的监管改革，为解决金融领域人工智能发展带来的问题提供了适当的基础。结合上述背景，金融监管应重视发挥人在金融领域人工智能发展中的核心作用，在金融机构责任和问责制的监管改革基础上，强调金融机构管理者对人工智能发展的责任要求，促进金融机构加强内部治理并对人工智能发展采取责任识别、责任分配、问责等相关措施。

二、监管挑战：金融领域人工智能发展带来的异变与冲击

（一）人工智能在金融领域迅速发展的原因及主要应用范围

数据、存储、通信、计算和分析能力的提升推动了人工智能快速发展，数字金融转型对人工智能的发展尤为有益：数字金融转型的技术支柱之一是数据大规模使用，金融领域的数据收集长期以来已被标准化和数字化，为人工智能提供良好基础；人工智能在规则受限的环境中应用表现最好，金融领域的许多方面如股票市场投资也属于规则受限环境；金融业的高收益吸引了优秀人力和大量财力投入到前沿技术尤其是人工智能领域的研究。

人工智能已被金融机构用于众多金融服务及流程的前后端。包括：一是客户相关流程，如通过面部识别等生物识别技术提升用户体验，针对特定用户群体进行金融服务营销，通过即时回应信贷申请、提供快捷有效的按揭审核、以强化信息数据分析向客户提供特有服务等方式加强客户关系管理。二是经营及风险管理，如用于保险理赔等统计模型，用于管理风险如进行压力测试、信用评分、确定薪酬、监督决策偏差。三是交易和投资组合管理，包括智能顾投、算法交易等。四是支付和基础设施，包括人工智能线上客服，打击身份盗窃、钓鱼攻击等金融诈骗行为。五是数据安全，包括数据提取，自动化的风险预防、监测和响应。六是金融合规和监测，包括发现和报告违规行为、反洗钱和客户身份识别、宏观经济监测。金融机构还将人工智能用于监管科技以降低合规成本、用于寻找替代数据以辅助投资决策。

（二）与金融领域人工智能发展相关的风险及不良影响

法国金融审慎监管局（2018）提出与金融领域人工智能相关的四类风险：数据处理风险、人工智能和网络安全风险、市场主体依赖风险和关系变化、对金融稳定和自主权的挑战。借此方式，本文将与金融领域人工智能发展相关的风险划分为数据风险、金融稳定风险、网络安全风险、道德风险。

1.数据风险。一是人工智能对数据的依赖数据可能导致更多问题，如被分析的数据集可能与任务目标的相关性不够、数据质量可能较差、被分析的数据可能被算法偏见影响等等。二是数据的可用性可能有限。一方面小型金融机构可能因数据收集成本而只收集认为有价值的数据，进而造成对数据的偏见，另一方面大型金融机构可能不愿共享自身拥有的数据。三是多个人工智能同时执行相似任务可能导致市场极端波动。如果多个交易方利用类似算法模型来解释金融市场信号并同时进行交易，在意外情况下可能导致市场“闪崩”；如果多个自学习算法发现在金融市场中合作比竞争更有利可图，可能形成“共谋”操纵信息和价格。

2.金融稳定风险。金融稳定委员会（2017）总结了人工智能和机器学习可能对金融稳定的影响，认为新技术可能导致金融机构对第三方技术服务的依赖，产生新的具有系统重要性的金融市场参与者并可能达到垄断或寡头垄断的水平，而且可能不受监管。此外，人工智能和机器学习的方法缺乏可解释性可能导致宏观经济风险。

3.网络安全风险。人工智能可被用来攻击、操纵或以其他方式损害经济，并通过金融系统直接威胁国家安全。如通过操纵算法将财富转移到国外，或破坏经济体增长以制造动荡，或向交易部门发送错误信号引发系统性危机。当金融机构过于依赖第三方技术服务商时，有可能暴露网络安全问题，如人工智能系统应用前未进行金融危机场景测试。

4.道德风险。一是人工智能“无道德”或“非道德”带来的风险。人工智能没有感情或价值判断，如果人工智能对声誉风险进行错误定价，可能对金融机构造成严重损害。虽然人工智能“无道德”或“非道德”风险可以通过人工智能训练技术予以减轻，但仍需要人类指导其道德决策。二是人工智能对人类影响的“双刃剑”风险。人工智能可以通过推荐或替代人类决策的方式提升人类能力，但对人工智能的日益依赖也可能导致人类失去挑战人工智能或应对危机所需的技能；人工智能既可用于提高金融机构员工和客户的金融与科技素养以实现更好的金融资源配置，但也有可能通过诱导客户投资价格高、价值低的金融产品，剥削客户而让金融产品供给方受益。三是人为故意或不良动机造成的风险。人类出于不良动机形成的人工智能编程、不充分的数据集等，都可能导致人工智能造成有害后果。如为了避免承担赔偿责任或诉讼风险，人工智能可能决定避免与特定人群如低净值人群建立金融服务关系，造成对特定人群的金融排斥，剥夺特定人群获取金融资源的机会。

…………

…………

更多信息请登陆中国知网、万方数据、维普，查询。

现代商业杂志投稿查稿：13366908880   010-66095057马编辑   QQ：370310371   投稿邮箱：xiandaishangye@126.com