李东荣：人工智能的不当使用可能会引发个人隐私泄露等风险

12月11日消息，由新浪财经主办的2020中国银行业发展论坛智慧金融峰会于今日在北京举行，中国互联网金融协会会长、中国人民银行原副行长李东荣出席会议并发表演讲。

李东荣表示，人工智能在我国金融领域已获得一定的应用成效，但人工智能技术本身尚处于不断发展演进的过程中，其在金融领域更大规模的应用落地客观上还面临数据、成本、安全、人才等各种显性和隐性的障碍。而且由于存在技术黑箱、算法共振、算法歧视、数据高依赖度等情况，其在金融领域不当应用可能会引发责任边界模糊、市场羊群效应、数字金融排斥、个人隐私泄露等一系列的风险挑战，必须引起高度的重视。

以下为嘉宾发言全文：

尊敬的各位嘉宾、朋友们：

大家好！很高兴出席2020中国银行业发展论坛——智慧金融峰会，与大家共同探讨智慧金融的未来与发展这一重要议题。谈到智慧金融，我认为，其前提是数据要素的积累，基础是算法算力的进步，关键是适用场景的挖掘，核心是人工智能的应用。鉴于此，我也想结合今天论坛的主题，就推进人工智能在金融领域的应用，谈几点个人思考和意见，供大家参考。

大家知道，人工智能是引领新一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的“头雁”效应。近年来，得益于有力的政策支持、巨大的应用需求和开放的市场环境，我国人工智能技术和产业蓬勃发展，专用芯片、应用算法、开放平台等技术产品不断优化，计算机视觉、自然语言理解等技术应用达到国际先进水平。根据世界知识产权组织有关报告，去年我国申请人工智能专利的数量位居世界前列，与美国、日本合计占据了全球总量的78%。

具体到金融领域，2017年国务院发布了《新一代人工智能发展规划》，将金融列为人工智能应用试点示范和产业智能化升级的重要领域之一。去年人民银行发布的《金融科技发展规划》明确提出，要稳妥推动人工智能技术与金融业务深度融合，这些政策文件为人工智能在金融领域的应用提供了良好的政策环境。根据中国互联网金融协会对A股88家上市金融机构2019年年报的统计分析，73%的上市金融机构已开展人工智能应用，主要的应用场景如智能风控、智能客服和智能营销。机构的占比分别为47%、41%和32%。其中，上市公司在人工智能应用方面更为积极，超九成的上市银行已开展相关的应用探索。

总体来看，人工智能在我国金融领域已获得一定的应用成效，但人工智能技术本身尚处于不断发展演进的过程中，其在金融领域更大规模的应用落地客观上还面临数据、成本、安全、人才等各种显性和隐性的障碍。而且由于存在技术黑箱、算法共振、算法歧视、数据高依赖度等情况，其在金融领域不当应用可能会引发责任边界模糊、市场羊群效应、数字金融排斥、个人隐私泄露等一系列的风险挑战，必须引起高度的重视。

面对人工智能在金融领域应用的重大机遇和现实挑战，我认为有必要加强前瞻研究和规范引导，做到扬长避短、趋利避害。鉴于此，结合有关国际经验，在国家新一代人工智能治理专委会发布的《新一代人工治理原则》总体框架下 ，我倡议提出人工智能在金融领域应用应坚持的四个基本原则：

一是依法合规。严格遵守以人工智能金融应用相关的信息技术、网络安全、数据治理、隐私保护、业务监管等领域法律规范，坚守智能金融的合规底线和行为红线。积极采用人工智能相关国家标准、金融行业标准和自律标准，鼓励执行严于法律规范、国家标准和金融行业标准的企业标准。结合人工智能应用新进展新特点，积极加强人工智能应用与发展的共性法律问题研究，推动建立符合我国国情、更具智能化时代适应性的多层次智能金融法治体系。

二是以人为本。以维护金融消费者合法权益、增进金融消费者共同利益为应用导向，尊重社会共同价值观和伦理道德，持续提升技术水平、改进管理方式，开发“有温度的”智能金融产品服务，促进数字普惠金融发展。坚持守正创新、科技向善，制定实施科学合理的金融消费者保护机制、隐私安全政策、风险缓释措施和应急处置安排，在数据获取、算法设计、产品研发和应用过程中消除偏见和歧视，禁止人工智能滥用、恶用，避免误用。

三是安全可控。加强人工智能研发者、使用者及其他相关方的能力建设和行为规范建设，确保相关人员具备人工智能金融应用所需的专业能力、业务知识和工作经验。加强理论研究、模型测试、安全评估和审计体系建设，不断提升智能金融系统透明性、可靠性、可控性，逐步实现可追溯、可信赖、可审计。按照分级分类管理思路，结合具体应用场景确定相应级别的算法模型可解释程度，不应以技术黑箱等作为可解释性不足的理由。做好技术供应商尽职调查、风险隔离和退出管理，不断提升自身技术实力和运维能力，避免对单一供应商的过度依赖。

四是权责清晰。从业机构董事会及高级管理层应推动建立科学合理的人工智能治理框架，为本机构应用人工智能所产生的结果负责。主动建立完善清晰、透明、公开的权责清单，明确研发者、使用者及其他相关方的权利、义务和责任，建立覆盖人工智能应用全流程的问责机制。坚持负责任金融理念，通过信息披露、风险提示、产品公示、隐私政策声明等方式，切实维护金融消费者知情权、自主选择权、公平交易权、信息安全权等权利。与合作机构、技术供应商等审慎签订合同协议，明确风险承担、服务安排、数据管理、投诉处置等方面的责任边界。

各位嘉宾，推进人工智能在金融领域应用，促进智慧金融发展意义重大，任务艰巨，我相信，在国家金融管理部门、行业协会、金融机构、科技公司等多方力量的共同参与和务实推动下，人工智能在我国金融领域的应用将会更加深入、广泛，为金融业数字化转型和经济高质量发展提供持续的驱动力。

最后，预祝论坛取得圆满成功，谢谢大家！