金融领域人工智能监管最新进展

扫描分享

本文共字，预计阅读时间。

文/清华大学五道口金融学院金融安全研究中心

人工智能（AI）的飞速发展带来了巨大的机遇，同时也为金融机构、消费者和监管者带来了全新的挑战。12月12日，国际清算银行（BIS）的金融稳定研究所（FSI）发布了一份名为《金融领域人工智能监管：最新发展和主要挑战》的报告，梳理了金融领域人工智能监管的最新进展。相关内容如下：

国际层面的监管协调

1.G20和G7的努力

G20（二十国集团）早在2019年就通过了以“以人为本”为核心的人工智能指导原则，强调可信赖的AI技术在促进可持续和包容性发展中的作用。近几年，随着生成式AI的崛起，这些原则被不断细化，并融入到各成员国的政策框架中。

2023年，G7（七国集团）启动了“广岛AI进程”，并在同年12月通过了《全面AI政策框架》。这一框架提出了促进安全、可信赖AI系统的指导原则，以及推动负责任AI发展的行为准则。其中特别关注生成式AI在金融等高风险行业的应用，并强调了国际合作和标准化的重要性。

2.OECD的AI原则更新

经合组织（OECD）的《AI原则》是全球AI政策制定的重要参考。2024年，OECD对其2019年发布的AI原则进行了更新，加入了对生成式AI的具体指导。这些更新包括强化透明性、可解释性和问责性要求；明确对公平性、数据隐私和安全的保护；提出对生成式AI的特殊监管措施，例如防止“幻觉”（hallucination，指AI生成虚假或不准确信息）和数据泄露。

3.联合国的首次AI决议

2024年3月，联合国通过了历史上第一份AI相关决议，强调AI在促进可持续发展方面的潜力，同时呼吁国际社会采取行动应对AI带来的伦理和社会风险。2024年9月，联合国发布了全球AI治理的最终报告，提出了在数据隐私、技术标准和伦理规范方面加强国际合作的建议。

区域性和国家层面的具体措施

1.欧盟：AI法案（EU AI Act）

欧盟在AI监管方面一直处于全球领先地位。2024年，欧盟正式通过了《人工智能法案》（AI Act），这是全球首部全面的AI监管法律。其特点包括：

风险分级监管：将AI系统分为“不可接受风险”、“高风险”、“有限风险”和“最小风险”四类。信用评估和健康/寿险定价被归类为“高风险”应用，要求符合严格的合规标准。
高风险AI系统的要求：这些系统必须满足透明性、可解释性、人类监督和数据治理的要求。例如，信用评分模型需要能够解释其决策逻辑，并避免基于种族、性别等敏感数据的歧视。
生成式AI的特别规定：要求开发者披露模型是否使用了受版权保护的数据，并为用户提供内容生成的解释。

2.中国：生成式AI的监管探索

2023年，中国发布了《生成式人工智能服务管理暂行办法》，并将《人工智能法（草案）》列入《国务院立法计划》中预备提请全国人大常委会审议项目。这些法律文件明确了AI开发和应用中的监管底线：

数据合规：生成式AI开发需要遵守数据安全与隐私保护的法律规定，特别是敏感数据的使用。
内容监管：AI生成的内容不得违反公共秩序和法律，例如不得传播虚假信息或侵犯知识产权。
技术透明性：要求生成式AI服务提供者明确模型的训练数据来源。

此外，中国监管机构正在探索如何通过沙盒机制测试生成式AI的金融应用，以确保其在信贷和保险等领域的安全性。

3.美国：多层次的监管框架

美国的AI监管以技术中立和行业自律为主，但近年来逐渐加强了针对金融领域的具体规定。

消费者金融保护局（CFPB）：明确要求金融机构在使用AI进行信用决策时，必须向消费者解释拒绝贷款的具体原因，确保消费者的知情权和申诉权。
纽约州金融服务部门（NYDFS）：2024年发布了保险行业的AI使用指南，要求保险公司证明其AI系统不会引发歧视性定价或不公平对待，同时强调数据隐私保护。
联邦贸易委员会（FTC）：对生成式AI技术展开调查，特别是AI服务提供商与金融机构之间的合作是否存在反竞争行为或数据滥用。

4.新加坡与卡塔尔：发展负责任AI

新加坡金融管理局（MAS）发布了“公平性、伦理、问责和透明性”（FEAT）原则，并通过“Veritas Initiative”帮助金融机构评估其AI模型的合规性。此外，新加坡还推出了“GenA.I. Sandbox”，允许银行在受控环境中测试生成式AI的应用。

2024年，卡塔尔央行发布了AI使用指南，提出了明确的高风险AI系统定义，并要求所有涉及金融服务的AI系统配备“人类监督”机制。这一指南还特别关注AI模型的可解释性和数据安全性。

参考文献

Crisanto, J. C., Leuterio, C. B., Prenio, J., & Yong, J. (2024). Regulating AI in the financial sector: Recent developments and main challenges. Financial Stability Institute Insights, No. 63. Bank for International Settlements. [online] Available at: https://www.bis.org/fsi/publ/insights63.htm [Accessed 18 Dec. 2024].

[Source]

本文系未央网专栏作者发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！首图来自图虫创意。

本文为作者授权未央网发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！首图来自图虫创意。

本文版权归原作者所有，如有侵权，请联系删除。首图来自图虫创意。