本文共字，预计阅读时间。

2024年3月27日，美国财政部发布《关于管理金融服务行业人工智能特定网络安全风险的报告》（Managing Artificial Intelligence-Specific Cybersecurity Risks in the Financial Services Sector）。该报告是在关于安全、可靠和值得信赖的人工智能开发和使用的总统行政命令14110的指示下撰写的。财政部网络安全和关键基础设施保护办公室（OCCIP）领导了该报告的编写工作。

在报告中，财政部明确了人工智能给金融服务行业的安全性和弹性带来的重大机遇和挑战。为此，该报告概述了一系列措施，以应对与人工智能相关的即时运营风险、网络安全和欺诈挑战:

1.解决日益扩大的能力差距。在内部人工智能系统方面，大型和小型金融机构之间的差距正在扩大。大型机构正在开发自己的AI系统，而较小的机构可能无法做到这一点，因为它们缺乏训练大型模型所需的内部数据资源。此外，已经迁移到云端的金融机构在以安全可靠的方式利用人工智能系统方面可能具有优势。

2.缩小欺诈数据鸿沟。虽然越来越多的公司开始部署人工智能，但是金融机构用于训练模型的数据仍然存在缺口。这种差距在欺诈预防领域非常明显，因为企业之间的数据共享不足。当金融机构利用其内部数据开发这些模型时，大型机构的优势更加明显，因为它们拥有更多历史数据。规模较小的机构通常缺乏足够的内部数据和专业知识来构建自己的反欺诈人工智能模型。

3.监管协调。金融机构和监管机构正在就如何在快速变化的人工智能环境中更好地解决监管问题进行合作。然而，人们对监管碎片化存在担忧，因为州、联邦以及国际上不同的金融部门监管机构都在考虑人工智能监管。

4.扩大NIST人工智能风险管理框架。可以扩展和调整美国国家标准与技术研究所（NIST）的人工智能风险管理框架，涵盖更多与金融服务部门相关的人工智能治理和风险管理的适用内容。

5.数据供应链图谱和“营养标签”的最佳实践。生成式人工智能的快速发展说明了密切监控数据供应链的重要性，因为这能够确保模型使用的数据准确可靠，并充分考虑隐私和安全问题。此外，金融机构应该知道他们的数据在哪里以及如何使用这些数据。金融部门将受益于数据供应链制图最佳实践的发展。此外，类似于食品“营养标签”，金融部门还将受益于供应商提供的人工智能系统和数据提供商的标准化描述。这些“营养标签”将清楚地识别用于训练模型的数据、数据来源以及提交给模型的数据的使用方式。

6.黑盒人工智能解决方案的可解释性。对许多金融机构来说，高级机器学习模型（尤其是生成式人工智能模型）的可解释性仍然是一个挑战。考虑到用于训练模型的数据和这些模型的输出以及稳健的测试和审计，该部门将受益于针对生成式人工智能等黑盒系统的可解释性解决方案的额外研发。在缺乏这些解决方案的情况下，金融部门应该采用最佳实践来使用缺乏可解释性的生成式人工智能系统。

7.人力资本的差距。人工智能的快速发展暴露了人工智能劳动力人才的巨大缺口，这些人才同时擅长创建和维护人工智能模型和人工智能用户。为技能较低的从业者提供一套关于如何安全使用人工智能系统的最佳实践将有助于缓解这一人才缺口难题。此外，在管理人工智能风险的团队中也存在技术能力差距，例如在法律和合规领域。对信息技术以外的员工进行特定角色的人工智能培训可以帮助培训这些关键团队。

8.对通用人工智能词典的需求。整个行业在“人工智能”的定义方面缺乏同意意见。一个通用的人工智能专用词典或许能为金融机构、监管机构和消费者提供必要帮助。

9.解决数字身份难题。强大的数字身份解决方案可以帮助金融机构打击欺诈，维护网络安全。然而，这些解决方案在技术、治理和安全性方面有所不同，并提供不同级别的保证。一套新兴的国际、行业和国家数字身份技术标准正在形成。

10.加强国际协调。从国际上来看，金融服务业的人工智能监管仍是一个悬而未决的问题。财政部将继续与外国同行就人工智能在金融服务中的风险和好处进行进一步接触。

作为本报告研究的一部分，美国财政部对42家金融服务行业和技术相关公司进行了深入采访。这些机构包括在全球具有系统重要性的金融机构、地方银行和信用社、各种规模的金融公司均就人工智能在其组织内的使用方式提供了意见。其他利益攸关方包括主要技术公司和数据提供商、金融部门行业协会、网络安全和反欺诈服务提供商以及监管机构。财政部的报告广泛概述了当前人工智能在网络安全和欺诈预防方面的使用案例，以及人工智能使用和采用的最佳实践和建议。该报告没有提出任何要求，也不支持或反对在金融部门使用人工智能。

在未来几个月里，美国财政部将与私营部门、其他联邦机构、联邦和州金融部门监管机构以及国际合作伙伴合作，制定关键举措来应对金融业面临的人工智能挑战。虽然这份报告的重点是运营风险、网络安全和欺诈问题，但财政部将继续审查一系列与人工智能相关的问题，包括人工智能对消费者和边缘化社区的影响。

[Source]

本文系未央网专栏作者发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！

本文为作者授权未央网发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！

本文版权归原作者所有，如有侵权，请联系删除。