本文共字，预计阅读时间。

报告出品：剑桥大学替代金融中心（CCAF）、剑桥大学法官商学院和世界经济论坛（WEF）。

报告翻译：人民大学数字经济研究中心，指导教授：程华

点击查看《人工智能在金融中的应用正带来“范式革命”（第一部分）》《第二部分》

第6章：人工智能是金融服务中的风险驱动因素

人工智能是金融服务的风险驱动力。

很多公司认为，大规模采用AI会带来重大风险，尤其是在数据隐私和歧视方面。至少有四分之一的公司不认为自己有能力缓解这些风险。

公司对有关于大规模采用AI的风险评估工作受到他们对AI的看法的影响，即将AI视为整合力量还是破坏性力量。预期AI产生整合力量的公司看到AI在全行业范围内造成了失败；而预期AI产生破坏力量的公司将重点放在AI对市场功能造成的威胁、资产定价和风险上。

人工智能应用对市场的预期影响与企业今天所感知的影响之间存在持续的差距。后者通常是适度的，并且在很多时候，人工智能逐渐起到降低风险的作用。

不能仅仅由于无知或偏见而消除这种认知差距。无论企业的经验或资源如何，这种认知差距都是普遍存在的。企业可能会在大规模采用当下并不可用的应用后预测到新兴风险。

监管以及风险和合规团队参与AI实施都为企业提供了重要保证，但也可能造成盲点的风险-导致企业将明确监管的风险置于未受到监管的风险之上。

尽管风险管理是公司内部应用AI的最常见领域，但尚不清楚采用此方法的公司是否比竞争对手产生更好的效果。

6.1 人工智能行业的风险格局

为了更好地理解人工智能的采用如何与金融服务提供商的风险环境相互作用，该调查要求受访者针对AI实施对一系列风险的贡献进行评分。这些风险既包括当前的组织层面的风险，也包括一旦实现大规模采用的情况下潜在的市场层面的风险，对于某些行业来说，这可能只是一个遥远的风险。其中包括侵犯隐私，网络攻击，集中风险，偏见和歧视加剧，服务责任机制减弱以及金融市场中的系统性风险。

公司预计大规模采用AI会成为整个市场风险的重要净贡献者。如图6.1所示，在所有受访者中，有48％至58％13认为大规模采用AI会加剧市场风险，而19％到32％的受访者认为总体上会降低风险。受访者特别关注AI在系统数据泄露和算法决策中根深蒂固的偏见方面的应用前景：58％的公司都认为AI在以上领域可能会产生负面影响。然而，公司了解AI大规模采用的风险的方式取决于他们在自己的实施过程中走了多远，以及他们认为整个行业采用AI的最终局面将是什么样子。

图6.1：人工智能大规模采用对市场风险的预期影响

如图6.2所示，在将AI视为对行业的最终整合影响者与将AI视为主要破坏性影响的人之间，在感知方面存在着至关重要的差异。那些将整合视为主要力量的人往往更担心共享操作漏洞的出现和金融服务行业失败的高影响点，例如海量数据和网络安全漏洞或少数供应商的过度暴露。另一方面，那些将破坏视为主要力量的人则倾向于关注对市场准确理解能力和定价风险的威胁，例如市场不确定性，偏见和系统性风险。

图6.2：通过公司对人工智能采用的竞争影响的认识，期望人工智能大规模采用的公司所占的百分比会增加整个市场的风险。

AI 领导者和落后者的观点也有所差异，表现为有不同维度的思考（图6.3）。

AI落后者往往更关注面向客户或行为问题，例如偏向算法处理或数据安全漏洞。这些问题是由数据的管理和处理方式驱动的，并且可能威胁到AI的持续被接受程度。另一方面，AI领导者更担心市场功能的风险，例如竞争扭曲和不确定性增加。很少有证据表明金融科技公司与现有公司之间的观点存在差异。尤其是大型金融科技公司和大型现有传统的公司，对大规模采用AI的风险有非常相似的看法，这也许反映出他们强调以微薄的利润为大众市场零售客户提供服务。

图6.3： AI领导者和落后者预计大规模采用AI将增加整个市场的风险的比例

6.2 协调市场和公司层面的风险展望

尽管公司预计大规模采用AI会显著增加市场水平的风险，但他们几乎看不到在自己的组织中正在发生这种情况的证据。如图6.4显示，公司当下的AI实施水平仅对风险做出了适度贡献：18％至34％的企业预计会产生净负面影响，而23％至32％的企业则预期会产生积极影响，当前大多数AI实施水平都没有将列出的潜在风险加重。相反，人们认为在风险管理层面，通过实施AI可能会增强组织的网络安全性和抵御能力（请参阅第6.3节）。

图6.4：人工智能实施对组织特定风险的预期影响

在大规模采用AI所产生的整个市场风险与通过AI应用所产生的特定于公司的风险之间具有可比性的情况下（图6.5），当前人工智能在公司层面的影响始终比大规模采用AI对整个市场产生的预期影响要好得多。例如，只有24％的公司预计AI实施会加剧其组织内部的分歧，但58％的公司预计大规模采用会导致整个市场产生这种影响。

图6.5：预期AI引发的可比的组织特定风险和市场风险的增加

因此，正如公司报告的那样，在特定于公司的AI实施风险与整个市场的大规模采用风险之间存在重要的脱节，这需要加以解释。

这种认知差距可能是由于自我服务偏见所致，即在中期，受访者可能对其组织应对AI相关风险的能力过于自信或采取防御措施。他们可能对某些类型的风险比对其他类型的风险具有洞察力-留下潜在的盲点。另外，差距可能反映了大规模采用方案所特有的新出现的风险，不能简单地从公司层面观察到的风险中推断出来。这些假设中的每一个都有非常不同的含义，可以针对调查结果进行检验。

如图6.6所示，知识和专业知识的差异不能解释很大一部分的认知差距。如果对向受访者提出的所有类型的风险的期望值取平均的话，则AI落后者更有可能预料到大规模采用的不利影响，也更有可能看到因其自身当前AI实施状态而产生的风险。因此，AI领导者和落后者的感知差距在统计上是相同的，并且放大再细分的风险类别不会产生有意义的模式。

图6.6：鉴于AI实施的成熟度，预期AI导致的公司特定风险与市场风险之间的可比增长

在风险和合规团队密切参与AI实施的公司之间，平均而言，认知差距也不会显著变大，这表明自满情绪和简单的自我服务偏见不太可能发挥作用。15但是，这些平均值掩盖了重要的细微差别；与同行相比，由风险和合规性领导的实施团队预计，大规模采用AI对系统风险和算法偏差的负面影响较小，并报告当前AI实施对网络安全，数据保护和责任制风险的负面影响较小。

图6.7：按风险和合规团队的参与程度，预期AI引发的可比较的公司特定风险与市场风险的增加

这种模式的一种可能解释是，它反映了监管的方式在历史上一直适用于AI用例（另请参见第7章）。由风险和合规团队领导的AI实施的公司可能会将其对当前风险的评估集中在已经存在监管要求的领域，而将对未来风险的评估集中在未来可能会出现法规的领域。他们还认为明确监管的风险更易于管理。

正如第7章更详细讨论的那样，当今许多司法管辖区已经建立了网络安全，数据保护和高级管理人员问责制的监管框架。正如前面所看到的那样，在AI实施过程中拥有合规性和风险团队的公司表示，他们为应对这些特定风险做好了更充分的准备。另一方面，随着人工智能在金融服务中越来越广泛地被采用，监管者的关注重点可能会转移到系统性风险和偏差等问题上。

如果这种解释是正确的，那么可能会有一些公司，包括AI领导者，其对合规性的关注可能会提供与新兴AI相关风险有关的错误安全感，或者导致对此类风险的解释远低于必要水平的狭隘理解。

总体而言，仅凭组织特征不可能解决大规模采用的预期市场影响与当前使用的AI实施对公司影响之间的差距。剩余部分可能由大规模采用导致的新兴风险来解释是最有说服力的。特别是，这可能意味着，网络效应、共享的依赖关系（例如，对同一供应商，方法论，数据量或替代数据中潜在的解释变量）以及财务和声誉传染性不能减少在公司层面观察到的问题，反而会加剧公司风险。

6.3 按部门和辖区绘制与AI相关的风险

需全面考虑AI应用对组织风险的影响，深入到相关组织部门及其运营所在的司法管辖区。

在调查反馈中，金融市场基础设施行业对大规模采用AI可能产生的影响看法强烈（图6.8）。在所有接受调查的行业中，该行业的受访者表示，除一项调查的公司级风险和一半的市场级风险外，对其余因素的风险展望最差。他们的部门也是唯一将当前AI实施对风险的影响总体上看为负面的部门。他们尤其认为AI所导致的市场不确定性的影响是负面的，有63％的人预计这种风险会随着AI的采用而增加，而其他行业的相应比例仅为25％至50％。这些公司可能关注的那种市场影响的一个特别戏剧性的例子是“闪崩”：资产类别间的短暂的极端市场波动，在此期间，价格明显不受基本面的控制。

本报告的第4章和第5章已经暗示了此类公司关注的一些一般原因-这是公司预期未来AI破坏水平最高的行业，也是由于数据质量问题在AI实施上受到最大阻碍的行业。可以理解，在受到严格监管的行业中，领导者可能会将影响力极强的利用次优数据的应用程序视为威胁。

图6.8：人工智能采用对部门风险的高层次摘要

在其他地方，行业往往一次性的被调整为与AI相关的特定类别的风险。例如，支付行业的公司特别意识到偏见的风险，例如在反欺诈控制或可疑交易的识别中。投资管理领域的人士特别对于短期和长期内可能造成严重破坏的数据泄露事件感到担忧，而存款和贷款机构的受访者则表示，他们短期内对隐私和网络安全风险的关注程度很高。

对AI相关风险的感知可能不仅涉及对行业动态的判断，而且还涉及对法规的相对充分性的判断。如本章之前提到的，当企业将高度管制的活动视为对自己和公众而言相对安全，那么人们会在法规较宽松或采用较新的法规时来报告较高的风险水平。

对于组织级别的风险，这大致上是正确的。

正如在第7章中更详细讨论的那样，中国直到最近才对数据保护和隐私引入严格的监管要求，而且一段时间以来，公司在较宽松的监管环境中运作，而美国和英国（以及最近的其他欧盟国家）则面临着更严峻的法规挑战，尤其是关于数据保护的法规。因此，美国的公司，甚至英国的公司似乎都将AI视为其各自组织风险的净缓解者，而中国公司则将当前AI应用水平视为是对组织风险的良性因素（图6.9）。

图6.9：关于不同管辖区的AI对组织特定风险的影响的平均观点

无论这一发现是否适用于其他司法管辖区，在大规模采用AI的情况下，它显然都不会适用于整个市场的风险。当考虑AI大规模应用下的市场层面的风险时，美国和中国公司都非常悲观，两国的大多数人都预计广泛应用AI会增加风险（图6.10）。只有总部位于英国公司的预期最倾向于平衡发展的前景，但即使有44％的受访者也预计平均整个市场范围内的风险会增加，只有30％的受访者希望他们会降低。很难确定造成这些看法的国家层面的潜在驱动力——但是，公司可能会看到更大的国内市场赞成AI驱动的整合或至少加强现状。第五章的发现支持了这一点，该结论表明，与欧洲公司相比，中国公司和美国公司多半会预计AI会产生整合的影响（或进一步巩固现状）而非破坏。这种态度与公司对大规模采用AI会加剧整个市场风险的期望之间似乎存在关联。

图6.10：关于AI对不同辖区的市场风险的影响的平均观点

6.4 降低风险和AI的作用

尽管公司预计大规模采用AI会引起或加剧风险，但这并不意味着不能减轻此类风险的影响，也不能确定这一点。样本中的多数人（占63％至73％）认为他们很适合应对此类风险，系统性风险和网络安全威胁被认为是最容易处理的。相反，只有13％至22％的人声称自己“准备得很好”。即使那些威胁程度较小的市场风险也对四分之一以上的公司构成了挑战，并且超过三分之一（36％）的公司不确定是否有能力缓解集中风险（图6.11）。

在公司受到相当规范的监管的情况下，准备工作似乎最强大，而挑战则是监视和管理漏洞。在数据安全、隐私和网络安全中可以看到这样的例子。

另一方面，在风险处于较高市场水平且公司的个人影响力受到限制的情况下，如不断增长的市场不确定性和市场集中度，准备工作最薄弱。

图6.11：为减轻与AI相关的市场风险的潜在影响而准备的感知力

如果不是因为AI实施项目中嵌入的风险和合规人员的贡献，那么不确定其缓解风险能力的公司所占的百分比将会更高。如图6.12所示，几乎一致地确保了让此类人员参与AI实施的公司能够控制自己在市场范围内的数据保护和网络风险的风险。他们在应对偏差和市场不确定性方面的能力也比其他人更有信心。

因此，在已有监管要求的地方，使风险和合规团队参与AI监督是最有益的。该结果呼应了第6.2节中讨论的更初步的发现-随着时间的流逝，专家可能会发现盲点并专注于监管中最明确解决的风险，而不是对公司最重要的风险。

就是说，大多数公司在AI实施中不涉及风险专家。这样做的公司更有可能成为AI领导者，他们探索了广泛的AI用例，并制定了AI计划。

图6.12：通过合规性和风险团队参与AI实施来减轻市场对AI应用风险的影响的感知准备

在讨论公司的风险缓解计划时，需要重复一遍，相当大比例的调查受访者期望采用AI能够总体上降低整体风险（就整个市场风险而言， 19％-32%是公司层面的风险；并且其中 23％-32%是公司特定风险，）。这不足为奇。如本报告前面所述，风险管理是组织内AI应用中最常引用的领域，所有受访者中超过一半（54％）在接受访问时已实施此项程序。（请参见第2章和图2.4）。此外，在不断发展的RegTech行业中，很大一部分还依赖于AI相邻技术，其中56％的供应商采用机器学习以及35%的供应商使用自然语言处理（NLP）来解析法规内容（Schizas等人，2019）。

如第2章所述（图2.8），大多数具有AI功能的风险管理都与检测表明行为不当或欺诈的可疑或异常模式有关。较少见的是预测性的从历史数据推断出新数据集的应用程序，同时进行风险管理的应用程序仍然很少见，这些应用程序使用AI来挑选导致操作失败或损害客户利益的问题行为模式。

所有这些活动通常都依赖于人类的努力和判断，而要持续应用这些的挑战和代价很大。有了有效的数据挖掘策略，从原则上讲，人工智能在建立和比较模式方面可以比人类具有显著的优势，从而可以将人类的智慧更多得从事研究更高水平的增值工作（Baquero等人，2018）。

无论采用AI的风险控制的理论依据是什么，也尚不清楚实施这些控制的公司与那些没有应用AI的公司相比是否具有优势。如图6.13所示，可以说应用AI风险管理的公司表现最出色的领域是对集中风险和超额风险的检测。在这一领域，有28％的将AI应用于此问题的人表示，他们对AI的应用降低了总体风险水平，而在其他没有应用AI的公司中，这一比例为17％。但是，尚不清楚这种微不足道的差异是否可以归因于AI的使用，特别是因为许多风险管理应用程序可能是最近才出现的。

图6.13：按AI在风险管理中的实施状况，针对AI对组织特定风险的积极预期的统计

第七章：金融服务业人工智能的监管

调查结果表明，监管可能是正在实施AI的公司的一项负担。但监管的影响是细微的，包括大多数AI领导者在内的许多公司都看到了AI监管带来的净收益。

数据保护和数据共享要求似乎是AI实施的首要且最大的监管障碍。但是，随着AI计划的成熟，监管不确定性，而非任何单独的合规负担，将成为主要问题。

当企业将监管视为能够推动他们实施AI时，这种积极影响很少能够被简化为单独的监管要求或义务的影响。企业通常将后者视为AI实施的净障碍。

稳定和一致的监管框架所提供的确定性，以及由此引起的消费者和关键业务决策者之间的信任，很可能主要地构成了监管的净促成作用。

企业对监管的影响的认识在不同管辖区之间存在显著差异。与过去的欧洲和美国相比，中国公司报告的本地监管框架的影响，总体上比欧洲和美国公司报告的更为积极，这可能是由于其历史上对数据保护规则的要求更少。对监管框架的看法与企业对监管者自身能力和知识的看法密切相关，两者可能会相互促进。

7.1 AI –新生的全球监管议程

由于当局对固有偏见和难以逆转的、高影响力的错误的担忧，信息的算法处理在一些辖区受到监管已有一段时间了。人工智能的广泛应用加剧了这些担忧，对道德决策，劳动力的大规模替代以及商业、政府和人际关系的重塑也有了更根本的、宏观层面的担忧（G20贸易部长和数字经济部长，2019）。

作为回应，近年来出现了许多国际主题政策倡议，以可持续和负责任的方式帮助塑造AI的发展。重点领域包括数据保护和隐私，透明度，人员监督，监视，公共管理和服务，自动驾驶汽车和致命的自动武器系统。

在宏观层面，二十国集团（G20）成员国首先在2019年夏季商定了关于“以人为本的”人工智能的非约束性高层次原则。G20的原则大致上与经合组织国家及早些时候其他国家所同意的原则相一致，包括（经合组织，2019）：

• 包容性增长，可持续发展与福祉
• 以人为本的价值观和公平
• 透明度和可解释性
• 坚固，安全
• 问责制

在国家层面，透明度和可解释性（定义见第4章）已成为监管者的优先事项（信息专员办公室，2019）。监管机构对“黑匣子”的人工智能系统持谨慎态度，这些系统对他们和公司而言都难以监管，而且更难让消费者在面临不利影响时进行质疑（Croxson，Bracke和Jung，2019）。关于AI将加剧甚至证明先前存在的社会偏见，也引起了越来越广泛地公众和政治关注。尽管公司可能有财务激励来纠正或推翻性能不佳的算法决策，或者因为偏见而导致进一步的风险（如第6章所述），但他们可能没有激励去解决那些对商业没有不利影响的偏见。

历史上，性别，种族或年龄等特征与金融部门的关键决策变量相关，例如收入、职业、获得安全保障或受教育程度；部分原因是持续存在的社会不平等。类似的影响促进了个人特征与公司决策（例如信誉评估、财务建议或保险定价）之间的相关性。在包含这些历史社会影响力的数据上训练AI系统可能会导致一种模型，在这种模型中，个人特征或其相近的代替物对结果产生不成比例的影响。

与其他行业相比，AI在某些行业中受到更严格的监管审查。金融服务提供历来是一项数据丰富的业务，其对消费者的影响可能很大，并且在其中也利用了“软”信息、个人判断以及定量和所谓客观的输入信息。监管机构对透明度和偏见的担忧是可以理解的，与其他部门相比，金融服务部门对使用AI中的问责制的呼声可能更高。此外，随着监管机构采用新的法定和战略目标，包括促进竞争的目标和金融普惠（Rowan等，2019），他们要警惕的与AI相关的危害范围在不断扩大。

但是，专门针对金融服务的“定制”的AI法规并非常态。相反地，先前存在的监管义务正在影响AI在该部门的使用。人工智能的实施涉及获取、存储和使用大量的个人信息（通常是敏感信息）。因此，这会触发与数据保护和数据处理同意、网络安全和网络弹性相关的法规，或执行法规和义务来公平地对待客户对于信贷和保险承保等领域尤其如此。

基于受监管公司的看法本章考虑对AI在金融服务中的应用的监管的影响。

它还确定了法规的总体影响与特殊影响之间的重要区别，以便确定法规的真正成本和收益从哪里产生。

7.2 监管负担之外

关于监管对金融创新的影响的老套故事仍在不断发展，但这种关系现在已成为金融科技行业新闻报道的永久特征（Zavolokina，Dolata和Schwabe，2016）。

调查结果表明，监管既可以促进金融服务创新，也可以阻碍其创新。而41％的受访者认为，在他们的组织中，监管已经或轻微或重大地阻碍了人工智能计划的实施，超过三分之一（34％）报告称，监管支持人工智能的实施（图7.1）。仅关注那些判定监管影响为“显著”的受访者，其中更多的人认为影响是积极的（即在他们的组织中促进AI的实现）而不是消极的（15％比9％）。

图7.1：监管对AI实施的总体影响

这些发现不足为奇。监管可能会增加成本并延迟产品开发，但它也可以提供法律或监管确定性并增强用户信任度，从而反过来促进对某个行业的投资。

监管确定性和信任的好处对于金融科技初创企业来说最为重要，因为金融初创企业缺乏可以使消费者放心的知名品牌，也缺乏可以使风险投资者放心的良好记录。本文合理地研究了普遍信任的作用，特别是结构保证在促进金融科技采用中的作用，并且这种作用通常在相关研究中也具有重要意义（Sarkar，Chauhan和Khare，2020）

因此，调查显示，与现有公司相比，金融科技公司略微更可能报告监管对AI实施的积极影响（图7.2)。确实，认为监管带来净收益金融科技公司与认为带来净成本的一样多（36%），现有的公司则更可能看到成本而非收益（33％比46％）。

图7.2：按实体类型划分的监管对AI实施的总体影响

很多积极的监管推动力似乎与使用人工智能提高市场基础设施效率有关。在交易所和交易设施的运营中，该行业49％的公司报告称，在其组织中，监管促进了或启用了AI（图7.3）。一种解释是，为了遵守市场监管等监管义务，适用于该行业的新法规提供了强大的动力来应用人工智能。自2012年全球金融市场基础设施原则（PFMI）发布以来，地方法规下的要求已与全球标准保持一致，并且市场基础设施提供商，作为RegTech行业的潜在客户，其重要性也在增长（Schizas等，2019）。

市场基础设施参与者的态度与支付行业形成鲜明对比，对后者而言，监管与AI实施速度的互动更加有限。从总体上看，监管的影响被认为是积极的，但有一半的样本认为监管对他们自己实施人工智能没有影响。鉴于该行业中最有可能的应用涉及遵守KYC或欺诈检测（这两者都是长期存在的要求），因此很难说最近的监管给使用AI的业务案例增加了内容。

图7.3：按部门划分的监管对AI实施的总体影响

为了解决整个行业的法规影响的差异，并更全面地了解法规的影响，评估对特定类型监管的看法是有帮助的，如图7.4所示。总体而言，在公司使用AI的潜在影响上，监管并非给他们施加了不可持续的责任。少于15％的组织将此类规定视为实施AI的主要障碍。

相反，受访者认为与组织之间及跨辖区共享个人数据有关的要求是最繁重的。38％和43％的受访者分别报告了对AI实施的重大负面影响。

图7.4：不同监管框架方面的负担

“欧盟GDPR的新规定等意味着对金融服务部门中的数据科学家和机器学习团队有严格的要求。在很大一部分的时间里，要么无法使用某些数据源，要么遵循严格的要求才能具有高度可解释性的模型。会出现性能与可解释性之间的折衷，这意味着由于监管而无法满足预期。”

——英国保险公司的数据科学家

为了分析AI创新的生命周期，在分析法规的影响时需要进一步细化。在评估监管壁垒时，AI领导者与AI落后者明显不同。如下图7.5所示， AI领导者的AI实施更可能受到不明确的监管和不可预测的监管变更的阻碍，而不是合规成本的阻碍。从直觉上讲，这可能是由于AI领导者开拓了新的市场，而落后者在以前已经建立了明确的监管的空间中运营。

AI领导者也有可能为关键的AI应用建立了完善的、经过验证的业务案例和交付计划，而应用有限的公司更有可能仍在为自己的程序进行探索或论证。如果后者的下限成本估算值不够可靠，或者尚无法证明其AI实现具有可扩展性，他们可能就更容易受到数据保护要求带来的大量前期成本的影响。

图7.5：采用AI的成熟度对不同监管框架方面的负担

7.3 支持性监管是比较优势还是管制不足是不当得利？

以前的发现显示，监管是AI实施的推动力，但是，不同的辖区并非全部如此。例如，中国的公司与美国、英国和欧洲大陆的公司之间存在明显的区别：前者总体上将监管视为有利于人工智能的发展，而后者不这么认为。

图7.6显示，只有不到四分之一（24％）的美国和欧洲大陆公司以及不到三分之一的英国公司（30％）认为监管总体来说是有帮助的。

而超过一半（53％）的中国公司认为是有帮助的。即使考虑到较小的基数和对中国监管机构的较宽容态度，这也是重大的差异。

图7.6：不同管辖区中监管对AI实施的影响

大部分中国公司对监管的正面看法很大程度上可能是由于历史上不太严格的监管要求，特别是在组织之间的数据共享和AI实施的透明度方面。

与美国，英国和欧洲同行相比，中国受访者不太可能把这些视为严峻的挑战。他们还更有可能报告说他们从数据保护标准中受益，以及报告说监管复杂性或法规对部署AI的企业施加的责任并没有带来不利影响。

全面的数据保护法规仅在最近才在中国颁布，这一事实在一定程度上解释了这些结果。在个人信息安全规范于2018年5月生效之前（TC260，2017）、国家网络空间管理局的新数据保护法17于2019年5月发布之前（中国网络空间管理局，2019年），监管框架相对较轻。最近，关于个人数据跨境移动的准则发布，中国的主要企业也已经发布了有关AI安全的有影响力的白皮书（中国国家信息安全标准化技术委员会，2019）。

因此，中国的趋势是对AI和个人数据使用的监管日益严格，而诸如本类的调查的未来版本可能将会反映出中国公司的观点转变。

如果相对宽松的法规至少在AI实施的某些方面给予了中国企业一种商业优势，那么接下来的积极的监督则应揭示出那些被该优势同时传播了不良做法的领域。

同样地，对监管对人工智能实施的净影响的看法可能会受到法规质量的差异的影响。实际上，对监管对人工智能的净影响的认识似乎与监管者和政策制定者对人工智能实施中使用的技术的理解有关。超过三分之一的中国公司（35％）认为监管者对金融服务中的AI应用有“很好”或“非常好”的理解，相比之下，英国为15％，欧洲其他地区为18％，美国仅为5％。

感知与净影响之间的因果关系当然可以朝任一方向或同时朝两个方向运行。

从表面看，采取回应意味着监管者要实行某些工作，以了解相关技术和用例的哪些要素会带来风险。我们并没有询问受访者是否感到他们自己的组织在了解他们更具创新性的工作对监管的影响方面需要进一步加强，但是，有些受访者提供了无提示的反馈来达到此效果：

[高级管理层需要更好地了解]围绕自主决策的监管框架

——投资经理的金融科技解决方案提供商，首席执行官

7.4 法规是在启动还是在阻止AI的采用？

为了评估监管或欠监管为特定管辖区的公司带来商业优势的潜力，重新考虑监管（总体上）会阻碍还是会启动AI的实施以及如何阻碍或启动是很有用的。

AI领导者对法规的总体影响的评价比AI实施受限的领导者更积极。40％的AI领导者看到积极的整体影响，34％的AI领导者看到消极影响；33％的AI落后者看到积极的影响，38％的AI落后者看到消极的影响（见图7.7）。

但是，正如已经讨论过的（见图7.5），当出现监管类型与方面的特定例子时，（例如“数据保护标准”，而不是将监管作为一个整体），AI领导者对法规的影响给予了更负面的评价。

这些发现似乎是矛盾的。但是，在回答两个基本问题时，企业可能在谈论两个截然不同的东西。

图7.5中的细目仅涉及合规性的影响。与在非常有限且独立的项目中应用AI的公司相比，在其组织的许多不同部分都实施AI的公司（即AI领导者）自然应该遇到更广泛的监管问题（并在过程中产生更高的成本）。另外，协调众多项目之间的合规性的需求使保留专门的AI合规性专家成为必要，他们可能具有专门的知识（和激励）来提高整个组织的法规风险的收益。合规团队的参与似乎与AI实施的规模和广度成正比。如第2章所述，大约三分之一（32％）的AI领导者报告说，合规部门在监督AI实施方面发挥了积极作用。在那些参与AI最少或最窄的公司中，没有受访者报告合规团队参与了实施。

另一方面，图7.7可能反映了完全建立监管框架的影响。在本章的前面，有人认为，金融技术领域的AI实施应比现有技术更多地受益于监管，因为金融技术领域正在寻求发展更多的信任和监管确定性。这些好处不易被减少到特定监管要求的好处，而是源于整个监管框架。监管支持AI领导者（其中49％是金融科技公司）的AI实施的主要机制也是类似的。对AI和监管确定性的普遍信任对于赢得（1）对AI的投资以及（2）对AI进行大的战略性押注的高层支持至关重要。

图7.7：监管对不同AI采用成熟度的AI实施的影响

整个样本中的发现与信任对AI投资水平的积极影响相一致，而广义信任与AI领导者的出现之间没有关联。实际上，无论公司对AI的参与程度如何，总体影响和特定法规影响之间的差距仍然存在。

监管确定性的有益效果可能有助于解释最后一个悖论。鉴于监管机构强调使AI更加透明和可解释，并确保不会以不受控制的方式消除人工输入，因此人们可以期望，在那些允许最少的人工投入决策的AI实施中，监管负担会不成比例地下降。

根据图7.8，这项研究收集的证据中，没有证据支持这一点。如果有的话，在实施更多自主AI的公司中，监管的净效果似乎更为积极。19

很难将这一(无效的)发现视为监管松懈、吸引高风险申请的案例。在基本上自主的实施份额中，英国，欧盟，美国和中国之间在统计上没有显着差异——没有美国或中国的受访者报告了任何完全自主的实施。

图7.8：按当前使用的AI系统的自主级别划分监管对AI实施的影响

取而代之的是，在可预测且稳定的监管基础上，基本上高度自治的AI仅对高度普遍信任的环境中的公司决策者和政策制定者来说才是可容忍的。然后，具有自主AI应用程序的受访者报告的积极净效应可能是高成本、甚至更高的收益的综合结果。

然而，调查结果可能由于幸存者偏差而低估了监管的相对负担。如果很少有实质性的自主系统在没有一定程度的监管批准的情况下进入早期阶段，那么，与不那么成功的创新者相比，幸存者应该报告一种较为适中的监管负担。

7.5 与执法的关系

如本章引言中所述，人工智能不仅受到特定法规的影响，而且还受到有关其他技术或金融产品的更广泛政策和法规的影响。正如AI受到有关数据保护的更广泛法规的影响一样，它也引起了围绕个人隐私与社会安全之间的平衡的广泛的政治和社会争论。

近年来，政府、执法机构和安全服务部门越来越关注新技术，尤其是端到端加密的使用，这些技术正在为他们的目标创建令人无法接受的障碍。美国总检察长威廉·巴尔（William P.Barr）将这标记为对国家安全的严重威胁（Barr，2019），认为这正在削弱或消除执法机构合法获取信息的能力。澳大利亚、加拿大、新西兰、英国和美国这五眼联盟在2019年内政部长会议之后的一份公报中指出，科技公司应包括一些机制，通过这些机制政府可以合法地获得被加密或被保护的数据，这被称为“后门”。（五国部长级会议，2019）。

大多数公司认为信息共享要求或提供后门访问的要求是一种负担。但是，虽然跨部门的公司中大约有相同比例的公司认为这些要求是实施的一个小障碍，但与现有公司相比，金融科技公司更可能认为这些要求的实施是一个严峻的挑战（见图7.9）。

图7.9：不同实体类型的与执法部门共享信息的担忧

对于这种差异有各种可能的解释。金融科技公司可能拥有更复杂的技术，这给执法机构索取数据带来了更大的障碍，因此也给信息共享带来了更大的监管负担。考虑到图7.5中提供的证据，这似乎不太可能：AI领导者和落后者与执法机构共享信息的态度之间几乎没有差异。

然而，金融科技公司可能拥有或多或少的离线服务渠道，因此可能比现有公司更容易受到有关其在线服务不安全的建议的影响。一些金融科技公司已经在将自己打造成挑战者，颠覆者和局外人的品牌上进行了大量投资，例如他们的客户关系可能会因为显得过于渴望与当局合作而受损。最后，可能是因为现有公司以前有更多的经验向执法机构提供信息。建立了他们的风险偏好、控制力以及可能与监管者之间一定程度的信任，他们可以更好地在设计阶段的早期考虑适用的法规。

另一方面，执法机构承认AI是一种有潜力为侦查非法活动带来巨大好处的技术（内政部，2019）。AI可能会继续受到来自有关新技术及其对安全问题的影响的持续辩论的影响，以及反过来影响它。

第8章：金融服务中AI的数据使用

数据在创建差异化AI功能中起着不可或缺的作用。具体而言，新颖或替代的数据集使公司能够生成洞察力，从而使他们能够在现有产品中获得竞争优势，或扩展到新的业务领域。

大多数公司大量使用来自运营的内部生成的数据以及客户生成的数据（包括例如客户偏好），而与客户与企业的互动无关的外部客户数据（例如社交媒体）的使用率较低。

金融科技公司使用的客户数据多于现有公司——与客户互动产生的内部数据以及外部客户数据（例如社交媒体）都是如此，这与金融科技领域更加关注支持人工智能的客户服务和客户获取有关。

60％的受访者利用AI从替代数据集中获得新颖的见解，使其成为以产生新的收入潜力为更广泛目的的领域中第二大最常实施的AI使用领域。社交媒体是最常用的替代数据源，阐述了其就个体的社会经济行为模式而言的信息价值，而这对于信用分析或市场情绪分析尤为有益。确实，在AI应用程序中，投资管理，存款和贷款行业被证明是社交媒体的最大用户。

总体而言，投资经理在其AI应用程序中利用了最广泛的替代数据源产品组合，在利用来自社交媒体的新闻数据和数据集方面尤其领先于其他金融部门。

8.1 数据的重要性

不管AI技术有多创新，其提供真实经济价值的能力都取决于它所消耗的数据。金融机构可能会在其AI计划中利用各种内部数据，包括客户，交易和人口统计数据。

另一方面，金融科技公司可能只能访问合作伙伴或商业提供商的外部可用数据，直到他们的业务规模扩大到能提供更多数量和范围的数据为止。

近年来，交易市场和其他市场的一个关键主题是使用替代数据源（例如卫星摄影，社交媒体或天气报告），以及通过将这些数据源与AI技术结合可以产生的新的投资见解。在

在2017年的一项调查中，格林威治协会（Greenwich Associates）发现80％的投资者在搜索alpha时都希望访问替代数据源。

为了表明金融服务行业替代数据的增长，行业贸易组织Alternativedata.org在2019年9月确定了447家机构投资者，高于2018年的375家，低于2013年的250家。他们还指出，对冲基金、养老金基金和共同基金在这些数据上的支出从2016年的2.32亿美元增至2019年的11亿美元和2020年的17亿美元（BattleFin和AlternativeData，2019）。

AI和替代数据源的结合可以产生强大的见解。例如，卫星数据可用于实时分析土地使用、住房增长、停车场活动和运输。与AI结合使用时，可获得对公司收益有影响的新见解，例如根据停车场密度预测超市销售或通过船舶、火车和卡车的运动来衡量的供应链问题。

8.2 数据源

许多AI应用程序的起点是内部可用数据。如图8.1所示，最常用的数据是来自运营的内部生成的数据（46％对其使用“非常高”）或内部客户生成的数据（40％对其使用“非常高”）。

接下来最常用的是公开数据（免费或商业获取，分别为27％和16％），其次是外部客户数据，例如社交媒体或地理位置，只有13％的受访者对其使用“非常高”。

图8.1：AI应用程序不同数据源的使用级别

8.3 客户数据的使用

如前所述，现有公司应有权访问更丰富和多样的数据源，尤其是对于客户数据，其中客户可能与大型机构具有多种产品关系。但是，图8.2显示金融科技公司使用客户生成的数据明显比现有公司多，无论是是来自内部的数据20（53％的金融科技公司高度使用此类来源，而现有公司是26％）还是外部的客户生成数据21（例如，社交网络媒体，地理位置）（约20％的金融科技公司高度使用此类来源，而现有公司仅为5%以上）。

图8.2：AI应用程序的客户数据使用级别

在许多方面，这反映了对许多零售和商业银行环境的更广泛观察，在这些环境中，挑战者或新银行广泛使用地理位置和其他数据源来提供新颖的以客户为导向的功能，而现有银行却经常由于遗留问题或其他原因而无法快速创新。

按行业分析，图8.3显示，就外部生成的客户数据而言，付款部门（50％对此类数据的使用“高”或“非常高”）和投资管理部门（35％对此类数据的使用“高”或“非常高”）使用最多。这与存款和借贷形成了鲜明的对比，只有18％的受访者表示他们对此类数据的使用“高”或“非常高”。

考虑到例如地理位置数据在案例（例如欺诈检测）中的作用，付款在利用外部客户数据方面的优势并不令人惊讶。

图8.3：AI应用程序中外部客户数据的使用级别

8.4 替代数据的使用

总体而言，所有受访者中有60％使用AI从非传统数据集中产生新见解，这一数字在现有公司和金融科技公司之间是统一的。

社交媒体是最常用的数据类型，在使用替代数据集来支持其AI应用的公司中，采用率为55％，紧随其后的是支付提供商的数据和地理位置数据（图8.4）。

图8.4：最广泛使用的替代数据类型

源自社交媒体的数据集占主导地位不足为奇。来自社交媒体的用户行为数据包含丰富的（尽管是非结构化的）信息，其中包含个人身份和其他属性。这些对于信用分析之类的应用程序可能是有益的，尽管该用例可能尚未处于主流采用阶段。第9章显示，大约43％的使用AI信用分析的贷方利用社交媒体数据。

另外，社交媒体允许公司利用影响者在塑造个人观点中的作用。例如，欧洲中央银行（European Central Bank）在2015年的一项研究中发现，符合某些条件的推文可以作为某些股票市场短期收益的可行预测指标；此后，许多研究论文都证实了这种关系（Oliveira，Cortez和Areal，2017; Pagolu等人，2016; Azar和Lo，2016）。

在频谱的另一端，卫星图像和天气数据仍然是替代数据中使用最少的类型。这些数据集通常价格昂贵，企业可能需要丰富的专业知识来处理这些数据并提取见解（Partnoy，2019）。

可能的用例也可能仅限于仅与某些行业组有关的特定应用程序。例如，人们发现，停车场交通流量的卫星图像包含了对公司盈利的重要的预测价值。但是，尽管事实上数据集已经变的可获取将近十年了，但似乎很少有人利用它们（Katona，Painter，Patatoukas和Zeng，2018年）。

在整个金融服务领域中，支付提供商领先于从替代数据中生成基于AI的见解（当前被69％所采用），其次是投资经理（64％），市场基础设施和专业服务公司（61％）以及存款和贷款企业（57％）。

但是，投资经理在使用的各种数据集方面处于领先地位，如图8.5所示。

可以假定，这一发现是由于在投资过程中利用AI的特性造成的（将在第10章中进一步探讨）。在即使边缘信息优势也可能导致明显竞争优势的环境中，投资经理可能会试图从从多样的数据源中收集尽可能多的见识，而在其他行业的用例中可能不需要相同的宽度。

投资经理的替代数据组合中两个最引人注目的极端值是社交媒体和新闻趋势。与其他部门相比，其他数据源的利用不足。这可能反映出以下事实：投资经理主要利用替代数据的预测属性以产生投资回报，而不是利用客户的见解。

图8.5：跨关键部门的替代数据类型的使用情况统计

图8.6：不同的采用AI成熟度对替代数据类型的使用情况统计

在所有使用AI功能从替代数据集中获得见解的受访者中，AI领导者正在使用更广泛的数据组合（见图8.6）。在社交媒体数据、地理位置数据和来自支付提供商的数据中，它们的采用率比AI落后者高得多。但是，对于卫星图像和天气数据（实际上AI落后者在此处领先）而言，差距要小得多，这可能突显了成功利用这些类型的数据的难度。

毫不奇怪，在利用各种数据源方面，AI领导者再次被证明是大规模采用者，在其整个组织中支持更多AI实施，而AI落后者往往更加专业化。随着越来越多的AI领导者将AI作为服务出售，他们可能会获得来自其他域的客户数据的可扩展访问权限，而这可能无法通过其他方式轻松访问。

（未完待续）

[Source]

本文系未央网专栏作者发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！首图来自图虫创意。

本文为作者授权未央网发表，属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！首图来自图虫创意。

本文版权归原作者所有，如有侵权，请联系删除。首图来自图虫创意。