2019年7月,FCA宣布与艾伦·图灵研究所合作,探索金融服务领域人工智能的透明度和“可解释性”。6月11日th2021年,艾伦图灵研究所发布了“金融服务业中的人工智能“。本FCA委托报告突出了与AI相关的机会,挑战和问题,以及透明度在金融服务部门追求AI创新的作用。该报告在其性质中是探索性的,并寻求提供将利益相关者(包括监管机构)的框架和语言提供有必要的理解,以追求追求负责任和社会有益的创新的AI的不断发展景观。报告从一开始就是AI已经对金融服务提供的转型性影响以及该部门的进一步发展仍然会来。虽然这不是一个绑定报告,但在其中没有未来的监管,FCA可能会考虑到在考虑金融服务部门的AI未来监管框架时突出的概念和风险。

什么是人工智能?

该报告首先将人工智能定义为“一门让计算机做人类需要智能做的事情的科学”,并提供了一些标记来区分和划分各种类型的人工智能(象征性的、统计的、一般性的和狭义的)。与金融服务最为相关的是,该报告接着关注了推动金融服务人工智能创新的三个技术变革要素:机器学习、非传统数据和自动化。该报告详细探讨了这三种类型的人工智能创新,并提供了它们如何以及如何在金融服务领域使用的例子。

人工智能挑战和指导原则

该报告讨论了遇到人工智能创新时的主要考虑因素和挑战。

首先,AI开发人员应该理解和管理数据质量,并提出有关AI系统在其开发中使用的数据和数据期间绘制的数据的准确性,新近度,概念有效性,完整性和数据的疑问。

第二次考虑应该是所使用的模型的新颖性。主要与机器学习有关,模型可以保持许多特征,例如不透明度,非直观或适应性,这使得其不同的用途或多或少适合。

第三,使用AI可以改变技术供应链的结构。例如,AI系统的使用和采用可导致供应链的进一步复杂性,并从第三方外包增加。

报告强调的最后一个考虑涉及人工智能系统的影响(积极和消极)的规模。它强调了几个例子供读者思考:替代人类与人工智能的业务任务的执行,必要时人类干预的失败导致“级联影响”,最后,第三方AI工具使用跨多个行业和领域,潜在的正面和负面影响是放大的成功/失败,第三方的人工智能。

在考虑这些因素时,报告强调了人工智能系统可能出现的一些具体问题:系统的性能(对人工智能执行给定任务的能力的信任)、符合法律和监管要求(FCA手册、PRA规则手册、竞争平等和数据保护法律)、在适当的人类监督下称职地使用人工智能的能力、人工智能提供解释的能力、人工智能的响应能力以及它的社会和经济影响。该报告提醒读者注意指导人工智能采用的人工智能伦理原则——公平、可持续性安全和透明度。报告用了整整一章的篇幅,从金融服务的角度阐述了后者。

人工智能在金融服务中的益处和危害

该报告更有趣的一点是,它对金融服务领域的人工智能及其相关的好处和风险进行了探索。报告强调了人工智能对金融服务业既有或可能既有积极影响又有消极影响的五个领域。

1)人工智能对消费者保护既有积极的影响,也有消极的影响。例如,人工智能系统为客户提供最合适的金融产品/服务,筛选客户以防止欺诈,寻求消除对客户的差别待遇,提供投资策略或进一步增强消费者权益。

2)AI可用于金融犯罪,包括预防和执行欺诈,洗钱,以及证券,内幕交易和市场操纵。

3)AI可以对市场竞争具有直接和间接影响。

4)通过确保对微观和宏观审慎风险的充分理解和解释,人工智能的使用可能对企业和市场的稳定性产生影响。

5)人工智能可以对加强网络安全和保护企业数字基础设施产生重大影响。

透明度

该报告侧重于人工智能的一般原则之一,尤其适用于金融服务领域的人工智能。该报告指出,由于金融服务业的主要危害和潜在风险,有必要确保和证明人工智能系统是值得信赖的,并负责任地使用。它指出,必须对不同类型的信息和不同类型的利益相关者及其相应的利益给予适当的考虑。对于任何类型的透明度,人工智能开发人员都需要回答如何以有效和有意义的方式获取、管理和与各种利益相关者沟通信息。在涵盖这些主题时,该报告提供了一个框架,允许人工智能领域的开发者、用户、监管机构和其他利益相关者考虑人工智能的道德含义,并定义对金融服务领域人工智能透明度的预期。

接下来是什么?

该报告承认,其目的不是评估现有监管或行业实践是否足以应对金融服务业人工智能带来的挑战和机遇。该报告寻求解决已确定的挑战和担忧,并得出结论称,还需要进一步工作,以回答有关未来人工智能监管和风险格局的问题。虽然在报告中对透明度原则进行了很大的扩展,但它也得出结论,当将提供的透明度概念框架应用到金融服务的人工智能的具体用例中,并决定应采取何种形式的人工智能透明度时,还有进一步的工作需要考虑。

根据最新发展人工智能监管欧洲层面和这份报告的释放,这将是有趣的,看看FCA和英国监管机构通常使用这个报告,它突出部分和透明度的必要性的风险要求,开发英国的人工智能监管框架。

如果您想讨论本文中讨论的任何问题,请联系邓肯Pithouse.阿里乌斯派信徒Nooshabadi或者你通常的DLA Pipe金博宝188转账r联系人。