2019年7月,FCA宣布,它与Alan Tying Institute合作,探索金融服务部门AI的透明度和“解释性”。6月11日th2021年,艾伦·图灵研究所发表了关于金融服务业中的人工智能“。本FCA委托报告突出了与AI相关的机会,挑战和问题,以及透明度在金融服务部门追求AI创新的作用。该报告在其性质中是探索性的,并寻求提供将利益相关者(包括监管机构)的框架和语言提供有必要的理解,以追求追求负责任和社会有益的创新的AI的不断发展景观。报告从一开始就是AI已经对金融服务提供的转型性影响以及该部门的进一步发展仍然会来。虽然这不是一个绑定报告,但在其中没有未来的监管,FCA可能会考虑到在考虑金融服务部门的AI未来监管框架时突出的概念和风险。

什么是人工智能?

该报告首先将人工智能定义为“一门让计算机做人类需要智能做的事情的科学”,并提供了一些标记来区分和划分各种类型的人工智能(象征性的、统计的、一般性的和狭义的)。与金融服务最为相关的是,该报告接着关注了推动金融服务人工智能创新的三个技术变革要素:机器学习、非传统数据和自动化。该报告详细探讨了这三种类型的人工智能创新,并提供了它们如何以及如何在金融服务领域使用的例子。

人工智能挑战和指导原则

该报告讨论了遇到AI创新时的主要考虑因素和挑战。

首先,人工智能开发人员应该了解和管理数据质量,并对人工智能系统在运行过程中使用的数据及其开发中使用的数据的准确性、近代性、概念有效性、完整性和代表性提出问题。

第二个考虑应该是所使用的模型的新颖性。主要是在机器学习方面,模型可以拥有许多特征,如不透明、非直观性或适应性,这些特征使模型或多或少适合不同的用途。

第三,人工智能的使用可以改变技术供应链的结构。例如,人工智能系统的使用和采用可能导致供应链进一步复杂化,并增加第三方外包。

该报告亮点的最后一次考虑涉及与AI系统相关的影响(积极和负数)的规模。它突出了读者的一些例子考虑:在执行业务任务时用AI替换人类,人类的失败在必要时进行干预,导致“级联影响”,最后,第三方AI工具used across multiple industries and sectors, the potential positive and negative impacts are amplified in the success/failure of that third party’s AI.

When navigating these considerations, the report highlights some specific concerns that may arise about an AI System: the system’s performance (trust in an AI’s ability to perform a given task), its compliance with legal and regulatory requirements (FCA handbook, PRA rulebook and competition equality and data protection laws), the ability to use the AI competently with appropriate human oversight, the ability for the AI to provide explanations, the level of the AI’s responsiveness and the AI’s social and economic impact. The report reminds the reader of AI ethics principles that serve to guide the adoption of AI- fairness, sustainability safety, and transparency, the latter of which the report dedicates a full chapter to in the context of financial services.

人工智能在金融服务中的益处和危害

该报告更有趣的一点是,它对金融服务领域的人工智能及其相关的好处和风险进行了探索。报告强调了人工智能对金融服务业既有或可能既有积极影响又有消极影响的五个领域。

1)AI可以对消费者保护具有积极和负面影响,例如,AI系统为客户提供最合适的金融产品/服务,屏幕客户防止欺诈,寻求消除客户的差别处理,提供投资策略或者传统的消费者赋权。

2)人工智能可用于金融犯罪,包括预防和执行欺诈、洗钱,以及证券、内幕交易和市场操纵。

3)人工智能对市场竞争有直接和间接的影响。

4)使用AI可能对企业和市场的稳定性产生影响,通过确保很好地理解并占据宏观审慎风险。

5)人工智能可以对加强网络安全和保护企业数字基础设施产生重大影响。

透明度

该报告侧重于人工智能的一般原则之一,尤其适用于金融服务领域的人工智能。该报告指出,由于金融服务业的主要危害和潜在风险,有必要确保和证明人工智能系统是值得信赖的,并负责任地使用。它指出,必须对不同类型的信息和不同类型的利益相关者及其相应的利益给予适当的考虑。对于任何类型的透明度,人工智能开发人员都需要回答如何以有效和有意义的方式获取、管理和与各种利益相关者沟通信息。在涵盖这些主题时,该报告提供了一个框架,允许人工智能领域的开发者、用户、监管机构和其他利益相关者考虑人工智能的道德含义,并定义对金融服务领域人工智能透明度的预期。

下一步是什么?

该报告承认,它不会旨在评估现有监管或行业实践的充分性或程度,以满足AI在金融服务部门创建的挑战和机遇。该报告旨在解决所确定的挑战和疑虑,并得出结论,有关有关AI未来监管和风险景观的问题还有进一步的努力。虽然报告中存在透明度原则的大大扩张,但它还结论,在将透明度概念框架应用于金融服务中的特定用途案例和确定AI透明度所需的特定用例时,还可以考虑进一步的工作。

鉴于欧洲级别的AI规则的最新发展和本报告的发布,看看FCA(和英国监管机构一般)如何使用本报告,它突出的风险以及透明度所需的必要性,to develop the UK’s own AI regulatory framework.

如果您想讨论本文中讨论的任何问题,请联系邓肯Pithouse阿里乌斯派信徒Nooshabadi或者你通常的DLA Pipe金博宝188转账r联系人。