2020年7月8日,在众议院金融服务委员会的特别工作组人工智能举行了听证会,题为“暴露通知和接触追踪:人工智能如何帮助地方安全重新开放和研究人员找到治疗方法”。

在开场白中,众议员比尔·福斯特(d-IL),任务小组主席指出,听证会讨论的必要权衡的冠状病毒病2019(COVID-19)大流行迫在与生命权,自由权的公众,隐私和追求幸福的权利。主席福斯特指出,他所谓的“微创”人工智能(AI)监控可以挽救生命,但是会付出了巨大的成本人身自由。他说,接触者追踪应用程序,使用后端AI,它结合了从自愿参加COVID-19阳性的患者,可以适当地解决隐私问题收集,同时还捕捉类似的健康和经济效益为更具侵入性的监测原始数据。

议员巴里Loudermilk (R-GA)讨论了如何更有效的比手工数字化接触者追踪接触者追踪,但指出它必须有强烈参与̶̶̶̶从人——奖金的采用率总体百分比——是有效的。他说,公民需要相信他们的隐私不会受到侵犯。他建议,为了帮助建立这种信任,人们需要能够轻松地确定将收集哪些数据、谁将访问这些数据以及如何使用这些数据。

四名小组成员在听证会上作证。以下是每位专家的证词摘要,然后是委员会成员在证词后提出的一些问题的概述:

布赖恩·麦克伦登他讨论了隐私、披露和选择加入数据收集如何影响识别和隔离COVID-19感染者的能力。人工智能和机器学习需要大量的数据。他说,尽管抗击COVID-19最有价值的数据可以从对感染者和接触者的接触追踪采访中找到,但获取这些信息存在困难。例如,试图联系受感染人群的电话可能没有人接听,因为人们通常不接未知号码的电话。他说,移动应用程序提供了一种更准确、覆盖范围更广的追踪联系人的方式。麦克伦登先生讨论了这类应用程序的两种工作方式:(1)使用GPS定位,(2)通过低能量蓝牙。对于后者,麦克伦登先生解释方法由两个大型科技公司:当用户数字COVID-19阳性接触者追踪应用测试,然后他或她选择选择在非个人可识别信息上传到官方云服务器,这将确定潜在风险发生,并提供应用内等通知用户。

Krutika Kuppalli,医学博士他讨论了如何通过追踪接触者来帮助阻止传染病的传播。她指出,在使用这些技术时,必须记住涉及公共卫生信息、数据保护和数据隐私的伦理考虑。

安德烈·m·佩里他在演讲的开头讨论了COVID-19如何不成比例地影响黑人和拉丁裔人口,这反映了历史上的不平等和结构性种族主义。佩里指出,在人工智能和联系人追踪方面,尤其令人担忧,因为它们涉及结构性种族主义和偏见。他说,这些工具不是中立的,可能会加剧或减轻结构性种族主义。他建议,为了解决这种偏见,接触者追踪应包括那些通常被排除在提供更好健康和经济成果的系统之外的人。此外,在医疗保健领域使用人工智能工具带来了与其他领域相同的风险:人工智能只有和设计它的程序员一样好。编程中的偏见会导致技术上的缺陷,放大现实世界中的偏见。佩里表示,需要加大对黑人拥有的科技公司的招聘力度,加大对这些公司的投资力度,对这些公司的偏见进行严格审查和测试,并加强与当地社区的接触。

拉梅什•拉斯卡尔他在演讲中强调了三个要素:(1)如何用应用程序增强手动接触追踪;(2)如何确保应用程序是隐私保护的、包容性的、值得信赖的,并使用开源方法和非营利组织构建;以及(3)建立一个全国性的流行病应对服务。关于包容性,Raskar先生指出,国会应该积极要求解决方案是广泛和普遍的;接触者追踪不可能只对能够获得最新技术的人群有效。

Post-testimony问题

主席福斯特问及隐私保护技术的限制,提供谁已隔离了一个星期的人的例子,那么只有一个其他人互动,再后来接收的曝光的通知:这样的人可能会知道身份的感染者。拉斯卡尔先生回答说,数据保护有不同的层次:保密性,匿名性,然后隐私。在公共卫生方案中,拉斯卡尔先生说,今天,我们只关心保密性和不匿名或隐私(最终,他评论说,你将不得不满足医生)。

代表劳德米尔克问道,如果我们要实施一项联邦联络追踪计划,我们如何确保公民知道哪些数据将被使用和收集,以及谁有权使用这些数据?麦克伦登回应说,根据这两家大型科技公司开发的方法,数据是随机的,并存储在个人手机上,直到用户选择将随机号码上传到服务器。通知确定是通过电话进行的,状态提供消息。州将不知道谁是暴露者,直到该人选择通过呼叫手动接触追踪小组。

代表玛克辛·沃特斯(d-CA)问开发商移动接触者追踪技术应该考虑,以确保少数族裔社区都没有进一步处于不利地位。佩里先生重申,AI技术尚未经过测试,创建或颜色,从而导致各种偏见的人审核。

国会议员Sean Casten问,用于追踪接触者的人工智能是否仅仅是向后看,或者可以预测未来的热点。麦克伦登先生回答说,要预测未来,你需要了解过去。人工接触者追踪访谈(感染者或接触者描述他或她曾经去过的地方)将提供重要数据,包括在机器学习算法中,使追踪器能够预测未来某个热点可能发生在哪里。不过,私隐问题及技术不兼容问题(例如例如,县和州的工具彼此不兼容)意味着大量数据目前是孤立的,甚至无法访问,阻碍了人工智能展望未来的能力。

请访问我们的冠状病毒资源中心订阅我们的邮件列表接收警报、网络会议邀请和其他出版物,以帮助您度过这一具有挑战性的时刻。