面部识别技术风险未被新隐私法案所覆盖

一群致力于推动对面部识别及其他生物监控技术更加严格监管的联盟日前表示，加拿大联邦政府提出的隐私法案急需重大修订。在上周三发给工业部长Francois-Philippe Champagne的公开信中，Right2YourFace联盟强调，面部识别技术的使用正威胁到人们的人权、平等原则以及基本自由，包括隐私权。

该联盟指出，面部识别工具能够将个人面部图像与数据库中的照片进行匹配，用以确认个体身份。但是，该技术可能导致偏见或错误的结果，增加了误识别的风险。信件的签署者包括加拿大公民自由协会、国际公民自由监控团体、加拿大隐私及获取信息委员会等多个组织的代表。

联盟成员们表示，当前议会讨论中的C-27法案并未充分考虑面部识别工具所带来的潜在伤害，尤其是在商业和政府部门越来越快地采用人工智能系统的背景下。隐私及获取信息委员会的Sharon Polsky在新闻发布会上强调，人工智能并非人造，也不具备真正的智能，目前几乎未受到有效监管。

她补充说，虽然研究一再显示面部识别的结果不尽可靠，但加拿大的城市政府、机场、零售商、学校以及执法机构仍在每年投入巨资，将越来越多的人工智能及面部识别系统用于社区安全建设中。

自由党在去年提出的隐私法案，旨在使加拿大民众能更好地控制个人数据的使用，防止商业实体滥用。法案中还包含了对不遵守规则的组织施加罚款的条款，并为人工智能的应用制定了新规则。

然而，联盟对于法案中缺乏对“面部识别可能带来的问题”进行讨论表达了担忧。加拿大公民自由协会隐私、技术和监视项目的代理主任Daniel Konikoff提到，法案中对隐私的规定，应当特别考虑对敏感信息的保护，并明确提供更加严格的生物特征数据保护，比如面部数据、指纹和声音模式等，因为它们可能存在种族和性别偏见的特别风险。

联盟对法案中的某些条款表示担忧，这些条款允许企业在不告知用户或未获用户同意的情况下出于合法商业目的收集信息，可能过于泛泛，使得隐私权受到牺牲而利益最大化。

政府方面则声称，法案中的人工智能部分旨在通过确保在开发和部署高影响力人工智能系统时，能够识别、评估并减少伤害和偏见的风险，以保护加拿大公民。此外，该法案还提议设立一个人工智能和数据监管专员，负责监督公司的合规情况，下令进行第三方审计并与其他监管机构分享信息。

该联盟对提出的立法草案没有对所谓的“高影响力”进行定义表示关切，他们认为这是规定中至关重要的一步。信中强调，必须在法案中包含对高影响力系统的定义，而这应包括面部识别技术及其他生物识别工具。

上个月，Champagne向负责研究法案的众议院工业和技术委员会表达，政府准备与国会议员协作，制定修订案以界定高影响力系统的分类。Champagne建议的分类之一包括在未经个人同意的情况下使用人工智能处理生物信息以识别个人身份，或者判断个人的行为或心理状态。

联盟表示尚未见到具体的修订案内容，Konikoff对此表示，“关键在于细节，但我们目前对细节一无所知。”

去年10月，众议院信息、隐私和伦理委员会曾呼吁暂停联邦警察和加拿大企业使用面部识别工具，除非获得法院授权或隐私监管机构的参与。委员会还敦促政府制定关于面部识别工具的使用、禁令、监管和隐私的规定框架。