欧盟关于公共场所人脸识别禁令的深层考量

　　摘 要：
　　2020 年 1 月，欧盟《人工智能白皮书》草案拟禁止未来 3 至 5 年在公共场所使用 人脸识别技术， 在同年 2 月正式发布的文件中最终删除了这一禁令。究其原因， 欧盟拟推出 该禁令是因为公共场所人脸识别的特殊性对欧盟所倡导的用户基本权利构成了挑战；欧洲因 其历史记忆， 对人脸识别技术可能产生的歧视等风险更为敏感；现有的法律及技术都无法提 供良好的解决方案。欧盟最终删除了这一禁令， 则是因为技术和法律进步以及欧盟人工智能 产业发展的需要， 更是欧盟构建可信可控的人工智能环境， 推动数字主权建设的体现。未来， 欧盟必然会同时强调监管能力与技术发展两方面内容。一方面， 欧盟必然会对公共场所的人 脸识别实行越来越严格的监管；另一方面， 欧盟并不会真正全面禁止公共场所人脸识别技术 的使用，只会对特定目的予以限制。
　　内容目录：
　　1　欧盟拟禁止公共场所人脸识别始末
　　2　欧盟拟禁止公共场所人脸识别的原因
　　2.1　欧盟价值观与公共场所人脸识别特殊性
　　2.2　欧洲的历史记忆与人脸识别算法偏见
　　2.3　现有法律与技术保障不足
　　3　欧盟删除公共场所人脸识别禁令的 考量
　　3.1　技术及法律进步需要
　　3.2　欧盟人工智能产业发展需要
　　3.3　欧盟数字主权建设需要
　　4　欧盟人脸识别禁令前景展望
　　随着网络空间的不断发展，数据安全与国家安全日益紧密地联系在了一起，世界各国对 隐私问题及数据安全的关注度持续提升。欧盟 作为具有超国家性质的区域一体化组织，将面临更为严峻复杂的形势，需要在兼顾成员国不同发展背景及发展需求的前提下，推行统一的 欧盟价值观，打造数字单一市场，建设欧盟的 数字主权。
　　2020 年 2 月 19 日，欧盟委员会发布了《塑 造欧洲的数字未来》《欧洲数据战略》和《人 工智能白皮书——通往卓越和信任的欧洲路径》 （以下简称《人工智能白皮书》） 三份文件， 集中体现了欧洲的数字转型战略。2020 年 12 月， 欧盟又强调拟为＂数字欧洲计划＂拨款75亿欧元， 其中 21 亿欧元用于人工智能， 17 亿欧元用于网络安全。该计划旨在自 2021 年至 2027 年， 为欧洲数字转型提供支持，提高欧洲在全球数字经 济中的竞争力并实现技术主权。在欧盟的数字 转型中， 人工智能一直是欧盟关注的重点问题， 同时也是各国网络空间战略的重点议题。
　　01    欧盟拟禁止公共场所人脸识别始末
　　欧盟 2018 年 4 月就发布了《欧盟人工智能战略》， 2020 年 2 月发布的《人工智能白皮书》则具体阐述了欧盟在人工智能方面的目标、策略与方式。根据 EURACTIV 在 2020 年 1 月 17 日的报道， 欧盟委员会拟在 2 月正式发布的《人 工智能白皮书》草案泄露，委员会正在考虑在 未来 3 至 5 年内禁止在公共场所使用人脸识别 技术 [1]。据英国广播公司报道，欧盟推出该禁令 是为了使监管者有时间来研究如何防止该技术 被滥用。该禁令是在英国的政治家和竞选者呼 吁停止警方使用实时面部识别进行公共监控的情况下提出的，该技术可以让闭路电视拍摄到的人脸与警方编制的观察名单进行实时核对。运动者声称，某些场所在没有告知公众的情况 下使用了面部识别技术，该技术存在不准确性 且具有侵入性，侵犯了个人的隐私权，并有可 能加剧身份欺诈。此禁令一度引发了广泛的关 注和极大的争议，微软和谷歌两大业内巨头分别持有不同观点。Alphabet 和谷歌的首席执行官 Sundar Pichai 表示， 这一暂时禁令是可行的。微 软首席法律官 Brad Smith 则认为不应进行这样的干预。据路透社报道，Pichai在一次会议上说：＂也 许在我们真正考虑如何使用它之前，可以有一 个等待期＂，并认为＂政府和法律应尽快解决 这一问题，并为此制定一个框架。＂但 Smith 在 一次采访中表示，这样的禁令无异于是＂一刀 切＂， 并非精准打击。＂这是一项年轻的技术， 它会变得更好。但是，使它变得更好的唯一方法就是继续开发它，而继续开发它的唯一方法 就是让更多的人使用它。＂ 在不久后正式发布 的《人工智能白皮书》中，欧盟最终删除了这 一禁令，并鼓励各个成员国制定自己的人脸识 别规范，同时建议由独立团体评估每一项拟议 的公开使用该技术的情况。
　　尽管欧盟在正式发布的《人工智能白皮书》 中删除了这一禁令，截至目前也没有任何正式 的文件规定全面禁止公共场所的人脸识别。但 是，从欧盟日常的监管动态来看，其对人脸识 别技术的监管不断趋严，全面禁止公共场所人 脸识别的呼声也日益高涨。2021 年 4 月 21 日， 欧盟委员会发布了旨在加强人工智能技术监管 的法规草案，全面禁止大规模监控，对特定领域的＂高风险＂应用进行严格限制，并将所有远程生物识别系统都划分为＂高风险＂，原则 上禁止在公共场所为执法目的使用。这一草案 也被认为是《人工智能白皮书》的法律延伸， 旨在为其提供一个法律框架。2021 年 6 月 21 日， 欧盟数据保护委员会（EDPB）和欧盟数据保护 监督局（EDPS）又针对该草案发表了联合意见， 进一步呼吁在公共场所禁止使用人工智能自动识别个人特征， 包括人脸识别、步态、指纹、 DNA、声音等生物或行为信号。2021年 10月6 日， 欧洲议会投票通过决议，呼吁全面禁止在公共 场所进行自动面部识别，并对警方使用 AI 进行预测性警务活动实施严格的限制措施。
　　欧盟对公共场所人脸识别的禁令，有两方 面问题值得注意。首先，欧盟禁令的关注点集 中于公共场所的人脸识别，而非所有的人脸识 别技术。其次，欧盟官方的监管动态从未全面 禁止所有的公共场所人脸识别应用，其禁止的 重点始终都是大规模监控以及执法等，是针对 特定目的的限制。虽然欧盟后续整体上对于人 工智能的监管不断趋严，但此前《人工智能白 皮书》这一正式发布的文件中最终还是删除了禁令， 其背后的原因是值得考量与深思的。因此， 本文将着重探讨公共场所人脸识别技术的特殊 性，进一步探究欧盟拟发布该禁令的原因以及 最终删除该禁令的考量。同时，结合欧盟人脸 识别监管动向，对其未来公共场所人脸识别政 策做出展望。
　　02    欧盟拟禁止公共场所人脸识别的原因
　　2.1　欧盟价值观与公共场所人脸识别特殊性
　　首先， 《人工智能白皮书》中明确指出，鉴于人工智能可能对社会产生的重大影响，以 及建立对人工智能信任的需要，建设基于欧盟 价值观和基本权利（例如，人权和隐私保护） 的欧洲人工智能变得至关重要。在欧盟的数字 战略中，坚持并推广欧盟价值观一直是其突出 的特点，正如 GDPR 使欧盟成为数据隐私领域 的＂裁判者＂一样，在人工智能领域同样推行 严格的监管法规，宣扬属于欧盟的人工智能价 值观，也是欧盟维持其在伦理观念方面优势的 体现。
　　其次，人脸识别数据具有特殊性。人脸识 别属于生物识别技术，其所采集的面部数据等 属于敏感的生物特征识别数据，包含种族等敏 感信息， 能识别人的身份，且能够轻易与其他 信息相连，同时具有不可再生性， 是永久且唯 一的，一旦被采集将无法更改。欧盟《通用数 据保护条例》（GDPR）第九条对特殊类型的 数据处理中明确规定＂禁止以识别自然人身份 为目的的对个人基因数据、生物特征数据的处 理＂，特殊情况例如已获得数据主体明示同意等除外。
　　但是，公共场所人脸识别技术的特殊性违 反了明示同意原则，也难以判定同意的有效性 以及使用的必要性，由此对欧盟一直以来强调 的个人隐私保护构成了重要挑战。人脸识别虽 然是一种生物识别技术，但是与指纹识别、虹 膜识别等生物识别技术又有所不同。指纹与虹 膜识别技术无论在何种情景下都须由主体主动 进行才能完成信息采集，属于强制性认证方式；人脸识别技术则分为两种情况：第一，某些公共场所以及除公共场所外的其他个人应用场景，如机场车站闸机人脸识别、人脸识别支付等同 样属于强制性认证方式；第二，某些公共场所 的人脸识别则属于非强制性的认证方式，可以 在人完全不知情的情况下就完成信息的采集， 例如视频监控等。欧盟官方的监管动态禁止的 正是第二种非强制性认证的人脸识别。此外， 公共场所的人脸识别即使在主体知道的情况下， 也存在难以获得主体的明示同意，更难以认定 同意的有效性等问题。公众的同意是否是出于 独立意志做出的，远程监控这一方式是否必要 都存在争议。欧盟拟推出禁令时也强调，监管 者希望有时间来研究如何防止该技术被滥用。
　　2.2　欧洲的历史记忆与人脸识别算法偏见
　　欧洲对于第二次世界大战的历史有非常惨 痛的记忆，使欧洲人对人脸识别进行的面容特 征采集记录，以及公共场所区域个人活动轨迹 的监控记录等问题尤为敏感。
　　欧盟的法律中明确强调禁止在个人数据处 理中泄露个人信息。欧盟对于公共场所人脸识 别技术的禁令不仅是防止人脸识别技术被应用 于歧视，也是因为在该技术的应用中，已被质 疑存在歧视等问题。有研究表明，人脸识别针对不同种族的准确率差异巨大。该研究选择了微 软（Microsoft）、国际商业机器公司（IBM） 和 旷视（Face++）三家人脸识别 API。在识别人物 性别方面， 识别男性人脸的表现优于女性人脸； 在识别肤色方面，肤色较白人脸的表现优于肤 色较深的人脸。识别肤色较深的女性表现最差。美国国家标准与技术研究所（NIST） 2019 年发 布的一篇报告表明，在一对一的匹配中，与识别白人面孔的准确度相比，许多算法在识别非白人面孔时存在 10 倍到 100 倍不等的错误率。 在一对多的搜索中，大部分算法在识别某些特 定人群时匹配错误的比率明显高于其他人群。 一对一匹配的失败只会导致功能暂时无法使用， 通常可以通过多次尝试来解决，但是一对多搜 索的错误则会导致该群体被错误指控为可能犯 罪群体的风险大大提高 。这有可能进一步加剧 或扩大警方执法过程中的种族偏见等问题。特 定群体在自由选择时可以选择不使用人脸识别 方式，但是公共场所远程监控人脸识别技术的 应用， 则可能给特定群体带来无法避免的不便。
　　上述问题实际上是一种算法偏见。一方面， 从人类基因和人脸识别技术角度来看。对于基 于 RGB（Red、Green、Blue） 可见光的人脸识别 技术来说， 肤色越深面部的特征信息越难提取；另一方面，人脸识别技术作为一种人工智能， 依靠的就是数据和算法，在人脸识别技术的数 据训练中，对女性及深肤色人群的可训练数据 量较少。面向不同市场的公司在不同人种识别 上的表现也有所不同，进一步说明了训练数据 集对于人脸识别准确性的重要影响。针对一些 研究，相关公司的回应也集中于优化算法以及 增加训练数据，虽然错误率相比研究的结果有 很大下降，但肤色较深女性的错误率仍然是所 有人群中最高的 。算法偏见问题难以在短时间 内得到解决。
　　2.3　现有法律与技术保障不足
　　从法律层面来说，现有的立法中存在诸多 不足。GDPR 将生物识别数据定义为：＂与自然 人的身体、生理或行为特征相关、经特定技术处理而产生的个人数据，这些个人数据可用于 确认该自然人的独特身份。＂定义强调的是＂经 特定技术处理＂的数据，由此使视频监控抓拍 记录的人脸信息等被排除在外。视频监控在公 共场所有着广泛的应用，所采集的数据却难以 被划分到合适的类别当中。虽然 GDPR 禁止以 识别自然人身份为目的的生物特征数据的处理， 但仍然存在例外情况的规定，例如数据明显公开、出于重大公共利益目的等。同时，例外情 况存在模糊性，在实际操作中也往往会引起诸多争议。因此，现有的人脸识别法律中无论是 适用范围还是例外情况的规定，均难以适应公 共场所人脸识别愈发广泛的应用及其快速发展 带来的隐私安全挑战。在提出禁令时欧盟委员 会也表示，可能需要引入新的严格规定，以加 强保护用户隐私和数据权利。
　　从技术层面来说，如前文所述，基于 RGB 可见光的人脸识别技术对于深色人种的识别存 在硬伤，这一问题很难得到彻底解决。同时，算法优化以及训练数据集的平衡性在短时间内 难以得到实质性改善。此外，在目前对于人脸 识别技术的研发中，关注点大多集中于商业模 式中的个人人脸识别，对于公共场所使用的人 脸识别技术保障较少，公共场所人脸识别系统 往往需要和私营企业联合，由此给管理上带来 了更多的不确定性和风险。2019 年 6 月，美国 海关和边境保护局（CBP）大量旅客照片和车牌 照片泄漏事件便是由于外包公司不当上传数据， 进而被黑客攻击导致数据泄露。同时，如何平 衡保障技术的研发及普及成本也是亟待解决的问题。
　　03    欧盟删除公共场所人脸识别禁令的考量
　　3.1　技术及法律进步需要
　　欧盟拟发布的公共场所人脸识别禁令受到了民权运动者的欢迎和支持，安全界对此却持 反对态度 。正如前文所述，该禁令是在呼吁停止警方使用实时面部识别进行公共监控的情况 下提出的。直接禁止公共场所人脸识别技术的 使用可能是最直接解决该问题的方式，却无法 从根本上解决该问题。
　　人工智能等技术发展更新的速度极快，如 何促进技术的应用和规避相应风险始终是一体 两面的事， 无法割裂来看。无论是技术漏洞的弥 补还是相关法律法规的制定都有相应的滞后性，但这不应成为禁止使用的原因， 如若禁止使用， 即使在若干年后依旧会产生同样的问题，缺乏数据的人脸识别技术也无法获得发展与进步。 相反地，应当在加强监管的同时充分激发技术 的活力， 应当在实际的应用中不断发现新问题，并研究相应的解决方案，进行持续的监测和评估。同时，不同的应用场景有其特殊性，彼此之间难以直接借鉴，如果直接禁止公共场所的 使用， 不仅无法完善该技术在公共场所的应用， 更会使该技术的发展陷入僵局。《人工智能白 皮书》中也指出， 考虑到人工智能的迅猛发展，监管框架必须为适应将来的发展而留下空间。
　　3.2　欧盟人工智能产业发展需要
　　欧盟作为具有超国家性质的行为体，不仅 要从用户个人的角度衡量人工智能系统的影响， 还应将欧盟国家作为一个整体进行考虑。《人工智能白皮书》强调，为了达到足够的规 模并避免单一市场的分化，必须采用统一的人 工智能路径。因此，欧盟的相关文件适用范围 较广，需要在兼顾不同成员国法律规定的同时促进欧洲人工智能产业发展。
　　《人工智能白皮书》指出，人工智能技术 应用领域广泛，经济潜力巨大，但欧盟在人工 智能研发和应用方面已经落后于美国和中国。欧盟始终在尽力缩小人工智能技术方面与世界 领先水平的差距，包括＂数字欧洲计划＂的投 资等。欧盟委员会执行副主席 Margrethe Vestager 表示，人工智能等数字战略的出台，为欧盟提 供了成为世界先进技术领导者的第二次机会。
　　首先， 从欧盟人工智能产业发展需要来看。人工智能是数据、算法和计算能力的技术集合， 人工智能依靠的核心就是算法，而算法的核心 便是数据。因此，促进算法的进步并提高数据 可用性是人工智能技术发展的关键驱动力。人 工智能深度学习需要强大的数据集作为支撑， 算法本身的进步也依靠于更为广泛的数据集的 训练。欧盟想要发展当地的人工智能产业，必 然需要更高效地利用数据创造价值。此外，数 据的形成一般分为采集、存储、加工处理以及 使用等环节。欧盟 GDPR 关注的重点在于能否 使用生物识别数据 [9]，禁止的是以识别自然人身 份为目的的数据处理行为。如果欧盟禁止公共 场所的人脸识别技术，那么切断的便是数据的 采集环节，进而会从根本上截断数据的形成。因此，欧盟即使对公共场所的人脸识别严加监 管，也并不会实行全面禁止，只会限制特定目的及处理行为，例如执法以及远程监控等，这些方面主要会对其政府产生影响，而不会严重 阻碍其本地产业的发展。
　　其次，从欧盟及其成员国的情况来看。欧 盟缺乏统一的监管制度框架，成员国规定各有 不同，如何在欧盟层面进行统一便成为重中之 重。从其他国家的实践来看，全球范围内，提出人脸识别相关禁令的多为一个国家的某个城 市或洲，有的限于特定的机构和场所。例如， 2019 年 5 月 14 日，美国加利福尼亚州旧金山市 禁止市机构和执法机构使用面部识别技术；2020 年 7 月 22 日，美国纽约州立法机关通过了 2022 年前禁止在学校中使用人脸识别和其他生物特 征识别技术的法令。目前尚未有在全国范围推 行的全面的人脸识别禁令。欧盟作为具有超国 家性质的行为体，则更难以在该问题上发布统 一的禁令。从欧盟内部来看，其拟推出禁令时 就被质疑可能会使一些成员国当前的人工智能 项目偏离轨道，例如德国希望在 134 个火车站 和 14 个机场推出自动面部识别；法国计划允许 视频监控系统嵌入面部识别技术等。如果欧盟 无法成功提供一个适用于欧盟范围内的方法， 而直接推行禁令的话，反而会面临欧盟内部市 场被割裂的风险。《人工智能白皮书》中强调， 一个针对可信赖人工智能的欧盟监管框架将保 护所有欧洲民众，并且有助于创造一个平稳的 市场，这不仅有利于人工智能的进一步发展和 应用，也将巩固欧洲人工智能的工业基础。
　　3.3　欧盟数字主权建设需要
　　无论哪个国家，都希望能够建设自己的信息市场，而不是被国外巨头支配垄断，这也正是欧盟关注的重点问题。欧盟一直没有属于自己的可以与国外互联网巨头相抗衡的企业。因 此，欧盟近年来的方向是突出强调高标准的数 据保护，成为世界监管超级大国，由此开辟自己在数字经济中的发展空间，打造数字单一市 场，对抗外国巨头企业。但是，对于建设欧盟 的数字主权来说，仅仅成为监管大国是远远不 够的。正如意大利国家创新基金主席 Francesca Bria 所言， ＂欧洲需要继续作为一个全球经济体 发挥作用，而不仅仅是个监管权威＂。
　　此外，以人工智能为代表的新兴技术正使 网络安全与国家安全日益紧密地交织在一起，各国也在纷纷加强对于数据的控制权。欧盟需 要作为一个整体，推进成员国构建信任机制，协同建设数字主权。因此，禁令一出必然使欧 洲本地的相关企业遭受打击，不仅不利于促进 本地企业的发展，反而有可能为外国企业提供 契机，削弱欧盟对于数据的控制权。如果欧盟 对公共场所的人脸识别进行全面禁止，则在一 些必要的例外情况中，例如出于国家安全利益 等，反而会涉及更为重要的数据信息，外国企业一旦承担相关业务， 将使欧盟更加被动。可见， 欧盟面临的最大挑战，也是数字主权建设的根本问题，就是如何培养出属于欧盟自己的互联 网企业，为其提供产品和服务。因此，欧盟保 护本地人工智能产业不仅出于数字经济发展需 要，更出于国家安全利益的考量，旨在通过建 设经济主权和技术主权来推动欧盟的数字主权建设。
　　04    欧盟人脸识别禁令前景展望
　　据前文所述，欧盟在正式发布的《人工智能白皮书》中最终选择了删除公共场所人脸识 别禁令，其根本原因在于欧盟推动数字主权建 设的需要。未来，欧盟必然会同时强调监管能 力与技术发展两方面内容。
　　首先，从监管能力方面来说。欧盟必然继 续以更为审慎的态度进行监管，将使用人工智 能进行远程生物信息以及其他具有侵扰性质的 监控技术划定为＂高风险＂， 对其进行强监管， 严格要求只有在目的正当、使用必要、采取充 分保护措施的情况下方可使用。此外，欧盟在 监管上必然会更多地听取成员国的意见，努力 在差异中寻求共性。面对公共场所使用人工智 能可能带来的社会担忧以及内部市场分裂的风 险，欧盟必然就如何划定例外情况及保障措施 等开展广泛讨论，并进一步在该领域探索出属 于欧盟的监管框架。因此，抢占全球数字规则 制定主导权，构建可信可控的人工智能发展环 境，进一步维持其监管大国的优势，努力在伦理规范上产生更为广泛的国际影响必然是欧盟 未来继续保持的方向之一。
　　其次，从技术发展层面来说。欧盟必然不 会满足于只做一个监管大国。正如＂裁判永远 不会赢得比赛＂，欧盟需要不断促进本土企业 创新发展，重视自身关键基础设施建设，打造 属于欧洲的大型互联网企业，发展自身的数字 经济，进而强化欧盟对于数据的控制权，推动 数字主权建设。同时，面对新冠疫情对全球经 济发展的冲击，以及人工智能在数字经济中发 挥的重要作用，欧盟对人工智能技术必然会采 取积极的态度。事实上， 欧盟所有的监管措施，目的都不在于禁止，而是希望人工智能更好地为其服务。2021 年 1 月 28 日， 欧盟第 108 号公 约委员会发布了《面部识别技术指南》，其侧 重点在于通过细化规定加强监管，实行高标准 的隐私保护而不是直接限制技术的使用，强调 促进技术的发展完善。同时，欧盟官方监管动 态中对于公共场所人脸识别禁令也都是限于特 定的使用目的，且越来越明确，对于执法及远 程监控生物识别方面进行严格限制。因此，欧 盟并不会全面禁止公共场所的人脸识别，只会 对特定目的予以限制。
　　05    结　语
　　欧盟整体的网络安全治理一直呈现出治理 规则严密化以及治理内容精准化等特点 [11]。在 公共场所的人脸识别应用上，欧盟之后的战略 发展也必然延续此方向。但是， 对于欧盟来说， 在监管的同时充分挖掘并利用数据的价值，在 继续抢占全球数字规则制定主导权的同时不断 加强技术的自主性，通过建立可信可控的数字 环境，协调各成员国共同推动欧洲本地数字经 济及人工智能产业的发展，从而推进数字主权 的建设，才是其发展的根本目标。
　　引用本文： 韩昱 . 数据隐私与数字主权：欧盟关于公共场所人脸识别禁令的深层考量 [J]. 信息安全与通信保密 ,2021(11):39-47.
　　作者简介 >>>
　　韩 昱  ， 女， 硕士 在读，上海社会科学院信息研究所 硕士研究生，主要研究方向为网络空间治理。  选自《信息安全与通信保密》2021年第11期。
　　商务合作 | 开白转载 | 媒体交流 | 理事服务
　　请联系： 15710013727（微信同号）
　　《信息安全与通信保密》杂志投稿
　　联系电话： 13391516229（微信同号）
　　邮箱： xxaqtgxt@163.com
　　《通信技术》杂志投稿
　　联系电话： 15198220331（微信同号）
　　邮箱： txjstgyx @163.com