全球数治欧盟对人工智能法提案生物识别相关规制的反思

　　澎湃新闻记者 吕娜 整理
　　这里是＂全球数治＂专栏周报，追踪近期全球数字治理动态
　　12月16日，欧洲议会研究服务处（The European Parliament Research Service，EPRS）发布了报告《个人识别、人权和道德伦理原则：反思人工智能时代的生物识别技术》（Person identification, human rights and ethical principles：Rethinking biometrics in the age of artificial intelligence）。该报告细致探讨了人工智能时代的生物识别，特别是涉及人类识别的技术应用对基本人权和伦理道德的影响，进而对欧盟《人工智能法》提案中规制生物识别的相关内容予以反思，指出其中待完善的问题，并提出改进建议，供立法者参考。
　　去年4月，欧盟委员会发布《人工智能法》提案，表明了对人工智能系统实行分级监管的思路及合规要求，旨在实现欧盟范围内人工智能的可信应用，为投资和创新营造良好法治环境。欧盟委员会将人工智能系统划分为不可接受的风险、高风险、有限风险和极低风险四类，着重立法规制前两类，并对高风险人工智能系统的全生命周期监管予以了详细规定，同时明确3类违法情形的处罚原则，以确保人工智能系统不会侵犯欧盟公民的尊严、隐私等基本权利，构建公民对新兴技术的信任。作为欧盟首个关于人工智能的法律框架，该提案目前正在欧洲议会和欧洲理事会层面开展进一步审议和讨论。由于法案生效后将直接适用于27个成员国，因此对相关国际规则的制定具有特殊参考意义。
　　因循欧盟的传统价值观，规制＂人脸识别＂等应用生物识别技术的人工智能系统成为欧盟《人工智能法》提案的重要内容之一。正如EPRS报告所述，提案参照欧盟《通用数据条例》（GDPR），将个人生物识别数据定义为经由特定技术处理和获取的有关自然人身体、生理或行为特征的个人数据，并且该个人数据能够识别或确认特定自然人。鉴于这类数据具有唯一性、永久性和不可替代性，一旦遭到泄露或滥用，某种程度上就意味着个人将失去对自己身体的控制权，有违伦理道德。同时，EPRS报告还认为，由人工智能技术支持的生物识别系统对多项个人基本权利和民主本身都可能构成重大风险，包括侵犯个人隐私，掠取个人信息、剥夺个人在公共场所＂匿名＂的选择自由，压制公民政治参与意愿等。
　　近年来，生物识别数据越来越多地被应用于各类场合。在欧盟涉及自由、安全和司法（AFSJ）领域的大型信息技术（IT）系统中，生物识别数据的处理更是得到了积极鼓励和直接支持。鉴于个人生物识别数据的特殊性，欧盟《人工智能法》提案将其视为应给予最严格保护的数据类型，并按照具体用途对相关人工智能系统划分为＂远程生物识别＂、＂生物识别分类＂和＂情感识别＂这三类分别加以细致规制，适用高等级违法处罚标准。
　　然而，EPRS研究报告却指出，欧盟《人工智能法》提案设立的生物识别规制框架看似周密，实际上还存在着不少＂裂缝＂，或将削弱实际执法效果，也不利于保障人权和民主的价值。其中的共性问题或在于过度偏重对现有生物识别数据和场景的监管，而忽视了对技术发展过程中不断产生的新问题的预防性规制。有鉴于此，EPRS对草案中的相关内容进行了反思，并提出了八个完善拟议法条的针对性建议：
　　第一，应当更清晰地界定生物识别数据的监管
　　EPRS认为，《人工智能法》提案对＂生物识别数据＂的定义阐释尚不够清晰，应进一步说明其涵盖范围，以及将欧盟数据保护规则应用于生物识别数据方面的具体机制。
　　第二，需要改进对人工智能系统的高风险鉴定方法
　　在EPRS看来，当前鉴定一个生物识别人工智能系统是否为高风险系统的方法还不够完善，亟需开辟一条更快、更明确和更容易的途径，辅以重大风险预警机制，以提高判断效率。
　　第三，进一步明确禁止实时面部识别的各类场景
　　拟议法规并未禁止在公共场所开展以执法为目的的实时远程生物识别，然而这类应用蕴含的风险实际极高，对个人基本权利和民主都可能带来损害。是否需要全面禁止在公共场所使用人工智能自动识别人类特征，包括步态、指纹、DNA、声音及其他生物或行为信号，是值得进一步研判的问题。
　　第四，应当以实时远程生物识别相同的标准规范事后远程生物识别
　　EPRS指出，拟议法规未能解决与追溯性识别有关的风险。但在实践中，持续跟踪和识别个人生物特征的风险并不亚于实时识别。因此，这两者应适用相同的规制标准。
　　第五，需要在欧盟层面为实时远程生物识别建立必要保障措施
　　EPRS认为，当前提案规定了在公共场所为执法目的开展实时远程生物识别的例外情形，但具体保障措施却由欧盟各成员国自行决定。为避免形成潜在监管漏洞，应该在欧盟层面设立统一保障。
　　第六，进一步澄清对＂情感识别＂的监管
　　在EPRS看来，当前提案对＂情感识别＂的定义颇为模糊，未能阐明个人情绪和意图是如何从生物识别数据中推断出来。若不对此问题加以澄清，后续监管将失去意义。
　　第七，仍需设法增加人工智能系统透明度，并提供必要救济手段
　　EPRS提出，极高风险人工智能系统的使用方应当对受影响的个人用户承当额外保护义务。按照拟议法条规定，目前两者的权利却并不对等，对系统使用过程的信息披露机制也不够透明，且缺少必要的救济手段，亟需改进。
　　第八，不应对欧盟大型IT系统进行特别豁免
　　当前，生物识别人工智能系统正在欧盟层面的多个大型IT系统中被大规模使用，对个人基本权利造成的风险不言而喻。然而，提案却故意将某些用于AFSJ领域的系统排除在其适用范围之外，这种情况不应被允许。
　　鉴于《欧盟人工智能法》提案仅列出了2023年相关监管机构的人力成本预算，由此推断，该法案正式生效还需一到两年时间。作为欧洲议会的政策研究部门，EPRS此次发布报告是欧盟立法机构在正式通过《人工智能法》前开展全面审议和深入讨论的一部分，而严谨的立法也需要多次反思。《人工智能法》提案内容后续或还会有所调整，将为人工智能之一交汇商业利益、信息安全、伦理道德和地缘政治的新兴领域带来哪些影响，尚有待进一步观察。
　　规则
　　国家网信办公室等四部门发布《互联网信息服务算法推荐管理规定》
　　近日，国家网信办、工信部、公安部、市场监管总局联合发布《互联网信息服务算法推荐管理规定》，将自2022年3月1日起施行。《规定》旨在规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康发展。《规定》明确了算法推荐服务提供者的用户权益保护要求，包括保障算法知情权，要求告知用户其提供算法推荐服务的情况，并公示服务的基本原理、目的意图和主要运行机制等；保障算法选择权，应当向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项。此外，对向未成年人、老年人、劳动者和消费者等主体提供算法推荐服务的，《规定》明确了具体要求，如不得利用算法推荐服务诱导未成年人沉迷网络，应当便利老年人安全使用算法推荐服务，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，以及不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。（来源：新华网）
　　政策
　　中央网络安全和信息化委员会印发《＂十四五＂国家信息化规划》
　　12月27日，中央网络安全和信息化委员会印发＂十四五＂国家信息化规划，提出到2025年，数字中国建设取得决定性进展，信息化发展水平大幅跃升，数字基础设施全面夯实，数字技术创新能力显著增强，数据要素价值充分发挥，数字经济高质量发展，数字治理效能整体提升。《规划》还部署了10项重大任务：一是建设泛在智联的数字基础设施体系，二是建立高效利用的数据要素资源体系，三是构建释放数字生产力的创新发展体系，四是培育先进安全的数字产业体系，五是构建产业数字化转型发展体系，六是构筑共建共治共享的数字社会治理体系，七是打造协同高效的数字政府服务体系，八是构建普惠便捷的数字民生保障体系，九是拓展互利共赢的数字领域国际合作体系，十是建立健全规范有序的数字化发展治理体系。（来源：中国政府网）
　　国家卫健委提出推动人工智能等新技术嵌入医疗装备
　　12月28日，工信部召开新闻发布会介绍＂十四五＂医疗装备产业发展规划有关情况。国家卫生健康委规划发展与信息化司一级巡视员齐贵新指出，要加强临床应用创新研究，支持医疗机构、科研机构、生产企业等深度合作，对标国际先进水平，强化医工协同发展，开展医疗装备临床应用创新研究，提升医疗装备性能水平，加快创新产品推广应用；加快智能医疗装备发展，支持医疗装备、电子信息、互联网等跨领域、跨行业深度合作，推动人工智能、工业互联网、5G、大数据、云计算等新技术嵌入医疗装备，提升CT、MR等传统医疗装备的诊疗水平，推动医疗装备智能化、精准化、网络化发展。（来源：中国工信产业网）
　　美国网络安全与基础设施安全局发布阿帕奇Log4j漏洞扫描器
　　自Log4j漏洞曝光之后，美国网络安全与基础设施安全局（CISA）一直密切关注事态发展，敦促联邦机构尽快完成漏洞修复。12月22日，CISA宣布美国联邦机构没有因Log4j漏洞而受到损害。此外，CISA还推出了一款名叫＂log4j-scanner＂的漏洞扫描器，以帮助各机构筛查易受攻击的网络服务。log4j-scanner 能够对易受两个阿帕奇远程代码（分别是 CVE-2021-44228 和 CVE-2021-45046)执行漏洞影响的网络服务进行识别。（来源：CISA）
　　美国白宫推出人工智能公共研究支持工具
　　12月17日，美国国家人工智能倡议办公室推出人工智能公共研究支持工具，为研究人员提供可用资源。这一工具以网页的形式呈现，其中包括资金和赠款信息、数据集、计算资源、研究计划目录和测试平台等。通过该网页，人工智能研究人员可以使用来自美国国家航空航天局、国家海洋和大气管理局、国家标准与技术研究院和国立卫生研究院等联邦机构的高质量数据来改进他们的研究和项目。该工具的推出旨在为人工智能应用开发提供资源，加速美国人工智能研发。（来源：Meritalk）
　　法国启动全国量子计算平台
　　1月5日，法国高等教育、研究与创新部宣布，将在法国量子技术国家投资规划框架下，启动全国量子计算平台，以推动量子技术的应用和发展。该平台初始投资7000万欧元，目标投资总额1.7亿欧元。平台将以法国替代能源与原子能委员会运行的超大计算中心（TGCC）为载体，由法国计算机科学和自动化研究所提供支持。平台致力于将量子计算机和传统计算机系统进行联通，面向国际实验室、初创企业和制造商等提供服务，促进其获得量子计算能力。法国军队和国防部门也将通过该平台发展真正的量子技术，提高军事战略优势。（来源：Euractive）
　　监管
　　Twitter因未删除非法内容被俄罗斯法院罚款300万卢布
　　12月23日，Twitter被俄罗斯法院罚款300万卢布（约合40920美元），原因是未能删除被罗斯政府视为非法的内容。12月16日，Twitter已经因为同样的原因被俄罗斯法院被罚款1000万卢布（约合13.6万美元）。此外，微软旗下软件开发网站GitHub在23日也被罚款100万卢布（约合13643美元），原因同样是未删除非法内容。据悉，俄罗斯近几个月来已采取一系列措施，加强对美国科技公司的监管，限制网上信息的获取。为此，苹果、谷歌、Twitter和Facebook等均遭到不同程度的处罚。（来源：路透社）
　　Meta就强制出售动图公司Giphy相关事项向英国提出申诉
　　12月23日，美国社交网络巨头Meta（Facebook母公司）对英国竞争和市场管理局（CMA）做出的该公司必须出售此前收购的GIF图搜索引擎公司Giphy的决定提出质疑。该举措是CMA历史上第一次阻止互联网行业的大型并购交易。Meta表示已向英国竞争上诉法庭提出上诉，并指出监管机构的证据并不能支持上述强制出售决定。（来源：彭博新闻）
　　产业和技术
　　百度首次在其元宇宙产品＂希壤＂中开会
　　12月27日，百度在其元宇宙产品＂希壤＂中召开2021年百度AI开发者大会，这也是中国首次在元宇宙中举办的大型会议。每一位参与用户在＂希壤＂中都可以创造一个专属虚拟形象，在个人电脑、手机、可穿戴设备上登录＂希壤＂，听会、逛街、交流、看展。百度董事长李彦宏在大会上透露了该公司在2023年量产交付首款集度汽车、未来5年培养500万AI人才等一系列AI领域的最新进展。李彦宏在＂希壤＂中的＂数字人＂还展示了自己遨游空间站的情景。＂希壤＂负责人、百度副总裁马杰表示， ＂希壤＂项目在2020年12月启动，此后陆续发布多个版本，目前可以实现10万用户规模聚集条件下的相互可见和基于参会者不同位置的实时交互，并通过大容量高并发服务器提高数据准确性和系统稳定性。（来源：百度）
　　意大利数字创新部表示由意大利电信牵头的财团有望中标65亿云招标项目
　　12月27日，意大利数字创新部表示，已收到三份关于国家云的提案，预计将采用由意大利电信（TIM）牵头的财团（其中包括国家贷款机构CDP、国防集团Leonardo和政府IT机构Sogei）提出的方案作为国家云招标蓝图。招标结果预计将在2022年的前几周公布，以便在下半年开始工程建设。意大利国家云被称为国家战略枢纽，是意大利政府加速数字转型和保障国家数据安全战略的重要组成部分。（来源：路透社）
　　城市数字化
　　天津建成首个＂5G+人工智能＂轨道交通智慧车站
　　12月16日，天津市地铁9号线张贵庄智慧车站管控平台正式上线运行。张贵庄站是天津地铁9号线高架站，该智慧车站管控平台由中国航天科工集团三院8357所研发，结合5G通信、工业互联网及多项人工智能技术，成功实现了智慧照明、智慧环境、智慧能源、一键开关站、智慧视频、智慧站务等多项功能，是天津市首个投入使用的智慧车站项目，也是国内首个地面高架车站的智慧化改造项目。（来源：人民网）
　　韩国首尔采用人工智能致电检查市民接种新冠疫苗后的情况
　　韩国首尔市政府将在近期推出由人工智能驱动的新冠疫苗护理呼叫服务，以帮助减少公共卫生中心的工作量，并快速响应治疗疫苗副作用。政府的卫生官员只需在系统中录入那些报告存在疫苗副作用民众的信息，韩国SKT电信公司的人工智能助理Nugu就会打电话给他们，及时监测和了解其健康状况，如疼痛、发烧等。如果Nugu发现有人出现严重症状，便会通知人类官员接手做进一步沟通。Nugu还能够记录这些电话的内容，并按症状予以分类和存档，以供公共卫生中心参考。初期的小范围试点显示Nugu能承担一个地区近85%的外呼话量，效率相当高，运行也很稳定，对谈话的语音识别率达到96%，可为新冠肺炎防治工作发挥积极作用。（来源：Smartcitiesworld）
　　责任编辑：吴英燕 图片编辑：蒋立冬
　　校对：丁晓