全球数治全球首份人工智能保障生态系统路线图的创见

　　澎湃新闻记者 吕娜 整理
　　12月8日，英国数据伦理与创新中心(CDEI)发布全球首份人工智能保障生态系统路线图（以下简称《路线图》），阐述了建立世界领先的人工智能保障生态系统所需完成的工作。这是英国政府在国家人工智能战略中提出建立世界上最值得信赖和有利于创新的人工智能治理体系的重要组成部分，旨在通过建立一个人工智能安全保障工具和服务集成生态系统，识别和减轻应用人工智能可能衍生的一系列风险，推动实现可信赖的人工智能创新。
　　今年9月22日，英国正式启动其首个《国家人工智能战略》，旨在使英国成为人工智能领域的全球超级大国。该战略强调，人工智能技术具有改写整个行业规则、推动经济大幅增长和改变生活各领域的巨大潜力，未来将重塑经济、社会，以及全球权力分配格局。因此，英国有必要成为真正的人工智能研究和创新强国和全球人才的聚集地，并以先进的监管和商业环境来引领世界，巩固其在人工智能领域的全球超级大国地位。该战略确立了英国发展人工智能的三大支柱：＂投资于人工智能生态系统的长期需求＂ ＂确保人工智能惠及所有行业和地区＂＂有效管理人工智能＂，并制订了相应的短、中、长期行动计划。
　　作为专门为英国政府提供人工智能安全、伦理和创新发展等领域政策建议的智库，英国数据伦理与创新中心(CDEI)此次提出的《路线图》是实现＂有效管理人工智能＂目标的关键步骤之一。在CDEI看来，为了给人工智能提供可靠保障，所有组织都需要克服两方面的问题：一是信息，即AI系统是否可信；二是沟通，即用户是否可以信任AI系统。在具体实践中，则表现为系统信息不透明、算法偏见、数据隐私泄露、数据集质量欠佳、系统外部安全攻击威胁、安全责任制度低效运行等一系列风险。如果没有适当的保障系统来支持其发展，人工智能将会放大现有的社会不平等，固化偏见，进而削弱公众对人工智能的信任，并破坏其造福社会的潜力。随着人工智能技术的快速发展和应用场景的不断泛在，将碎片化的治理规则和治理工具整合为保障生态系统的迫切性和必要性持续凸显。
　　因此，《路线图》着力于构建英国人工智能保障的总体框架和行动路径，并明确了开展工作的关键领域和利益攸关方，以及审计、认证、评估、合规、问责等治理工具和手段，从而整合成为一个有利于防范整个供应链中的散在风险，确保安全和符合伦理的应用，并增强产品竞争力的综合性人工智能保障生态系统。其中的创见主要体现在以下三方面：
　　一、划分关键领域
　　《路线图》将建立世界领先的人工智能保障生态系统所需完成的工作划分为六个关键领域：一是为人工智能供应链的各环节提供有效保障，同时提高对风险的认识、减轻风险责任；二是建立一个动态的、有竞争力的人工智能保障行业，提供一系列有效的服务和工具；三是制定AI保障的通用标准；四是建立负责任的人工智能保障行业，确保人工智能保障服务值得信赖和高质量；五是通过设置保障规定督促组织履行监管义务；六是改善行业与研发人员之间的联系，促进安全保障和风险识别技术的开发。在此基础上，《路线图》还分析了当前每个领域面临的挑战，并提出了对应的政策建议。
　　二、明确关键参与方
　　《路线图》列明了三大类关键参与方：第一，处于人工智能供应链不同位置上的系统开发方、系统部署方、一线用户、受AI影响的个人等行动者；第二，人工智能保障提供者，包括来自审计、认证、内控、学界、媒体等领域的机构和人员；第三，保障生态系统的支撑性力量，包括政府、监管部门、标准化组织、行业协会等。《路线图》还指出了这些参与方在促进人工智能保障生态系统更成熟和健全等方面所需发挥的作用。
　　三、提出协同评估机制
　　《路线图》提出了可用于人工智能可靠性评估的协同机制。按照严格程度由弱到强排列，评估机制可分为八个层级，包括人工智能效用预测、影响力评估、算法偏见审计、合规审计、资质评估、质量评测、应用效果测试和最终正式认证，以尽可能周密地确保人工智能的可靠与可信赖。
　　基于这份《路线图》，英国CDEI还进一步指出，一个成熟的人工智能保障生态系统本身就可以形成价值数十亿英镑的产业，并释放和增长数千个新就业机会。随着人工智能保障生态系统的不断壮大，相关技术和产品将迎来有利的发展时机。尤其是人工智能安全保障技术和合规性测评技术的研发和应用，有望成为人工智能领域的又一个新赛道，也将催生多种新商业模式，促进不同监管制度之间的互操作性。CDEI下一步的工作重点将集中于提升人工智能保障生态系统专业化和标准化程度，带动相关产业经济增长，并努力在制定和塑造全球人工智能技术标准方面发挥主导作用。作为英国国家人工战略的重要组成部分，CDEI人工智能保障生态系统路线图的宗旨、内容、制定思路及关联影响等，对其他国家的人工智能产业发展具有积极参考意义。
　　规则
　　美国一参议员团体提出关于社交媒体透明度的两党法案
　　12月9日，美国一个参议员团体提出一项两党法案，要求Facebook等社交媒体平台允许部分研究人员访问其数据。民主党参议员克里斯·库恩斯(Chris Coons)、艾米·克洛布查尔(Amy Klobuchar)与共和党参议员罗布·波特曼(Rob Portman)共同宣布该法案。该法案将要求社交媒体公司公布内部数据，以帮助经过美国国家科学基金会(NSF)审查的独立研究人员开展研究。波特曼在一份声明中表示，提高大型科技公司的透明度，将为政策制定者提供大量高质量数据，有利于更有效地完成工作。（来源：路透社）
　　《湖南省网络安全和信息化条例》将于2022年1月1日施行
　　12月3日，湖南省第十三届人民代表大会常务委员会第二十七次会议通过了《湖南省网络安全和信息化条例》，将从2022年1月1日起施行。该《条例》是我国第一部同时规范网络安全和信息化工作的省级地方性法规。在网络安全方面，《条例》提出对未列入关键信息基础设施的重要信息系统，在网络安全等级保护制度的基础上，实行进一步重点保护。明确保护措施包括建立网络安全信息共享机制，对重要信息系统安全风险进行检测评估，组织网络安全应急演练，对网络安全事件应急处置与网络功能恢复提供技术支持等。（来源：湖南人大网）
　　政策
　　美国政府问责办公室发布关于 NIH 需要对网络安全采取进一步行动的报告
　　12月7日，美国政府问责办公室（GAO）发布题为《网络安全：国立卫生研究院需要采取进一步行动来解决控制缺陷》的报告。GAO指出，美国国立卫生研究院（NIH）广泛地依赖信息技术系统来接收、处理和维护敏感数据。因此，有效的信息安全控制对于确保NIH系统的保密性、完整性和可用性至关重要。此外，NIH在与识别风险、保护系统免受威胁和漏洞、检测和应对网络安全事件以及恢复系统运行有关的核心安全功能方面存在许多控制和程序缺陷。对此，GAO提出了219项建议，其中66项涉及安全程序，153项涉及系统控制，以解决这些缺陷。（来源：GAO官网）
　　法国与瑞士成功进行欧洲首次央行数字货币跨境支付实验
　　12月8日，法国与瑞士央行宣布成功进行了欧洲首次央行数字货币跨境支付实验。这一名为＂Jura＂的项目是欧洲开展的一系列央行数字货币实验中的一项，旨在应对加密资产威胁。该实验证实了可以使用欧元和瑞士法郎的央行数字货币进行外汇交易结算，并在金融机构之间发行、赎回和转移代币化的欧元计价法国商业票据。（来源：路透社）
　　监管
　　工信部下架豆瓣、唱吧等106款侵害用户权益App
　　12月9日，国家工信部信息通信管理局发布通报称，今年以来，工信部持续推进APP侵害用户权益专项整治行动，加大常态化检查力度，先后三次组织对用户反映强烈的重点问题开展＂回头看＂。11月3日，工信部针对APP超范围、高频次索取权限，非服务场景所必需收集用户个人信息，欺骗误导用户下载等违规行为进行了检查，并对未按要求完成整改的APP进行了公开通报。截至目前，尚有5款APP未按工信部要求完成整改。同时，各地通信管理局按照工信部统筹部署，积极开展APP技术检测，截至目前尚有101款APP仍未完成整改。依据《个人信息保护法》、《网络安全法》等相关法律要求，工信部对上述共计106款APP进行下架处理。针对部分违规情节严重、拒不整改的APP，属地通信管理局应对APP运营主体依法予以行政处罚。（来源：工信部官网）
　　意大利对亚马逊处以11.28亿欧元反垄断罚款
　　12月9日，意大利竞争与市场管理局（AGCM）宣布对美国科技巨头亚马逊公司处以超过11.8亿欧元的罚款，原因是涉嫌滥用市场主导地位。AGCM认为，亚马逊在服务和物流领域的做法损害了其他市场参与者。该罚款主要针对亚马逊集团旗下的5家公司，包括亚马逊欧洲核心公司、亚马逊欧洲服务公司、亚马逊欧盟公司、亚马逊意大利服务公司和亚马逊意大利物流公司，上述公司均违反了意大利的反垄断规定。（来源：华盛顿邮报）
　　产业与技术
　　美、以等10国模拟全球金融体系网络攻击
　　12月9日，由以色列牵头的一个10国合作团体进行了一场全球金融体系遭重大网络攻击的模拟演练，以期加强国际合作，最大程度减少对金融市场和银行的潜在损害。除以色列外，参与国还包括美国、英国、阿拉伯联合酋长国、奥地利、瑞士、德国、意大利、荷兰和泰国。国际货币基金组织、世界银行、国际清算银行也参与该活动。以色列金融网络事务负责人表示，国际合作＂是金融生态系统恢复能力的关键＂。（来源：路透社）
　　欧盟委员会希望推动开源软件发展，以更好服务社会发展
　　12月8日，欧盟委员会宣布，其正在采纳有关开源软件的新规则，以使利益相关方能够在开源许可下发布软件。有研究表明，当前针对开源软件的投资，平均可带来4倍的回报。欧盟认为，软件和代码的开源有助于提升透明度、降低社会运行成本以及增强安全性，有益于社会发展。（来源：欧盟委员会官网）
　　城市数字化
　　苏州获批创建全国首个区块链发展先导区
　　12月7日，国家工信部正式复函，支持苏州创建区块链发展先导区，这也是全国首个正式获批创建的国家级区块链发展先导区。目前，苏州已集聚区块链企业160家，带动相关技术应用企业近300家。其中30家企业入选江苏省区块链重点企业库，4家企业入选苏州市＂头雁＂及＂头雁培育＂企业，完成中央网信办区块链信息服务备案项目38个，占全省备案总数的44.4%，在江苏和全国的影响力与日俱增。（来源：中共江苏省委新闻网）
　　美国城市采取数据驱动的方式处理垃圾问题
　　近日，美国垃圾数据科学公司Litterati与加州的海沃德市、田纳西州的孟菲斯市和弗吉尼亚州的诺福克市开展合作，试点其研发的垃圾倾倒数字化监测与处理项目。这三个城市都致力于利用数据使城市更加智能化。Litterati的Analyse工具令城市可以采用数据科学的方法来解决垃圾问题。它将人工智能的机器学习模式应用到垃圾数据采集上，以评估城市各处的垃圾堆积情况，及时调整清运方案。通过选取三个城市在同一时期内开展试点，Litterati可以更好地了解如何对不同城市的数据进行比较分析，优化与政府公共部门的合作模式。(来源：Smartcitiesworld)
　　责任编辑：吴英燕
　　校对：栾梦