黑盒状态终结倒计时互联网算法应备案并向社会公布

　　本报记者 裴昱 珠海报道
　　对如今公众社会生活环境产生重大影响的互联网领域，已经迎来了全面而专业的监管，如今，这种监管正在向互联网平台的各个关键领域和技术环节延伸，作为互联网深度影响社会生活的核心，＂算法＂亦在迎来更为严格而具体的监管。
　　《互联网信息服务算法推荐管理规定（征求意见稿）》（以下简称＂《征求意见稿》＂）于8月27日向社会征求意见后一月有余，国家网信办等9部门下发《关于加强互联网信息服务算法综合治理的指导意见》（以下简称＂《指导意见》＂），围绕＂加强互联网信息服务算法安全治理＂，提出了多项基本手段，这其中强化互联网企业在算法安全、合规领域的主体责任的用意十分明显。
　　＂我们认为9月1日生效的《个人信息保护法》、正在征求意见的《征求意见稿》以及9部门刚刚下发的《指导意见》，在算法监管、规范化的领域是一脉相承的，就是一个不断具体化、具象化的过程。＂9月30日，在内部会议的间隙，总部位于北京的一家大型互联网平台企业合规部门负责人向《中国经营报》记者表示。
　　他所参加的内部会议，主题之一即是研究《指导意见》，并对照他所供职企业的业务，评估影响，检查合规。他认为，《个人信息保护法》涉及的是法律性、基础性、原则性的问题，《征求意见稿》则＂讲了标准，讲了路径＂，而此次《指导意见》，是给出了责任厘定和实施方法。＂一环扣一环，逻辑很严密。＂他向记者评价。
　　《指导意见》由国家网信办牵头，中宣部、教育部、科学技术部、工业和信息化部、公安部等总计9部门共同下发。＂9个部门，涵盖了资质监管、内容安全管理、接口管理、执法管理、应用场景管辖的各个环节，我们觉得《指导意见》对我们这类平台算法的规范作用是最直接的。＂另一家大型电子商务平台企业合规部门的人士告诉记者。
　　＂我们正在和业务团队一起工作，进行自我合规审查，毕竟很多涉及的问题非常专业。＂她向记者表示。
　　多位接受采访的互联网平台合规部门人士均向记者表示，他们对此次《指导意见》最为直接的感受，是在算法安全、合规领域，非常直接地明确了平台的主体责任。总部位于北京的一家大型互联网平台企业法务部门负责人告诉记者，他们正在考虑，如何在企业内部，设立一个专门负责算法安全的部门，首先对算法的安全、合规进行自我监督和审查，以应对当前监管环境对于平台算法的要求。
　　这个机构，在此之前，未曾明确在企业内部设置。一位为多家平台从事合规咨询服务的法律机构的资深人士告诉记者，初始形态中，这部分职能多数是算法设计和运营的团队自我控制，后来合规部门参与意见，指出法律、监管方面的针对性影响，而后由业务团队进行调整，但是在企业内部，未有一个专门的机构。＂既熟悉合规，又懂得算法，同时还是内部的第三方身份，来对算法安全进行管理，这是一种机制设计的问题。＂他说。
　　《指导意见》明确提出：＂企业应建立算法安全责任制度和科技伦理审查制度……提升应对算法安全突发事件的能力和水平。企业应强化责任意识，对算法应用产生的结果负主体责任。＂
　　＂在平台企业内，建立健全算法安全管理组织机构，也是给企业自身消除风险的一个举措，毕竟《指导意见》说得很明白，企业对算法应用产生的结果负主体责任，通俗地说，出了事儿，平台企业要承担责任。＂前述法律机构人士表示。
　　一名大型平台企业的技术人员告诉记者，在相当长的时间里，算法都是＂黑盒算法＂——这是业内的一种通俗称呼，用来形容算法的构成机理、推送逻辑等，并不对外公布，外界和用户能够看到的＂只是推送＂的结果，而并不清楚形成这个结果背后的运行机制。＂现在，这也是监管的重点，我们的合规部门和我们一起，正在实现算法的透明化。＂他告诉记者。
　　此前出台的《征求意见稿》即已明确，算法推荐增加＂透明度＂，具体包括制定并公开算法推荐相关服务规则，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。
　　＂以前只说千人千面，现在要解释清楚，或者让用户有可能明白，为什么在你面前的是这一面。＂前述电子商务平台合规部门的人士向记者解释这一监管要求。而《征求意见稿》中，涉及舆论属性和社会动员能力的服务商发生严重违法情形时，将面临吊销互联网信息服务许可、关闭网站、终止服务甚至注销备案等处罚。
　　此次《指导意见》就更为具体，其第九条明确了要求建立＂算法备案＂制度，并要求主动公布备案情况，接受社会监督。
　　＂从实际的合规工作来看，我们重点需要理解清楚算法备案的范围，现在有关监管机关也正在推进这方面的工作，应该会有一个分级、分类的体系。我们相信，在这方面，平台合规工作也会得到有关监管部门的指导和帮助。＂前述电子商务平台合规部门的人士告诉记者。
　　记者了解到，根据《指导意见》，相关监管部门会组织建立专业技术评估队伍，深入分析算法机制机理，评估算法设计、部署和使用等应用环节的缺陷和漏洞，研判算法应用产生的意识形态、社会公平、道德伦理等安全风险，提出针对性应对措施。