网信办规范换脸语音合成等深度合成技术必须提供真实身份信息，内容需审核并可追溯

　　1月28日，网信办起草了《互联网信息服务深度合成管理规定（征求意见稿）》，并向社会公开征求意见。其中规定：深度合成服务使用者必须进行真实身份信息认证，否则深度合成服务提供者不得为其提供信息发布服务。平台需采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核，并使发布、传播的深度合成信息内容可被自身识别、追溯。
　　征求意见稿规定，深度合成服务提供者应当依法对深度合成服务使用者进行真实身份信息认证。深度合成服务使用者不进行真实身份信息认证的，深度合成服务提供者不得为其提供信息发布服务。
　　深度合成服务提供者应当加强深度合成信息内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核；建立健全用于识别违法和不良深度合成信息内容的特征库，完善入库标准、规则和程序；对违法和不良信息依法采取相应处置措施，并对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施。
　　深度合成服务提供者应当加强深度合成技术管理，定期审核、评估、验证算法机制机理；提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的，应当自行开展安全评估，预防信息安全风险。
　　深度合成服务提供者提供人脸、人声等生物识别信息的显著编辑功能的，应当提示深度合成服务使用者依法告知并取得被编辑的个人信息主体的单独同意。法律、行政法规另有规定的除外。
　　深度合成服务提供者对使用其服务所制作的深度合成信息内容，应当通过有效技术措施在信息内容中添加不影响用户使用的标识，依法保存日志信息，使发布、传播的深度合成信息内容可被自身识别、追溯。
　　深度合成技术，是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，包括但不限于：
　　（一）篇章生成、文本风格转换、问答对话等对文本内容进行生成或者编辑的技术；
　　（二）文本转语音、语音转换、语音属性编辑等对语音内容进行生成或者编辑的技术；
　　（三）音乐生成、场景声编辑等对非语音内容进行生成或者编辑的技术；
　　（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等对图像、视频内容中人脸等生物特征进行生成或者编辑的技术；
　　（五）图像增强、图像修复等对图像、视频内容中非生物特征进行编辑的技术；
　　（六）三维重建等对虚拟场景进行生成或者编辑的技术。
　　目前，已有多款＂人脸替换＂App，此前曾有人脸识别App中的信息被恶意篡改，被利用实行诈骗、色情服务、制造谣言等不法行为，违法分子也因此承担后果。
　　文/北京青年报记者 温婧
　　编辑/田野