AI换脸等深度合成技术利弊共存,看各国如何应对?
作为人工智能领域的新应用,深度合成技术以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像及音视频,因较强娱乐性在社交媒体平台广受关注。近日,中国第一部针对深度合成服务治理的专门性部门规章——《互联网信息服务深度合成管理规定》对外发布,以进一步加强互联网信息服务深度合成管理,保护公民、法人和其他组织的合法权益,维护国家安全和社会公共利益。《规定》于2023年1月10日起施行。
当前,世界各国对于"深度合成"技术的规定有何进展?让我们一探究竟。
游客在上海外滩观光隧道的未来艺术馆的画作前体验人工智能的换脸技术
图源:人民网
技术走向"平民化",应用场景日益多元
深度合成技术是指基于深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。通过对网络内容进行处理,使其实现从原初形态到目标形态的转变。在实际应用中,深度合成技术可以完成声音复刻、文本生成、微表情操纵等。最为人熟知的便是人脸合成,或称"AI换脸"。
图源:凤凰网
图像修饰和篡改技术早已有之,如PS技术。但深度合成技术可以做到高度真实的改头换面,甚至是人体姿态的全身合成。德国的科学家曾用1000段"换脸"视频进行鉴别实验。实验表明,普通人若无特殊的标记训练,根本无法辨别人脸真伪。
当前,深度合成技术的应用场景"多点开花"。只需要上传一张照片,就可以生成古风、民族风、现代风等风格的人脸特效视频。相比以往,AI换脸的制作门槛和成本都大为降低。越来越多的人可以体会到虚拟化身、数字分身的乐趣,并通过社交媒体享受超越现实的个性化体验,实现了技术的"平民化"。
然而,与其他技术一样,深度合成也会被人为误用和滥用。比如,制造虚假视频、虚假音频进行无限、诽谤、诈骗、勒索等违法行为。深度学习算法的成型,以及多数算法代码的开源,都使换脸软件的开发变得简易,可以近乎零成本地在世界范围内扩散。公众人物的图像、视频、音频资料极易通过网络获取,也成为了二度"创作"的首选,"阿汤哥表演硬币魔术"等深度合成视频都曾火爆"出圈"。深度伪造内容数量不断增多、危害性不断增强,甚至造成个人名誉、财产、精神损害,公司名誉、财产损失以及社会国家安全风险。
图源:中国教育报
机遇与挑战并存,各国开启探索之路
针对这些技术带来的颠覆性风险挑战,世界各国纷纷出台法律,不断探索深度合成的治理路径,方案侧重各有不同。
●美国从联邦和州两个层面进行专门立法。
当前,美国联邦层面虽然还没有生效的专门立法,但参众两院先后提出了侧重点各异的四部法案,即《深度伪造责任法案》《2018恶意深度伪造禁止法案》《2019年深度伪造法案》和《2020财年情报授权法案》。在地方层面,各州对于"深度伪造"技术的法律规制较为积极,目前已有正式生效的法律。
总体而言,美国的相关立法强调"深度合成"技术的虚假性。在提及虚假信息危害性的治理时,要求先由市场主体预防,社交平台和视频平台自我规制,而后采用联邦和地方立法强制性规制,形成自下而上的治理模式。
●欧盟将"深度合成"纳入《通用数据保护条例(GDPR)》等现有法律框架规制,致力于保护欧盟所有网络用户的数据隐私权利,明确提升了企业的数据保护责任,并显著完善了有关监管机制。
现阶段,欧盟对于"深度合成"技术尚未专门立法,但已有法律将该技术囊括其中。比如,《通用数据保护条例》为"深度合成"技术对个人生物识别信息的滥用创设了严格的法律限制;2019年欧盟执行委员会人工智能高级专家工作小组提出了《可信赖人工智能伦理指引》,包括人工智能领域的"数据管理""算法开发"以及"商业运用",对"深度合成"技术的使用提出了严格的程序和实体要求。
总体而言,欧盟将"深度合成"技术分解为个人生物识别信息和算法技术,以个人信息保护和人工智能伦理指引为出发点,采用个人数据治理和算法规制的模式。
●德国、新加坡、英国、韩国等国家,则选择将"深度合成"相关犯罪纳入刑法范畴,尚未出台国家层面的专门立法。
●中国颁布的《互联网信息服务深度合成管理规定》将中国语境下的深度合成服务做了全流程梳理,明确了深度合成服务的一般规定,数据和技术管理规范,监督检查与法律责任以及相关用语的含义。
提出内容包括:深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意;深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息等。
"元宇宙"概念的出现,为深度合成技术提供了更加广阔的应用场景,同时也促进了深度合成技术的加速发展。未来,2D图像合成向高质量3D合成的跨越以及多模态合成内容的协同制作等将成为技术突破的热点方向。法律将作为框架,继续为技术的发展设定边界,予以规制。
审核:张宁策划:李政葳撰文:穆子叶、雷渺鑫
冬季肿瘤易复发?做好这三点助你平安过冬!据数据统计,冬季肿瘤复发转移率明显增高,那么肿瘤患者如何才能增强体质,应对严寒天气呢?小编在咨询过相关专家后从生活起居饮食搭配合理锻炼等方面,为大家科普肿瘤患者冬季的养生之道。生活
蒙脱石散抢不到?别慌中医也有止泻方!这几天新毒株又闹的大家人心惶惶,其实我并不建议大家抢药囤药,但是家中常备药也是不能少的,今天就给大家分享几个中医的止泻方!一桃花汤赤石脂30克干姜15克粳米20克此方适合寒性腹泻,
淳于长骗财骗色骗皇后,王莽将其检举揭发后,凭此走上人生巅峰文丨古书奇谭编辑丨古书奇谭前言西汉朝堂里淳于长是个著名的贪官,他不仅骗财骗色,还将手伸到了皇帝的老婆身上。大部分人对此都是敢怒不敢言,只有他的表弟王莽将这件事检举告发,最终淳于长被
明朝君主世袭!详细版其中列出了追封的皇帝,南明诸帝,以及自称的监国和一部分藩王世袭。ps红体字,追封的皇帝黑体字,实际在位的皇帝蓝体字,监国紫体字,藩王世袭。益王系的朱慈炲于抚州被立为监国,朱由榛于揭
定了!王府井国际免税港春节期间亮相海南万宁北京日报客户端记者马婧神州半岛灯塔滑翔翼冲浪板近日,新中国第一店北京市百货大楼被热带风情扮靓,王府井遇见万宁主题展拉开帷幕。记者获悉,王府井国际免税港将于2023年春节期间亮相海南
专家的这些建议真让人哭笑不得!过去,在大家心目中专家就是权威,他们说出来的话就是真理,所以过去的专家都特别受人们尊敬。而现在人们却发现,很多专家说出来的话都让人感觉哭笑不得,有一些专家的话前后矛盾,没有一点常识
快看!这些习惯对我们的牙齿影响有多大一个人经常做一件事就很容易形成为习惯,而在我们日常生活中这些不经意的习惯,正在伤害我们的牙齿。今天就来唠唠那些不良用牙习惯。01喝止咳糖浆没有漱口近期很多朋友感染新冠后还是一直咳嗽
树老根多,人老病多,年过60岁,多吃这5样,营养温补身体好农村有句俗语叫树老根多,人老病多。意思就是说大树由于生长的时间越来越长,根系自然也会越来越多而同样,人一旦上了年纪,身体素质会有所下降,各种疾病也更容易找上门,影响我们的身体健康。
比熬夜还可怕的九大习惯!熬夜的危害众所周知。其实,即使不熬夜,生活中某些不健康习惯造成的危害,也不亚于熬夜。1hr一坐一整天长时间坐办公室或坐车,会带来多种健康疾病。即使经常锻炼,也无法抵消久坐危害。加拿
酸菜,是癌细胞的加速剂吗?研究结果公布,建议了解清楚导语在诗经当中一直有着中田有庐,疆场有瓜,是剥是菹,献之皇祖的相关描述,除此之外,据东汉许慎说文解字解释菹菜者,酸菜也,而其中的描述也就类似于是现在的酸菜,通过这些古典书籍描述来看
直滑破百万英尺封神,只有它能为王者加冕世界上最高的建筑迪拜塔,当前高度是828米,约合2717英尺。如果有人好奇百万英尺落差是什么概念,只需在想象中把368座迪拜塔逐个向天空叠加。此时,迪拜塔的塔尖已经伸进了外太空,距