恋童癖阴影下的YouTube无情的金主,罪恶的算法
一段多数人眼中平淡无奇的女童跳舞视频,夹带着一个转瞬即逝的走光镜头,在YouTube上收获了41万次的播放量。
在这家全球最大的视频网站上,大多数人对这样的视频一无所知,这是只属于恋童癖者们的隐秘世界。他们集结在各种带有孩童露点镜头的视频评论区里,分享着露点镜头的时间戳(time stamp,视频中某一具体时刻的跳转链接),用淫邪的词汇与表情符号留言,热情地与同好交换「资源」。
YouTube博主Matt Watson在2月17日上传的一段视频中,以录屏的形式曝光了恋童癖者们如何将纯洁的孩童视频变成他们宣泄欲望的「乐园」。他批评YouTube的推荐算法助长歪风,并对YouTube在相关视频中插播广告进行流量变现的行为感到不耻。Matt这段视频又一次将YouTube推上了风口浪尖,担忧品牌形象受损的广告客户们纷纷闻风而动,撤下了在YouTube上的广告投放。
恋童癖者们在YouTube上猖狂行径,实际上早在2017年就有媒体曝光过,YouTube也曾进行过突击式的治理。但两年来,亵渎儿童以及其他阴谋论和恐怖主义的不当内容依然屡禁不止,频繁考验着YouTube在言论自由与内容监管间的平衡能力。不绝于耳的批评声中,YouTube的算法往往成为众矢之的。如何让算法「不作恶」,成了YouTube所必须面对的核心难题。
恋童癖狂欢,吓跑广告主
凭借一个新注册的YouTube账户,在登陆状态下搜索「比基尼种草视频」(bikini haul)等关键词,便能轻松进入到恋童癖者们「狂欢」的世界,而YouTube,则会在这些视频下持续不断地用推荐算法为观众推荐 其他聚集着大量恋童癖者的类似视频。
恋童癖者们所「钟爱」的视频,大多是在展示女童做体操瑜伽、吃冰棍、在泳池嬉戏或是玩扭扭乐(Twister)游戏。这些天真无邪的孩童视频在内容上完全正常,也没有违反YouTube的社区准则,但视频下方的评论区里,却是另外一番肮脏的光景。
有人留下了时间戳,直接指向视频中女孩的裆部、胸部或是裸露的腿等镜头。更多的人则是发表评论「称赞」女孩们,以调戏的口吻询问她们「是否有穿内衣」,或是发出一连串带有性暗示的表情符号。
「YouTube的推荐算法为恋童癖者们的相互连接提供了便利,在评论区里,既有交换『资源』的联络信息,又有提供真正的儿童色情内容(CP, child pornography)的站外链接,」Matt在他的爆料视频中以「虫洞」(wormhole)来形容这个Google旗下全球最大视频平台上的暗黑世界,「一旦你的账号进入这个虫洞,你就再也看不到其他类型的内容了。」
更令人意外地是,在这些视频播放之前,还会出现《堡垒之夜》(Fortnite)、雀巢和欧莱雅等产品的贴片广告。YouTube的广告系统显然没有放弃这一能够轻松变现的流量源。
对于珍视自身品牌形象的广告商们来说,这是不可被接受的。Matt发布视频后的几天时间里,AT&T、雀巢、迪士尼和《堡垒之夜》开发商Epic Games等YouTube的主力广告客户,无一例外暂停了广告投放。AT&T发言人在2月21日对外表示:「我们正在撤销YouTube上的所有广告内容,直到Google可以保护我们的品牌免于各种冒犯性内容的波及为止。」
这已经不是广告商们第一次集体以暂停广告投放的方式来向监管不力的YouTube表达不满了。以AT&T为例,这家电信巨头曾因为自家的广告出现在恐怖主义的视频中,而在2017年和Verizon、强生等公司一道从YouTube上撤下了广告。今年1月,YouTube终于迎回了AT&T这个大金主,岂料一个月后,就又重蹈覆辙。
面对「金主爸爸们」的冷酷无情,YouTube竭尽全力地讨好挽留。
2月19日,YouTube更新了社区准则的警示实施方式,如果用户在三个月内收到3次社区准则警示,那么帐号将会被终止。2月20日,Google高管与主要的广告客户们进行了一次电话会议,承诺即刻做出改进以保障儿童用户与广告商的权益。YouTube方面还向广告客户发送了一份备忘录,概述了当周所做出的紧急改变,「保障儿童安全早已成为并且仍然是我们在YouTube上的首要任务」。
Google发言人Chi Hea Cho也在2月20日对媒体披露称,在过去的48小时里,YouTube已经禁止了包含未成年人影像的数千万条视频的评论功能,删除了数千条关于未成年人视频的不当评论,关闭了400多个频道,还将非法评论的用户信息报告给了美国全国失踪与受剥削儿童中心(NCMEC)。「任何危及未成年人的内容,包括评论,都是令人憎恶的,我们有明确的政策禁止在YouTube上这样做。我们还有更多工作要做,会继续努力改进并更快地发现滥用行为。」
看似雷厉风行的「反恋童癖」行动,并没能为YouTube带来多少认可的掌声。
「这种事已经发生很多年了,」美国反性剥削中心(NCOSE)的宣传推广副总裁Haley Halverson质疑,YouTube一直在以「头痛医头脚痛医脚」的态度对待平台上的不当内容问题:「为什么YouTube不是将创造出可持续的解决方案作为首要任务,而总是像打鼹鼠游戏一般突击式地应付?」
2017年11月,恋童癖者活跃在YouTube幼童视频评论区的情况首度被媒体曝光,一度令舆论哗然,玛氏和阿迪达斯等品牌因此选择从YouTube上撤下广告。这与YouTube现在所面临的窘境几乎一模一样,而更加如出一辙的,还有YouTube当时的处理方法:关闭了数百个账户,删除了超过15万条视频,停止了超过62万余个视频的评论功能。
这已经是广告商们在2017年对YouTube的第二次「逃离」了。当年3月,YouTube的广告投放算法被曝会将广告放置在一些包括极端主义、种族主义和仇恨言论的视频页面上,头号YouTuber PewDiePie的「反犹」争议更是火上浇油。这让许多广告商感到害怕,AT&T、强生和Verizon等超过250个大型广告客户先后选择从YouTube上撤下广告。
从那时起,YouTube便一直在优化自己的算法。YouTube在今年1月时曾对外宣称道:「仅去年一年,我们就进行了数百次更改,以改善YouTube上用户推荐的质量。」但近段时间以来,YouTube的算法依旧在不断受到质疑,似乎陷入了不断做无用功的尴尬境地。
在Matt的曝光视频上传前几天,德克萨斯理工大学Asheley Landrum教授带头的一份研究报告显示,YouTube的算法依然在推动阴谋理论的传播,「使得一些人开始相信『地球是平的』」。「在YouTube上有很多有用的信息,但也有很多错误信息。YouTube的算法可以很容易地引导人们了解他们感兴趣的内容,也很容易让人们深陷错误信息的深渊。」
而在源头的内容审查上,有的时候,YouTube的算法又有些过于「严格」。2月17日,有《精灵宝可梦Go》直播YouTuber曝称,因为在上传的视频标题中使用了「CP」(combat point,战斗力)一词,而被YouTube的自动内容审查系统视为同样简称「CP」的「儿童色情内容」,不仅视频没能成功发布,连账户也遭到终止,令人哭笑不得。
非营利组织「无商业儿童运动」的执行董事Josh Golin,指责YouTube一直将算法这一技术问题当做是公关问题来处理,「只有在被媒体关注时才会出来解决争议,而不是从根源上解决问题。」但对于YouTube来说,要从技术层面彻底消除算法的「罪恶」,也并非一朝一夕之事。
在内容审查上,官方数据显示,时间每过去一分钟,YouTube平台上就会新增大约400小时的视频。YouTube发言人称,判断视频内容是否安全合规,对于YouTube的AI审核系统来说依然是个巨大的挑战,因此,YouTube平台目前依然有大约10000名内容审核人员在同步工作。
内容推荐方面,YouTube 1月25日在官方博客发文称,将开始减少「可能以有害方式误导用户的内容」的推荐,包括「虚假的严重疾病治疗奇迹内容、声称地球是平坦的或者对911袭击等历史事件的虚假主张。」YouTube表示,推荐算法的优化,需要依赖于人来帮助培训机器学习系统,但依旧「将是一个渐进的变化,随着时间的推移会变得越来越准确」。
曾在YouTube从事算法推荐研究工作的Guillaume Chaslot,对YouTube官方大义凌然的说法不以为然,认为YouTube的举动依然只是「公关噱头」。去年,Guillaume建立了一个名为AlgoTransparency的网站,每日追踪YouTube上千个人气频道的页面上,算法都在推荐些什么内容。很多时候,阴谋论和虚假内容都名列推荐榜首,备受推荐算法的「青睐」。
Guillaume认为,YouTube只有改变将视频观看时长作为推荐最优先级的现有认知,才能打破所谓的算法「虫洞」效应。但YouTube要做出这般改变,无异于是自残行为。毕竟以观看时长为基础的算法推荐,能够最大程度地提高用户的观看时间,是YouTube广告业务的核心卖点所在。而广告,又是YouTube收入的重中之重。
这或许不仅仅是YouTube一个平台所面临问题,也是算法时代,游走在商业利益与社会责任之间的整个互联网世界,所需要作答的命题作文。