Deepfake 假头像又又又来了。这一次扎堆＂轰炸＂的平台，换成了领英。下面这个小姐姐，是不是乍看之下感觉普普通通，还很有亲和力。 但仔细端详一番，就会不断发现破绽。比如，怎么只带了一个耳钉？背景画面为什么高糊？有的头发还融入了背景？ 而这样的头像不只是个例，是一堆！上千个的那种，全都是由 AI 合成。 从男到女、从老到少、不同肤色、发色…… 基本上能涵盖的都涵盖了。他们成群出没的目的只有一个，为其背后的公司撒网式拉销售业务，一旦找到有意向客户，就转接到真人销售。没想到，继充当水军、冒充员工发送恶意软件后……AI 换脸再次被拐上了违法犯罪的道路。目前，领英已经将这些账户关闭。斯坦福研究人员偶然发现 起底这次造假事件的，是两位斯坦福大学的互联网研究人员。在偶然间收到一条推销信息后，Renée DiResta 发现这个＂销售＂有点不一般。除了耳环只戴了一边、头发边界模糊等问题，它还有着 GAN 生成人脸的最大特征：眼球刚好位于图片的中央。这个特征几乎可以验证出所有用 GAN 生成的人脸。比如有人做过实验，将 20 张假脸调成 50% 的透明度后叠加在一起，他们的眼球可以完全重合。 然后，DiResta 就和同事 Josh Goldstein 一起，对整个领英平台进行了一番调查。结果发现，超过 1000 个领英账户都在用 AI 生成的人脸做头像。这些假账户来自 70 多个公司，干的事情都差不多 —— 假装公司的销售给潜在客户发送消息，然后再让有购买意向的客户与真人销售建立联系。由此一来，公司就不用花费大量资金在人力上，同时还能扩大自己的业务范围。而且，这套机制甚至已经形成了一套产业链。 也就是说，专门有公司来提供假人脸头像、假资料信息、并发送推销消息。 比如这家总部位于印度的公司 LIA。在他们的订阅服务中明确写道：只要用户每月支付 300 美元，就能拥有一个 AI 生成的人脸形象。它会有着与真人高相似度的长相，每天可以向 20 个人发送销售信息等功能。 不过，目前这个网站已经＂查无此站＂，除了 logo 以外搜索不到任何信息。Deepfake 人脸，真的很难区分 其实这也不是 AI 换脸第一次被拐上违法犯罪的道路了…… 就在不久前，谷歌报告了一起黑客发送恶意攻击软件的事件。通过盗取员工真实信息数据、再用 AI 生成假脸，黑客们用伪造的领英账户发出了大量钓鱼邮件。 此前，亚马逊被曝光出骚操作，用 Deepfake 在推特上给自己造了一批水军，试图扭转舆论风向。 国内我们最熟知的＂换脸靳东诈骗＂事件，用到的也是类似技术。显然，真假难辨的 Deepfake 还充斥在我们的生活中。而另一边，今年发表在 PNAS 上的一项研究表示：AI 生成的人脸和真实人脸没有区别，甚至更值得信赖。人们只有 50% 的概率分辨出一个人像是否由 AI 生成。这个概率，和二选一乱蒙几乎没有区别…… 在此，研究人员也汇总了一些 Deepfake 人脸的特征来供大家区分。 背景通常非常模糊； 领口衔接不自然，衣服线条看起来不规整； 牙齿和嘴唇的边界模糊； 头发丝会融入背景； 图像光线不自然； 双眼在图像中完全居中。 参考链接： [1]https://www.theregister.com/2022/03/28/ai_fake_linkedin_faces/ [2]https://www.npr.org/2022/03/27/1088140809/fake-linkedin-profiles [3]https://twitter.com/shannonpareil/status/1508110373261434882