当Deepfake遇上卫星图像，我们将要进入楚门的世界？

　　编辑/文龙
　　前段时间「蚂蚁呀嘿」视频在网上爆火，再之前还有换脸视频……这些图片或者视频的背后是一种名为「Deepfake」的深度学习技术。这项技术在爆火的同时，也引发了人们在人工智能对个人隐私和国家安全带来的威胁这一问题上的讨论。你是否想过，如果 Deepfake 能够伪造卫星地图，会有什么后果？
　　近日，由华盛顿大学地理学助理教授赵博带领的团队进行了一项被称为「位置欺骗」的实验项目。该项目以现代制图学和地理科学为背景，提出了一种对伪造的卫星图像进行定位的算法机制，旨在警告伪造的地理空间数据的危险，呼吁采取适当的预防措施、建立一个地理事实核对系统。
　　这项警示性工作于4月21日以「深度伪造地理学？当地理空间数据遇上人工智能」（Deep fake geography? When geospatial data encounter Artificial Intelligence）为题发表在《制图学与地理信息科学》（Cartography and Geographic Information Science）杂志上。
　　人工智能早已成为地理信息系统的主动力，但很少有人公开承认或批评 AI 技术的滥用对地理学领域或其他领域的潜在威胁，Deepfake 就是其中之一。实际上，虚假的地点是制图学中由来已久的问题，甚至过去的制图师通过谨慎地放置「纸镇」的方式防止他人侵犯版权。但是，如今地理位置的欺骗越来越难，带来的风险也越来越大，可能会关乎到国家安全。
　　为了鉴别伪造的卫星图像，必须先弄清楚它们是如何被制造出来的。研究人员选择 Deepfake 所使用的生成对抗网络（GAN）进行研究，GAN 使用两个相互「竞争」的神经网络：鉴别器用于检测出哪些图像是伪造的；生成器用于生成更逼真的伪造品。这两个模块相互博弈，直到生成鉴别器无法判断真伪的图片。
　　图示：模型流程图。（来源：论文）
　　在这项研究中，GAN 以塔科马的城市结构为基底，结合了西雅图、华盛顿和北京三个城市的地理特征，最终构建了一个包含8064张卫星图像的Deepfake 检测数据集。该过程类似于使用 Deepfake 技术将一个人的面部特征映射到另一个人的脸上。
　　图示：塔科马附近一个地区的真实卫星图像和伪造卫星图像。左上方是地图软件提供的图像，右上方是附近的实际卫星图像。底部的两个分别是从西雅图（左下）和北京（右下）的地理空间数据生成的附近地区的模拟卫星图像。（来源：论文）
　　研究人员指出，如果不经过训练，观看者很难鉴别真伪，他们可能会将颜色和阴影差异归因于较低的像素。为了识别伪造图像，研究人员选择使用已有的一些方法，并将这些方法有机地结合起来，实现了比原先高的性能，F1得分超过0.95。 从军事部署到日常生活
　　赵教授表示，这项研究并不是要惊动任何人，而是要展示当 Deepfake 技术应用在制图领域所涉及的风险和机遇。
　　「这些技术已经存在。我们只是试图揭示使用该技术的可能性，以及为此制定应对策略的必要性。」
　　当伪造的卫星图像得到了广泛的传播，可能会以多种方式产生误导。比如，可以用于恶化或淡化山火、洪水等自然灾害的情况达到某种政治目的，又或是误导敌方军队。美国国家地理空间情报局局长曾于2019年暗示，人工智能操纵的卫星图像可能会严重威胁国家安全。
　　分析师托德·迈尔斯（Todd Myers）设想了一种场景，伪造的地图显示了错误位置的桥梁使军队制定了错误的军事计划。「从战术角度或任务计划上，你让自己的部队沿着一条特定的路线通向一座桥梁，但它并不存在，然后有一个大惊喜等着你。」
　　其实，不仅仅是国家安全方面。「说到欺骗，动机很多种，」赵教授说。「人们改变他们的位置，以炫耀他们的假期；或者在Pokemon Go中，人们有时会改变位置以获得游戏奖项。」 警惕 Deepfake 的滥用
　　该团队还计划发布一些工具，以供公众和专业人士用来识别可能的伪造卫星图像。但是，他们对于让检测工具报告图像确实是伪造或真实持谨慎态度。
　　「从社会的角度来看，我们发现如果某些东西被描述为绝对是假的，人们对此会持负面态度。因此，我们宁愿对用户说我们发现了可能的不一致之处，然后让用户自己就上下文的含义得出结论。」但是，他补充说，如果确定在统计上是结论性的，并且图像具有重大的社会后果，则需要明确说明其真实性状态。
　　「由于大多数卫星图像是由专业人士或政府产生的，所以公众通常更愿意相信它们是真实的。」
　　赵教授强调，这项工作挑战了「卫星图像或其他地理空间数据的绝对可靠性」的一般假设，目的是提高群众的防范意识。
　　「如果继续对 Deepfake Geography 的准备不够充分，未来我们可能会有进入到『虚假地理』乌托邦的风险。」
　　论文链接：https://www.tandfonline.com/doi/full/10.1080/15230406.2021.1910075
　　参考内容：
　　https://www.washington.edu/news/2021/04/21/a-growing-problem-of-deepfake-geography-how-ai-falsifies-satellite-images/
　　https://www.theverge.com/2021/4/27/22403741/deepfake-geography-satellite-imagery-ai-generated-fakes-threat
　　https://www.geekwire.com/2021/deepfake-geography-presents-significant-risks-researchers-detecting/