尽管人们对利用DeepFake来操纵选举、在世界各国制造混乱的做法高度关注，但其中绝大多数人实际上更为幼稚，他们会将女性名人的面孔映射到色情明星的身体上，任何熟悉互联网历史的人都不会对此感到惊讶。

在最近关于全身DeepFake的报道中，一家名为Deep Trace Labs的公司表明他们对合成媒体领域已开展广泛研究，这家位于阿姆斯特丹的公司过往专注于AI操控内容。今天，该公司发布了一份备受期待的报告《DeepFake现状：前景、威胁和影响》，他们在报告中探讨了在网站、论坛和移动应用中普遍存在的DeepFake。

正如Deep Trace Labs的Giorgio Patrini所解释的，这项研究始于该公司2017年成立之时，包括对网站、论坛和服务的全面检查。研究人员梳理了论坛和DeepFake社区的帖子，找到晦涩和不太受到关注的元素，以全面了解DeepFake对现状的威胁。Deep Trace通过其内部开发的公共API和特别工具从这些网站、渠道、论坛和社区收集数据。它还可以查看网站或YouTube频道，在这些网站或频道中，并非所有内容都可能来自DeepFake。

Deep Trace发现，目前网上有14678个DeepFake视频，其中96%是色情视频，并且大部分都是著名女演员的脸，被转移到色情明星的身体上。事实上，大多数DeepFake的目标是女性，而大多数非色情的目标是男性。YouTube上超过90%的DeepFake视频都来自西方世界，从女演员、音乐家到政客和企业界人士。但Patrini强调，这不仅仅是一种仅限于西方的现象。

“在DeepFake色情网站上，近三分之一的视频中出现了非西方题材，其中韩国流行歌手占了目标对象的四分之一，”Patrini说道。“这表明，DeepFake色情是一种日益全球化的现象。”

“我们的数据显示，大多数实际上仍然是演员，但也有少数企业和政治领导人，”Patrini说道。“我认为这可以归因于与非色情DeepFake相关的生命力机制。”创造者主要是业余爱好者，他们试图创造高质量的DeepFake成果。选择知名人物，如马斯克、特朗普或者Nicholas Cage，意味着你的“DeepFake”成果更容易被人看到，同时也增加了喜剧元素。

据介绍，在过去几年里，关于生成性对抗网络（GANs）的论文数量激增，生成性对抗网络是两种神经网络，一种是合成器或生成器，另一种是检测器，可以生成DeepFake的图像或视频，然后在反馈环中仔细检查质量，直到最终产品令人信服地得到改进。生成性对抗网络绝不是DeepFake的幕后黑手，但Patrini表示，它们无疑是“由深度学习驱动的最流行和最有效的生成方法”。

Deep Trace的研究表明，生成性对抗网络发文量的显著增长，只能间接地表明这两种现象具有相关性。Deep Trace无法在更多的生成性对抗网络研究和DeepFake的增加之间，建立起直接的因果关系。

“不仅仅是具有博士学位的研究人员，更多的人都能够试验并提出新的算法变体，而且我们可以通过论文的增长来间接衡量这一点，”Patrini表示。“发表更多的实验成果并将其扩展到新的应用表明，这些想法有可能被转化为可重用代码和更可靠、更高效的工具，来供非专家使用。”

Deep Trace还指出，DeepFake创作社区正在增长。Github、4chan、8chan和其他基于论坛的网站都共享开源的DeepFake代码。

“我们在报告中指出的一个关键点是，与其他社区相比，某些社区的动机和活动非常不同，”Patrini表示。“如果我们只看负面新闻，很明显，一些社区和论坛主要集中在使用DeepFake的创作工具，来制作那些非自愿的DeepFake色情作品。”

Patrini认为，其中一些社区以提供非法或边缘化的内容而闻名，这方面以4chan和8chan为代表。在这些平台上，DeepFake创作工具的商品化，可能会导致该技术继续产出有害和恶意的使用案例，例如网络欺凌或政治宣传。

但Patrini很快注意到，其他平台上也都有爱好者和一些个体，在YouTube上专注DeepFake的博主更符合他们的兴趣。比如博主Ctrl Shift Face，他曾将Tom Cruise和Al Pacino的脸变成了喜剧演员和印象派Bill Hader的脸。

Patrini认为：“我不会说这些用途具有明确的正面作用，但从表面上看，它们肯定不是恶意的。”此外，由于DeepFake不只是发生在西方的现象，Deep Trace认为，这需要全球采取行动，打击恶意使用。

“从已经出现的各种工具和网站的数量可以看出，DeepFake对企业来说具有巨大的商机，”Patrini指出，这有助于这些工具的商品化和日益普及。“仅仅是DeepFake的想法就足以动摇政治进程。”

来源 | 猎元网