顾洁

2023年5月，一幅由人工智能生成的美国五角大楼（美国防部）附近爆炸的图像登上了网络头条，甚至对股市产生了轻微影响，直到美国防部回应五角大楼附近没有发生爆炸，这幅图像才被发现是一场骗局。虽然目前还不清楚这幅图像是如何制作的，但它有人工智能生成图像的迹象，如建筑前面的栅栏模糊、柱子看起来有不同的宽度等。对于习惯于发现有PS痕迹的名人和网红照片的社交媒体侦探，大多都能发现这些痕迹，但对于普通人而言，深度伪造将更难被发现。获取真实信息、区分真实和虚构变得比以往任何时候更难，特别是人工智能生成的信息、深度伪造合成的虚假信息变得比以往更加难以分辨。

《竞争情报》曾发表过介绍辨识虚假新闻/信息的文章，如特稿《后真相时代，新闻如何求真》（施雯）；疫情期间也通过“竞争情报杂志”公众号发布“如何辨别假新闻？”“疫情之下，如何打‘假’”“疫情数据会‘说谎’吗？”“病毒引发的假消息如何分：全球虚假信息指数告诉你”等文章，向读者介绍分辨假新闻/信息的技巧，并辅以实例。深度伪造技术可以为从未发生过的场景创造证据，让图片、视频、音频看起来好像任何人都在说什么或做什么，这引起了人们对不断发展的深度伪造技术的不安，以及对于辨识深度伪造内容的探索和实践。那么什么是深度伪造、如何识别深度伪造、深度伪造的合法性如何，下文将展开介绍。

01

什么是深度伪造?

深度伪造 (Deepfake)是英文“deep learning”（深度学习）和“fake”（伪造）的混合词，即利用深度学习算法，实现音视频的模拟和伪造。深度伪造技术的发明不能归功于任何一个人，因为它是基于之前的几种技术，如人工神经网络（ANN）和人工智能（AI），可以追溯到20世纪90年代。但我们今天所知道的深度伪造技术通常依赖于生成式对抗网络（GAN），而GAN直到2014年才出现，当时由计算机科学家伊恩·古德费罗(Ian Goodfellow)发明。对企业来说，深度伪造技术有许多潜在的有益用例，特别是在营销和广告方面的应用，已经被知名品牌所利用。但在很多场景下，它被用来恶搞、被用来犯罪，如它让埃隆·马斯克（Elon Musk）唱了一首苏联太空歌曲，把巴拉克·奥巴马（Barack Obama）变成了黑豹（Black Panther），让乔·拜登（Joe Biden）2020年美国总统竞选期间睡着、迷路和说错话，等等。

深度伪造主要基于机器学习，这使得以更低的成本更快地生产深度伪造成为可能。比如要制作某人的深度伪造视频，创作者首先会在某人的数小时的真实视频片段上训练神经网络，让它真实地“理解”他或她在不同的角度和不同的光线下的样子。然后，创作者将经过训练的网络与计算机图形技术结合起来，将这个人的副本叠加到另一个演员身上。为了使结果更加真实，深度伪造还使用生成式对抗网络（GAN），GAN训练一个“生成器”从源图像的潜在表示中创建新图像，以及一个“鉴别器”来评估生成新图像的真实感。如果“生成器”的新图像没有通过“鉴别器”的测试，它就会被激发去开发新的图像，直到有一个图像可以“愚弄”“鉴别器”。

虽然人工智能的加入使深度伪造过程比以往任何时候都要快，但这一过程仍然需要时间来产生一个可信的合成物，将一个人置于完全虚构的情境中。创作者还必须手动调整许多经过训练的程序的参数，以避免在图像中显示斑点和伪影。这个过程并不简单，简单的换脸可以在30分钟内完成，但复杂的深度伪造视频仍然需要几个小时才能完成。

02

如何识别深度伪造?

在未来，我们将看到更多的虚假信息——无论是视觉上的还是书面上的，而识别虚假信息也将变得越来越困难，尤其是复杂的人工智能生成的深度伪造信息。虽然没有一系列的步骤可以让人完全不被深度伪造欺骗，但有一些方法可以帮助你判断所看到的是否是真实的，如可以通过注意检查脸部、声音、照明等来判断。

脸部：某人眨眼太多还是太少？他们的眉毛和脸相配吗？是不是有人的头发长错了地方？他们的皮肤看起来是磨皮过的，还是皱纹太多？

声音：某人的声音是否与他们的外表不匹配，例如，一个身材魁梧的男人有一个高音调的女性声音。

照明：如果有的话，一个人的眼镜在灯光下会反射出什么样的光？（深度伪造通常不能完全表现光线的自然物理特性。）

生成式人工智能的成本障碍很低，现在几乎任何拥有电脑和互联网的人都可以使用人工智能。识别深度伪造，防止虚假信息的传播，除了个体要注意检查判断图像或视频的真实性外，制作人工智能内容的公司和传播虚假信息的社交媒体公司也需要设置一定程度的护栏，以防止广泛传播的虚假信息被传播。

03

深度伪造合法吗?

在美国，联邦、州甚至地方都在尝试监管人工智能。议员们正在考虑包括虚假信息、歧视、侵犯知识产权和隐私在内的各种问题。弗吉尼亚理工大学传播学院教授凯西·迈尔斯（Cayce Myers）表示“立法者不想制定一项新的监管人工智能的法律。制定一个太快的法律可能会扼杀人工智能的发展和增长，制定一个太慢的法律可能会为许多潜在的问题打开大门。保持平衡将是一个挑战。”

深度伪造已经激发了世界各地的一系列立法改革。在美国加州，2019年的两项法案禁止在政治和色情领域使用深度伪造。美国弗吉尼亚州和德克萨斯州也有类似的针对深度伪造的规定。美国国会也在考虑批准《深度伪造责任法案》（正式名称为'Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2021' or H. R. 2395），该法案旨在“通过限制深度伪造视频篡改技术，打击虚假信息的传播”。该法案提出了对深度伪造视频制作者的披露和水印要求，并规定了对不符合这些要求的人的处罚（罚款和最高5年监禁）。2022年1月，欧洲议会修改了《数字服务法》，强制对深度伪造视频使用标签。《数字服务法案》将于2024年1月1日生效。2023年1月，中国国家互联网信息办公室发布的《互联网信息服务深度合成管理规定》，发布了关于深度伪造和其他人工生成内容的管理方案，明确要求深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息，并规定了一系列监管制度。

深度伪造的内容隐藏着诸多情报风险，对情报工作人员构成了挑战。在情报搜集、情报分析过程中，任何一个环节深度伪造内容的采用都将造成情报的误判。因此，情报工作人员需要对于获取的情报采取更加谨慎的态度，保持判断情报的敏感度、了解来源和可靠性、验证真实性，确保情报工作的准确性。

参考文献：

Virginia Tech. AI makes it harder to spot deep fakes than ever before, but awareness is key, says expert.[EB/OL].[2023-05-29]. https://techxplore.com/news/2023-05-ai-harder-deep-fakes-awareness.html.

Maia Mulko. What is deepfake technology and how does it work?And is there any effective way to detect it? [EB/OL].[2022-11-17]. https://interestingengineering.com/culture/deepfake-technology-how-work.

Meredith Somers. Deepfakes, explained [EB/OL].[2020-07-21]. https://mitsloan.mit.edu/ideas-made-to-matter/deepfakes-explained.

Cecily Mauran. Fake Pentagon explosion photo caused a real dip in the stock market[EB/OL].[2023-05-22].https://mitsloan.mit.edu/ideas-made-to-matter/deepfakes-explained.

SALLY ADEE. What Are Deepfakes and How Are They Created? Deepfake technologies: What they are, what they do, and how they’re made[EB/OL].[2020-04-29]. https://spectrum.ieee.org/what-is-deepfake.