作者：金旸

2024可谓名副其实的大选年，约80个国家及地区完成或即将选举，结果足以左右全球近半人口约40亿人的未来，牵动世界政治格局，影响深远。然而，由于新的人工智能（AI）工具可以轻松创建误导性或虚假内容，欺骗选民将比以往更加容易。在今年1月新罕布什尔州总统初选之前，选民接到了AI机器人电话，以AI生成拜登总统的声音，告诉选民不要去投票站投票（图1）。此事引起社会哗然，也加剧了AI对各国大选的不良影响，引发了人们对于AI制造和扩散虚假信息能力的担忧。

图1 深度伪造的“拜登总统”自动留言电话

  //  

面对AI虚假信息扰乱全球大选年，情报人员该如何应对？目前，已有一些组织通过基于开源情报（OSINT）的思维和方法（点击阅读杂志文章了解开源情报相关内容），期冀尽最大可能地揭穿谎言、澄清事实，在后真相时代捍卫真相。

深度伪造揭秘：AI如何“创造”拜登？

  //  

那么，AI工具是如何制造出虚假信息的呢？以2024年美国大选中的“假拜登”视频为例，这段视频看似是拜登总统在公开场合发表不当言论，然而实际上，这是一段由AI生成的深度伪造视频。借助Midjourney工具，伪造者首先通过大量收集拜登总统的公开演讲和讲话视频，学习并模仿他的语言风格、表情、动作等特征；然后，利用这些数据，生成一段新的视频，看起来就像是拜登总统在说话——这种技术被称为深度学习，它使AI能够“学习”人类的行为，并以极高的准确度模仿出来；最后，将生成的视频发布到各大平台，迅速传播（图2）。

图2 Midjourney生成“假拜登”流程

后真相时代的情报战：如何识破AI虚假信息？

1. Bellingcat打假2016美国总统选举

  //  

开源情报（Open Source Intelligence，OSINT）是指从公开、合法的信息源获取情报，这些信息源包括网络、新闻媒体、公共记录、学术论文等。在2016年美国总统选举期间，一家名为“贝灵猫（Bellingcat）”的在线调查组织就利用OSINT来对抗虚假信息。在选举期间，Bellingcat的分析师通过对特朗普竞选团队政治顾问社交媒体中照片的元数据、照片中的环境和其他线索进行研究，得出了宣称2017年10月拍摄的照片实际上摄于几年前的结论（图3）。

图3 Bellingcat识破政客社交媒体伪图

  //  

Bellingcat“破案”的线索被其称为“贴纸检查”（Sticker Inspection），这种方法常被用于该公司识别图片真伪的工作中。谷歌为谷歌街景（Google Street View）提供了时间线功能，研究人员得以记录谷歌相机经常拍摄的地点的变化。在该顾问照片中，从他身后的灯杆上可以看到一系列贴纸，其中一张带有橙色飞鸟纹样（顶部），它的正下方有3张白色图案的贴纸。研究人员通过谷歌街景上的时间线比较该灯杆时，可以清楚地看到，灯杆下方的3张贴纸在2014年7月—2015年5月之间的某个时间已被去除。因此，他们判断该照片不实。

从Bellingcat的工作可以看到，OSINT不仅能帮助识别和跟踪虚假信息的源头和传播路径，还能减轻虚假信息对公众产生的影响。

2. Lupa Mundi破除2024巴西选举谣言

在近年的选举中，事实核查已经成为对抗虚假信息的一个重要手段。譬如，巴西的一家专注于全球政治事件的非营利性调查组织Lupa Mundi在今年6月就一段在社交媒体上广泛传播的视频展开事实核查（图4）。

图4 Lupa Mundi识别公开媒体视频为假

视频中的男性是前圣保罗联邦代表Fernando Chiarelli，他在巴西众议院全体会议上声称巴西的选举系统存在欺诈，并称电子投票箱是“骗局”。视频的标题声称这段视频是最近拍摄的，并且声称无法再访问该议员的演讲内容。然而，经Lupa Mundi分析核查后发现，这些都是虚假信息，这段视频其实是在2010年11月的一次全体会议上录制的，也就是超过十年前的事情了。

Lupa Mundi识别视频真实性的过程如下：

?时间线分析：确认这段视频实际上是在2010年11月的一次全体会议上录制的，而非近期的事件。

?公开记录检查：查阅众议院的公开记录，包括议员的演讲记录和会议记录，以确认视频内容的真实性。

?关键词搜索：在众议院的演讲数据库中搜索该议员的名字和“欺诈”这个词，找到了25个包含该议员在全体会议上提到该词的演讲文件。

?音频档案访问：访问众议院网站上的音频档案，找到包含该议员演讲的部分音频。

?对比分析：将视频中的内容与公开的会议记录和演讲记录进行对比，最终确认视频的内容和时间。

Lupa Mundi认为，通过事实核查，不仅可以揭示虚假信息的真相，还可以参与到解决问题的过程中。

3. CCDH揭露2024欧洲选举虚假图片

  //  

媒体监控也是一种有效应对虚假信息的策略。以英国的非营利性非政府组织：打击数字仇恨中心（Center for Countering Digital Hate，CCDH）为例，该中心致力于研究和反对网络上的仇恨和虚假信息。在其研究过程中，CCDH发现，随着2024年欧洲选举的临近，波兰总理唐纳德·图斯克成为虚假信息的目标，于是CCDH专门撰写报告研究AI图像生成器用户产生的虚假图片利用社交媒体误导选民的情况（图5）。

图5 CCDH判别Midjourney用户产生的涉选举伪图

  //  

除此之外，CCDH还经常把矛头指向一些热门的社交媒体。例如，其于2023年6月发布了针对Twitter上仇恨言论的研究报告，该研究由8篇论文组成，其中一篇发现Twitter没有针对该中心报告的“发布仇恨推文”的100个Twitter Blue账户中的99个采取任何行动。从CCDH的工作中可以看到，媒体监控不仅可以通过研究揭示虚假信息的传播情况，还可以让各大社交媒体平台采取行动，阻止这些信息的传播。

识伪寻真：情报的力量

虽然生成式AI工具为虚假信息的制造与传播提供了“捷径”，也为监管信息疫情带来了新的挑战，但从上文可以看到，各个组织在历次选举期间打击虚假信息的实例中，尽管侧重面各有不同，但都通过综合运用情报思维和手段来应对这种威胁。在虚假信息泛滥的环境中，开源情报提供了一种低成本、高效率的方式来揭露和对抗误导性内容，是维护信息真实性和公众信任的关键手段，尤其是在选举等关键时期；同时，开源情报还有助于及时发现和应对虚假信息的传播，减少其对社会的负面影响。在后真相时代，虚假信息不会销声匿迹，而情报方法的重要性只会与日俱增。

参考文献：

[1] RADFORD A. Language models are unsupervised multitask learners[EB/OL].[2024-07-05].https://d4mucfpksywv.cloudfront.net/better-language-models/language_models_are_unsupervised_multitask_learners.pdf.

[2] CHESNEY R, CITRON D. Deep fakes: A looming challenge for privacy, democracy, and national security[EB/OL].[2024-07-05].https://scholarship.law.bu.edu/faculty_scholarship/640/.

[3] WARDLE C, DERAKHSHAN H. Information disorder: Toward an interdisciplinary framework for research and policy making[R]. Council of Europe report, 2017.

[4] OSCE. Handbook on the Follow-up of Electoral Recommendations[EB/OL].[2024-07-05].https://www.osce.org/files/f/documents/c/8/244941.pdf.

[5] CISA.A guide to critical infrastructure security and resilience[EB/OL].[2024-07-05].https://www.cisa.gov/resources-tools/resources/guide-critical-infrastructure-security-and-resilience.

[6] DataLEADS. India's disinformation landscape[EB/OL].[2024-07-05].https://narratives.com.pk/daily-narratives/indias-disinformation-landscape/.