事实查核|关闭星链?重行选举?这些假信息由AI加工而来

最近,一些针对美国政府及其高阶官员的资讯,借由人工智能(AI)科技加工真实音画素材在网上传播。亚洲事实查核实验室收集、查核了其中两则:

1. 卢比奥在接受CNN采访时称,要说服马斯克关闭给乌克兰的星链服务?

查核结果:错误

原视频经剪辑变造并插入音频。

一些微博用户(12)与抖音用户近来在传播一段18秒的视频,画面是取自美国国务卿卢比奥(Marco Rubio)2月28日接受美国有线电视新闻网(CNN)访问内容片段。微博大“V”“斯图卡98”根据这一视频内容翻译称,卢比奥受访时说自己“过两天会与马斯克见面,会说服马斯克切断乌克兰军队(使用的)星链,那时泽连斯基就知道有多么离不开美国了。”

上述资讯传在抖音与微博上都引来“美国背信弃义”或质疑美国不向俄罗斯施压的批评。然而,亚洲事实查核实验室(Asia Fact Check Lab, AFCL)比对了CNN专访原始视频,发现原始片段中主持人和卢比奥视频连线,全程都画面中,对话全程不曾切换到其它画面。(下方截图左)。

但网传视频中,约第8秒开始却插入了乌克兰总统泽连斯基(Volodymyr Zelenskyy)日前在白宫与特朗普等人争执的画面(下方截图右),搭配着听起来像是卢比奥声音说的“要说服马斯克关闭乌克兰星链”的内容。

网传视频(右)加入了原视频(左)中没有的画面
网传视频(右)加入了原视频(左)中没有的画面 网传视频(右)加入了原视频(左)中没有的画面 (图截取自YouTube、微博)

再从谈话内容来看,CNN的原版访谈里,卢比奥先是表达他认为泽连斯基应该为在白宫的表现道歉。记者追问:泽连斯基应该为什么事道歉?卢比奥说,泽连斯基不需要摆出如此对抗的姿态,以致于把事情搞砸了。他就此展开讲述了一些细节,但并未提到马斯克和星链。

但在网传视频中,卢比奥回答了一句之后,就话锋一转称”自己要说服马斯克关闭星链”。这不仅和原视频内容完全不同,语速也明显变慢,还有规律的停顿(下图红圈处),而音质也比原视频中听起来更为扁平。

AFCL撷取这段第8秒到18秒的音频,用AI生成内容侦测软件Hive的检测发现,这段听起来极似卢比奥声音的音频,有高达99.8%的可能是AI生成,极有可能是深伪技术编造出的内容。

AI侦测软件检查的结果显示卢比奥的音频大概率由AI生成
AI侦测软件检查的结果显示卢比奥的音频大概率由AI生成 AI侦测软件检查的结果显示卢比奥的音频大概率由AI生成 (图截取自Hive软件界面)

这段加工过的视频最早由X上的英文用户发布,已有乌克兰官方的查核组织法新社(AFP)发布查核报告,但相关不实内容仍然在中文世界流传。

2. 网传截图显示,马斯克说特朗普若再选举,会大输特输?

查核结果:缺乏证据

3月9日,X上有中文账号(12)转发一张据称是马斯克(Elon Musk)的发文截图,内容为马斯克发文说:“美国需要举行选举,川普将以压倒性差距落败”。

3月9日,X上传出马斯克发文嘲讽特朗普再次选举会大输的消息。
3月9日,X上传出马斯克发文嘲讽特朗普再次选举会大输的消息。 3月9日,X上传出马斯克发文嘲讽特朗普再次选举会大输的消息。 (图取自X)

转发的其中一名“蓝勾“用户为“Lawrence of Gobi 愚蠢的精卫”,他的文章在一天内就收获将近50万次观看,该用户还直接邀请网民问Grok(X的内建AI)这则消息是否为真。

观察网传截图内容,AFCL发现文末时间标记的格式和X上的其他文章不同。随机选取一则X上的贴文(见下图),会发现在电脑上时间的正确写法为“时间+AM或PM,月+日+年”,在手机上阅览则稍有不同,但都和截图内的时间标记不一样。

比对网传截图和X在电脑及手机上的版本,时间标记方式明显不同。
比对网传截图和X在电脑及手机上的版本,时间标记方式明显不同。 比对网传截图和X在电脑及手机上的版本,时间标记方式明显不同。 (图取自X)

进一步使用查核工具InVID & WeVerify查证,检测结果显示,该图上的用户名称及时间处有变造痕迹(见下方截图的红色部分)。

InVID & WeVerify检测结果称:“过滤器可检测图像在先前创建和压缩过程中的异常。如果图像中新增或移除了一个元素,而其压缩方式与图像其馀部分不同,则可以被检测出来”,而红色部分正是被检测出的不寻常之处。

查核工具InVID & WeVerify的验证结果,其中彩色模糊部分为明显经后制变造的部分。
查核工具InVID & WeVerify的验证结果,其中彩色模糊部分为明显经后制变造的部分。 查核工具InVID & WeVerify的验证结果,其中彩色模糊部分为明显经后制变造的部分。 (图取自InVID & WeVerify网站)

AFCL再以关键字“The USA needs to hold an election”等关键词搜寻,并没有找到马斯克曾经发过相关信息的证据,也没有任何官方消息或机构媒体报道他发表过这一言论。

但马斯克曾在此传言的前一天,即3月6日发布过一篇帖文,称“乌克兰需要举行选举,泽连斯基将以压倒性差距落败”,目前该文还在线上,并未被撤销,网传截图可能是将该帖的内容进行加工,变造而来。

以关键字搜寻找到马斯克3月6日的发文,与传言内的内容高度相近。
以关键字搜寻找到马斯克3月6日的发文,与传言内的内容高度相近。 以关键字搜寻找到马斯克3月6日的发文,与传言内的内容高度相近。 (图取自X)

亚洲事实查核实验室(Asia Fact Check Lab)针对当今复杂媒体环境以及新兴传播生态而成立。我们本于新闻专业主义,提供专业查核报告及与信息环境相关的传播观察、深度报道,帮助读者对公共议题获得多元而全面的认识。

读者若对任何媒体及社交平台传播的信息有疑问,欢迎以电邮afcl@rfa.org寄给亚洲事实查核实验室,由我们为您查证核实。亚洲事实查核实验室更详细的介绍请参考本文

我们另有X、脸书、IG频道,欢迎读者追踪、分享、转发。 X这边请进:中文@asiafactcheckcn;英语:@AFCL_engFB在这里IG也别忘了