当前位置:首页 > 文章中心 > 资讯中心 > 国际

美刊:深度造假与新的假情报战——即将到来的后真相地缘政治时代

2019-02-23 11:19:47  来源:参考消息  作者:罗伯特·切斯尼 丹尼尔·西特龙
点击:   评论: (查看)

美刊:深度造假与新的假情报战——即将到来的后真相地缘政治时代

  【美国《外交》双月刊网站2018年12月11日文章】题:深度造假与新的假情报战——即将到来的后真相地缘政治时代(作者罗伯特·切斯尼丹尼尔·西特龙)

  一幅照片可能相当于一千字的价值,但没有什么能像有关一起事件的录音或视频那样具有说服力。在党派纷争使人几乎无法就事实达成一致的时候,这种说服力似乎可以带来一种可喜的澄清。录音和视频使人们可以成为某起事件的直接见证人,使之不必去判断是否要相信别人的叙述。得益于智能手机(它们可以让人轻松获取音频和视频内容)和社交媒体平台(它们使人们可以分享这些内容作为消遣),人们今天能够在前所未有的程度上依靠自己的眼睛和耳朵。

  

假情报战一触即发

 

  这里面存在着巨大的危险。想象一下,一段视频显示,以色列总理在私下与一位同事交谈时,似乎透露了在德黑兰实施一系列政治暗杀的计划。或者一段有关伊朗官员策划在伊拉克某省采取秘密行动杀害逊尼派领导人的音频。或者是一段显示一名美国将军在阿富汗焚烧古兰经的视频。在一个已经为实施暴力做好准备的世界上,这样的录音或录像具有很大的煽动潜能。现在,想象一下,这些录音或录像可能会由几乎任何拥有笔记本电脑和能上网的人都能获得的工具伪造,而且所产生的伪造物令人深信不疑,以至于无法将其与真品区别开来。

  数字技术的进步可能很快使这场噩梦成为现实。由于“深度造假”——极为逼真且难以察觉的对音频或视频的数字操纵——的兴起,描绘某件从未说过或做过的事情变得比以往任何时候都更加容易。更糟糕的是,“深度造假”的手段很可能会迅速扩散,产生一个日益扩大的、能够出于政治目的而造假的行为者圈子。当然,虚假信息是一门古老的艺术,在今天又有了新的用武之地。但是,随着“深度造假”技术的发展和传播,当前的假情报战可能很快就会看起来像刀剑和盾牌时代的宣传一样。

  

“深度造假”日新月异

 

  “深度造假”是被称为“深度学习”的人工智能最近取得进步的产物。在“深度学习”中,称为“神经网络”的一组组算法学会通过筛选很大的数据集来推断规律和复制模式。例如,谷歌公司就利用这一技术为其搜索引擎开发出了强大的图像分类算法。

  这项技术有可能广泛扩散。公开市场上已经出现了商业性的、甚至是免费的深度造假服务。在黑市上则可能会出现一些几乎没法防范的版本。这意味着在不久的将来,对人们炮制“深度赝品”能力的唯一实用的限制方法,就是限制获取训练材料的机会——即限制获取需要模仿的人的音频和视频的机会。对于几乎任何一个有足够兴趣并知道去哪里寻求帮助的人来说,炮制达到专业级别的赝品的能力都是唾手可得。

  “深度造假”有许多有价值的应用。例如,可以为教育儿童的目的制作经修改的历史人物的音频或视频。一家公司甚至声称,它可以利用这项技术,为因疾病而丧失发音能力的人恢复讲话能力。但是,“深度仿冒”也可以、也将会被用于更险恶的目的。用户已经在未经人们同意或不被知情的情况下利用深度仿冒技术将其脸部图像插入色情音像之中。而且制作假冒音像内容越来越容易,因而将为敲诈、恐吓和破坏创造大量机会。然而,“深度假冒”技术最可怕的应用很可能是在政治和国际事务领域。在那里,“深度赝品”可能会被用来制造异常有效的谎言,从而煽动暴力活动,令领导人和组织机构名誉扫地,甚至使选举结果发生逆转。

  

社交媒体推波助澜

 

  “深度造假”之所以有可能具有特别严重的破坏性,是因为其问世之际正值事实与虚构已经越来越难以区分。在20世纪的大部分时间里,杂志、报纸和电视广播公司一直管控着信息的流向。新闻记者建立了严格的专业标准来控制新闻的质量,大众传媒机构相对较少的数量意味着,只有数量有限的个人和组织能够广泛地传播信息。而最近10年来,越来越多的人已开始从脸书和推特等社交媒体平台获取信息。这些平台依赖大量用户生成相对未经过滤的内容。用户往往会对自己的体验加以调节,因而他们大多会遇到自己已经认同的视角(这种趋势已被平台的算法所强化),从而使其社交媒体信息来源沦为人云亦云的“回响室”。这些平台也容易受到所谓的信息瀑布效应的影响,即人们传递他人所分享的信息,而不用费心去核实这些信息是否属实,从而使这种以讹传讹在这一过程中显得更加可信。最终的结果是,谎言比以往任何时候都传播得更快。

  这些动态因素将使社交媒体成为传播“深度仿冒品”的沃土,从而对政治产生潜在的爆炸性影响。俄罗斯试图影响2016年美国总统选举——在脸书和推特网站上散布具有分裂性和政治煽动性的信息——已经表明虚假信息多么容易被注入社交媒体的血液流动之中。与2016年的假新闻相比,明天的假新闻将更生动、更逼真,因此也更具共享性。而由于人们特别容易分享负面的、新颖的信息,所以“深度假冒”越是情节惊人,就会越有效。

  【本文原载“参考消息”】

相关文章