网络安全公司Pindrop在2018年五月对美英德法四国共500家企业展开网上调查，结果显示，从2013年到2017年，语音欺诈案件的数量增加了350%，每638个欺诈电话中就有1个是人工合成声音。

　　瑞士苏黎世大学研究员乌德里什：长久以来，人类的声音是(造假者)最大的挑战，因为每种声音都极其复杂且独一无二，它们几乎不可能被伪造。但在最近几年，(科技)取得了巨大进步，视频素材和伪造声音的结合造成了巨大的威胁。

　　的确，有了成熟的声音造假技术，再配上伪造图像，做出一条以假乱真、别有用心的视频真的不难了。

　　“深度伪造”假视频：特朗普总统是个彻底的笨蛋，你看我永远不会说这些话，至少在公共演讲中(不会)，但其他人会说，比如乔丹皮尔。这是一个危险的时代，以后我们要对我们所信任的互联网更加警惕。在这个时代我们需要可信的新闻来源，听起来很简单，但我们该如何发展，信息时代将决定我们是生存，还是成为某种糟糕的反乌托邦。谢谢。

　　这段视频看上去是美国前总统奥巴马在发表演讲，实际上却是喜剧演员和电影制作人皮尔的表演，声音和画面都是通过软件合成的。

　　计算机科学专家法里德：人工智能系统合成了奥巴马的嘴，使其与音频流保持一致，让视频看起来像是奥巴马总统在说他之前从未说过的话。这叫作唇同步深度伪造。

　　技术本无善恶，深度伪造可以被运用于趣味视频、游戏以及广告合作中，但恶意运用也会带来严重后果。它可能会摧毁我们对现实的认知，使人们不敢再相信视频、录像。

　　美国卡内基国际和平基金会也警告称，深度伪造正在带来破坏性的影响，也会对反恐和国家安全造成危害。

　　计算机科学专家法里德：噩梦般的情况是，出来一段特朗普总统的视频，他在视频里说，我对朝鲜发射了核武器。有人黑进了他的推特账号，这条消息被疯狂传播，短短30秒，全球核战爆发。我觉得这可能吗?不，但并非完全不可能，而且会把你吓得半死，对吗?但这并非不可能的事实，真的令人担忧。

　　从“深度学习”到“深度伪造”，照片、声音、视频都可轻松造假，而识别深度伪造则要比制作深度伪造难得多。

　　当“眼见未必为实，耳听未必为真”，我们又该怎么办?

　　扎克伯格“深度伪造”假视频：这都要归咎于Spectre漏洞，它告诉我谁掌控了数据，谁就掌控了未来。

　　今年6月，图片分享网站Instagram出现这样一段视频。脸书公司创始人扎克伯格就大数据的威力发表演讲。