“换脸”真相 “深度伪造”的网络狂欢和安全威胁(2)
“针幕动画”联合创始人李浩:当然,这个技术可以用来做一些真的很坏的事情。但主要目的绝不是如此,它被用于娱乐,一个有趣的工具,用于时尚、生活方式各方面,带给我们更多体验。
但随着技术的发展,这样的合成图像或视频,真实度越来越强,欺骗性也越来越强。对此,研发者也不无担忧。
“针幕动画”联合创始人李浩:我们都假设会有一个临界点,届时将无法区分真假。我的意思是,从视觉效果上说,我觉得你已经可以做到非常接近了,只是取决于你花多少努力在上面。但就任何人都可以创建的内容而言,我认为已经非常接近这个临界点了。
2018年1月,一个名为FakeApp的软件上线,宣称可以实现“一键换脸”。可生成的视频内容包括恶搞美国总统特朗普,或是将自己的脸贴到好莱坞明星身上。
虽然有的社交新闻站点比如Reddit网站,已明令禁止在自己的平台传播换脸视频和图片,但仍有超过9万名用户在Reddit上传播这类视频。
计算机科学专家法里德:我担心这项技术被武器化,还担心它如何影响我们整个社会。
深度伪造不仅可以换脸,还可伪造声音。
据《华尔街日报》报道,今年3月,有犯罪分子利用“深度伪造”技术,电脑合成某公司CEO的声音,成功诈骗22万欧元。
电脑合成声音真的这么难以识破吗?
2018年,三名蒙特利尔大学的博士联合创办了一家名为“琴鸟”(Lyrebird)的公司。该公司开发出了一种“语音合成”技术,只要对目标人物的声音进行1分钟以上的录音,把录音丢给“琴鸟”处理,就能得到一个特别的密钥,利用这个密钥可以用目标人物的声音,生成任何想说的话。
“琴鸟”创始人:你需要录自己几分钟的声音。
彭博社记者万斯:上千个字母在业余作家的屏幕上跳动,当你开始像这样吃东西时,就会有问题,你们最好退出政治圈,别干了。我不知道它怎么工作的,现在创建我的数字声音。创建你的数字声音至少需要一分钟,一分钟,我的天啊。
语音录制完后,“琴鸟”会自动运转合成出你的数字声音。
这时,只需要向电脑输入想说的话,就可以用新合成的你的声音说出来。