人工智能技术如何将人们从深度虚构的世界中拯救出来
发布时间:2021-06-10 17:59:29 所属栏目:大数据 来源:互联网
导读:如今,采用深度伪造(Deepfake)生成的视频和音频,人工智能生成的文本、诗歌和歌词,假网站和假新闻进入人们的世界。人们的生活还会真实吗? 行业专家Mike Elgan对于人工智能在伪造方面起到的作用进行了阐述。他举例说,在我小时候,我和弟弟用纸碟、锡纸和大
如今,采用深度伪造(Deepfake)生成的视频和音频,人工智能生成的文本、诗歌和歌词,假网站和假新闻进入人们的世界。人们的生活还会真实吗?
行业专家Mike Elgan对于人工智能在伪造方面起到的作用进行了阐述。他举例说,“在我小时候,我和弟弟用纸碟、锡纸和大理石制成一个UFO(不明飞行物)。然后,我们将UFO悬挂在鱼线上,并登上楼顶采用家里摄像机拍摄UFO飞来的样子,并获得证明外星人的存在的确凿证据,这种游戏就是一种深度伪造。”
伪造和假冒事物一直存在。但是,当这一切都变得数字化时,其创建和分发都变得更加容易、更快以及更加广泛。人工智能(AI)会将其提升到一个全新的水平,使任何人都能创建完美的多媒体(如视频和音频)伪造品。
伪造者创建伪造品,然而采用检测器进行检测,从而向伪造者提供有关检测到的信息。伪造者然后调整他们的方法,并创造更好的伪造品。但是在充满伪造的世界中,人们将如何应对?
假新闻(或有关伪造的新闻)
很多人担心深度伪造(Deepfake)视频会被用于政治。例如近日发生的这样事情,印度人民党主席Manoj Tiwari以不同的语言对其支持者的讲话就是一个Deepfake视频,好在没有用来伪造对手的评论。不过,Deepfake现在已经用于政治领域,这是一个里程碑。
另一个采用人工智能伪造的例子是说唱歌手和词曲作者Travis Scott创作的一首新歌,这首歌名为Jack Park Canny Dope Man,采用人工智能生成的音乐和歌词,由Scott本人在一段音乐视频中演唱。
OpenAI GPT-2是一种语言创建人工智能技术,几乎可以使用任何样式编写文章。它可以模仿《纽约客》杂志的写作风格,甚至可以写诗。OpenAI是一家由特斯拉首席执行官埃隆•马斯克等创立的非盈利研究机构。
很多人担心人工智能创造的伪造品用于犯罪,但这已经发生了。
安全厂商赛门铁克公司已经通过模仿首席执行官的声音,验证了三个针对企业员工的Deepfake音频的案例。Deepfake技术可以从YouTube演讲和企业财务收益电话中获取首席执行官声音样本,诈骗者在电话中模拟其声音,欺骗员工给他紧急汇款。
人工智能将如何制造完美的Deepfake视频
目前有两种创建Deepfake视频的通用方法。第一个是换脸技术,它使用编码器和解码器来逐帧匹配和替换视频中的人脸。
第二种方法称为生成对抗网络或GAN。这种方法可用于创建各种令人信服却是伪造的数据,它使用两种人工智能算法。一个算法用来创建虚假数据;另一个算法进行判断,为创建者算法提供反馈。并大规模重复这种做法,两种算法都提高了它们的能力。最终,创建者算法变得如此出色,它可以产生视频、音频、文本、指纹等假数据。
伪造视频的制作变得越来越复杂。总部位于香港的一家名为SenseTime的初创公司与南洋理工大学和中国科学院自动化研究所合作,开发了一个名为SenseTIme的框架,该框架可以根据语音自动编辑视频。
韩国Hyperconnect公司构建了一个名为MarioNETte的工具,该工具可以实时将某人的脸部动作映射到其他任何人(例如政客或名人)的脸部。
与此同时,Deepfake技术变得越来越强大,并且也变得更加民主化,现在出现在消费者应用程序中。任何人都可以创建令人信服的Deepfake视频和音频,而这只是时间问题。
这就是为什么必须弄清楚如何检测伪造文件的原因。
![]() (编辑:滨州站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |