美文网首页@IT·互联网
伪造视频变得越来越容易?为何这项技术如此可怕

伪造视频变得越来越容易?为何这项技术如此可怕

作者: 灰产圈 | 来源:发表于2018-09-11 15:35 被阅读33次

    ​自今年4月份以来,涉及美国前总统巴拉克·奥巴马(Barack Obama)的一段一分钟长视频已被观看过480万次。视频中,奥巴马坐在椅子上,背景中可以看到美国国旗,他直接对着观众发表讲话,并用淫秽下流的语言攻击其继任者唐纳德·特朗普(Donald Trump)。

    或者更确切地说,当奥巴马发表上述演讲时,他的嘴唇会随之而动。这段视频实际上是由演员兼导演乔丹·皮勒(Jordan Peele)模仿奥巴马的声音制作的所谓“深度伪造”(Deepfake)内容。皮勒制作这段视频是为了说明伪造音频和视频内容所带来的危险,实际上这些内容并非奥巴马所说。纽约大学的研究人员将“深度伪造”描述为“即将到来的威胁”。最后,物以类聚,人以群分,接触更优秀的人也可以让你成为同样的人,关注公号:灰产圈

    灰产圈:培养你的发散性思维 解密互联网骗局、实战揭秘互联网灰产案例、网赚偏门项目解析、分享网络营销引流方案。深挖内幕、曝光各类套路

    “深度伪造”由何而来?

    虽然操纵数字文件并不是什么新鲜事儿,但这种可信的伪造行为是通过使用一种人工智能(AI)形式的计算机程序完成的。一个算法被训练来识别特定人的实际音频或视觉记录中的模式,这个过程被称为深度学习。就像修改过的图片一样,一段音频或视频内容可以通过更换新元素(比如更换别人的脸或声音)来改变,并无缝地将两者结合起来。

    与语音克隆技术结合使用时,这种手法最容易让人产生误导。语音克隆技术将音频录音分解成半音节的片段,然后可以重新组合成新词,与苹果的Siri和亚马逊的Alexa等语音助手的创建方法相同。

    为何“深度伪造”更可信?

    深度学习算法所包含的内容库越大,它就显得越真实。奥巴马的“深度伪造”视频需要56小时的录音样本,而苹果公司录制了10到20个小时的演讲来制作Siri。许多报道现实,语音克隆只需用几秒钟的材料就能制成。

    “深度伪造”如何传播?

    Vice旗下出版物《Motherboard》去年12月份报道称,一个名叫“深度伪造”的Reddit用户已经公开提供了一种使用开源代码制作假视频的算法。以前,这项技术主要供学术和研究人员使用,但现在任何人都可以利用它。“深度伪造”开始成为一种制造虚假色情内容的手段,通常是把女明星的脸换到色情明星的身体上,以伪造从未发生过的色情场景。Reddit禁止用户使用“深度伪造”技术,但这种技术却得到了推广,现在可以在FakeApp等应用程序上使用。

    谁在伪造视频?

    在所谓的“技术军备竞赛”中,大学和研究公司都在开发自己的技术,以测试“深度伪造”的威力,并以此击败邪恶的伪造视频从业者。卡内基梅隆大学的研究人员最近开发了一种系统,可以将特征(比如面部表情)从某人的视频传输到另一个人的合成图像上。许多初创公司包括Lyrebird和iSpeech,一直在销售用于人机界面商业应用的语音克隆技术。

    为何“深度伪造”引发担忧?

    令人担心的是,“深度伪造”技术可能会过度损害声誉,甚至引发骚乱。想象一下,在伪造的视频中,总统候选人猥亵儿童,警察局长煽动针对少数群体的暴力行为,或者士兵犯下战争罪,结果会如何?政治家和商界领袖等知名人士面临的风险尤其高,因为他们的录音大多数是公开的。

    对于普通人来说,尤其是女性,这项技术使“色情报复”成为可能,即使没有真实的裸体照片或视频存在。一旦一段视频在互联网上疯传,几乎无法控制。另一个值得关注的问题是,随着“深度伪造”技术的广泛传播,将使那些真正被录下做坏事或说令人反感言论的人更容易指出,这些针对他们的证据都是伪造的。

    “深度伪造”如何检测?

    制造出“深度伪造”内容的机器学习方式很难逆转用以检测它们。研究人员已经确定了一些线索,这些线索可能表明视频不是真实的。例如,如果说话者有一段时间没有眨眼睛,或者看上去有点儿呆板,但这样的细节很容易被观众忽略。

    通过提高某人视频的色彩饱和度,可以从面部皮肤几乎看不见的变化中检测出他或她的脉搏,而由杂乱剪辑合成的图像会有不规则或不存在的血流。美国国防部正在开发一种工具来对付那些“深度伪造”内容。

    有仁慈的用途吗?

    的确有。苏格兰公司CereProc为因疾病而失去自我的人们创造了数字声音,声音克隆可以通过再现历史人物的声音来达到教育目的。北卡罗莱纳州立大学的一个项目就综合了马丁·路德·金(Martin Luther King)的一篇未录音演讲。

    CereProc公司制作了约翰·肯尼迪总统( President John F. Kennedy)的最后一次演讲,他在发表讲话前就遇刺身亡。然而,约翰·肯尼迪图书馆拒绝收录这段录音,称其不符合规定。

    最后,物以类聚,人以群分,接触更优秀的人也可以让你成为同样的人,关注公号:灰产圈

    灰产圈:培养你的发散性思维 解密互联网骗局、实战揭秘互联网灰产案例、网赚偏门项目解析、分享网络营销引流方案。深挖内幕、曝光各类套路

    相关文章

      网友评论

        本文标题:伪造视频变得越来越容易?为何这项技术如此可怕

        本文链接:https://www.haomeiwen.com/subject/shyugftx.html