自今年4月份以来，涉及美国前总统巴拉克·奥巴马（Barack Obama）的一段一分钟长视频已被观看过480万次。视频中，奥巴马坐在椅子上，背景中可以看到美国国旗，他直接对着观众发表讲话，并用淫秽下流的语言攻击其继任者唐纳德·特朗普(Donald Trump)。
或者更确切地说，当奥巴马发表上述演讲时，他的嘴唇会随之而动。这段视频实际上是由演员兼导演乔丹·皮勒(Jordan Peele)模仿奥巴马的声音制作的所谓“深度伪造”（Deepfake）内容。皮勒制作这段视频是为了说明伪造音频和视频内容所带来的危险，实际上这些内容并非奥巴马所说。纽约大学的研究人员将“深度伪造”描述为“即将到来的威胁”。最后，物以类聚，人以群分，接触更优秀的人也可以让你成为同样的人，关注公号：灰产圈
灰产圈:培养你的发散性思维 解密互联网骗局、实战揭秘互联网灰产案例、网赚偏门项目解析、分享网络营销引流方案。深挖内幕、曝光各类套路
“深度伪造”由何而来？
虽然操纵数字文件并不是什么新鲜事儿，但这种可信的伪造行为是通过使用一种人工智能（AI）形式的计算机程序完成的。一个算法被训练来识别特定人的实际音频或视觉记录中的模式，这个过程被称为深度学习。就像修改过的图片一样，一段音频或视频内容可以通过更换新元素(比如更换别人的脸或声音)来改变，并无缝地将两者结合起来。
与语音克隆技术结合使用时，这种手法最容易让人产生误导。语音克隆技术将音频录音分解成半音节的片段，然后可以重新组合成新词，与苹果的Siri和亚马逊的Alexa等语音助手的创建方法相同。
为何“深度伪造”更可信？
深度学习算法所包含的内容库越大，它就显得越真实。奥巴马的“深度伪造”视频需要56小时的录音样本，而苹果公司录制了10到20个小时的演讲来制作Siri。许多报道现实，语音克隆只需用几秒钟的材料就能制成。
“深度伪造”如何传播？
Vice旗下出版物《Motherboard》去年12月份报道称，一个名叫“深度伪造”的Reddit用户已经公开提供了一种使用开源代码制作假视频的算法。以前，这项技术主要供学术和研究人员使用，但现在任何人都可以利用它。“深度伪造”开始成为一种制造虚假色情内容的手段，通常是把女明星的脸换到色情明星的身体上，以伪造从未发生过的色情场景。Reddit禁止用户使用“深度伪造”技术，但这种技术却得到了推广，现在可以在FakeApp等应用程序上使用。
谁在伪造视频？
在所谓的“技术军备竞赛”中，大学和研究公司都在开发自己的技术，以测试“深度伪造”的威力，并以此击败邪恶的伪造视频从业者。卡内基梅隆大学的研究人员最近开发了一种系统，可以将特征(比如面部表情)从某人的视频传输到另一个人的合成图像上。许多初创公司包括Lyrebird和iSpeech，一直在销售用于人机界面商业应用的语音克隆技术。
为何“深度伪造”引发担忧？
令人担心的是，“深度伪造”技术可能会过度损害声誉，甚至引发骚乱。想象一下，在伪造的视频中，总统候选人猥亵儿童，警察局长煽动针对少数群体的暴力行为，或者士兵犯下战争罪，结果会如何？政治家和商界领袖等知名人士面临的风险尤其高，因为他们的录音大多数是公开的。
对于普通人来说，尤其是女性，这项技术使“色情报复”成为可能，即使没有真实的裸体照片或视频存在。一旦一段视频在互联网上疯传，几乎无法控制。另一个值得关注的问题是，随着“深度伪造”技术的广泛传播，将使那些真正被录下做坏事或说令人反感言论的人更容易指出，这些针对他们的证据都是伪造的。
“深度伪造”如何检测？
制造出“深度伪造”内容的机器学习方式很难逆转用以检测它们。研究人员已经确定了一些线索，这些线索可能表明视频不是真实的。例如，如果说话者有一段时间没有眨眼睛，或者看上去有点儿呆板，但这样的细节很容易被观众忽略。
通过提高某人视频的色彩饱和度，可以从面部皮肤几乎看不见的变化中检测出他或她的脉搏，而由杂乱剪辑合成的图像会有不规则或不存在的血流。美国国防部正在开发一种工具来对付那些“深度伪造”内容。
有仁慈的用途吗？
的确有。苏格兰公司CereProc为因疾病而失去自我的人们创造了数字声音，声音克隆可以通过再现历史人物的声音来达到教育目的。北卡罗莱纳州立大学的一个项目就综合了马丁·路德·金（Martin Luther King）的一篇未录音演讲。
CereProc公司制作了约翰·肯尼迪总统（ President John F. Kennedy）的最后一次演讲，他在发表讲话前就遇刺身亡。然而，约翰·肯尼迪图书馆拒绝收录这段录音，称其不符合规定。
最后，物以类聚，人以群分，接触更优秀的人也可以让你成为同样的人，关注公号：灰产圈
灰产圈:培养你的发散性思维 解密互联网骗局、实战揭秘互联网灰产案例、网赚偏门项目解析、分享网络营销引流方案。深挖内幕、曝光各类套路
网友评论