最近一夜爆红的AI换脸,仅仅火了一天就因为隐私问题而迅速沦陷,紧接着ZAO的致歉又冲上了热搜榜。
9月3日,针对媒体公开报道和用户曝光的“ZAO”App用户隐私协议不规范,存在数据泄露风险等网络数据安全问题,工业和信息化部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈,要求其严格按照国家法律法规以及相关主管部门要求,组织开展自查整改,依法依规收集使用用户个人信息,规范协议条款,强化网络数据和用户个人信息安全保护。同时,要进一步加强新技术新业务安全评估,切实采取有效措施,积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。
沉寂许久的陌陌,在道德与伦理的临界线,再次做出了一款现象级产品。这既令人意外,又让人觉得理所当然--这正是陌陌会干的事情!
今天你换脸了么?未来你害怕“丢脸”么?
换脸.jpg
美颜只是美化,换脸已经是欺骗
自从AI美颜成为智能手机的标配功能之后,所有朋友圈和空间里的生活照片似乎都变成了“照骗”。
不久以前,我们觉得视频还是比较难作假的。美女们宁发千张照片,不拍一段视频。以前约见网友怕见光死,很多人还喜欢先视频一下求证。像我爸妈一样的普通老百姓,对新闻视频内容就更是深信不疑了。
也不记得是谁第一个开始,各大直播APP陆续推出了美颜功能,到最后连微信视频通话都可以美颜了。一时之间,中国网民的平均颜值全部提升了两个档次。难道以后约网友之前,要先交换身份证照片了?
如果仅仅只是美颜还好,毕竟打光去斑瘦脸,也不至于完全将你变成另外一个人,在我们印象中,“换脸”仍然只是P图高手界的传说级技能而已。
然而科技的进步速度总是超出人们想象,其实AI换脸的技术早已不是新鲜事了。早在2017年底,国外一位ID为“deepfakes”的网友,利用业余时间创造了一个AI换脸算法(后来被称为deepfakes算法),这个AI换脸就曾在国外风靡过,只是后来因为有人将该技术应用于色情视频,诸多公众人物成为受害者,随后才被封杀。
与公众人物受害相比,人们对ZAO的关注点更多的放在隐私泄露方面,担心自己的生物特征数据被软件非法获取和泄露,想象一下,如果有一天你老婆收到一段你自己“主演”的动作片视频,那该多可怕。
换脸比美颜更可怕的是:美颜还仅仅只是无恶意的让过度美化,而换脸则完全是一种刻意的欺骗,伤害的范围也更大(除了露脸的那个人,还有被换掉脸的那个人)。
换脸技术迅速普及所揭示的可怕未来
昙花一现的AI换脸,大家还只来得及在朋友圈娱乐一下,可能都还没过瘾,也更不会感受到什么危害。
不论是娱乐还是其他需求,这种技术的需求太过广泛,必然是很难禁止的。
今天即便ZAO被封杀,但很快就会有AI换衣、AI换车等等类似产品出现,技术会更成熟、更容易获得,应用范围也会更加广泛。未来在你的手机里,它也许会像今天的美颜相机一样成为标配。
你能想象这种技术普及之后的场景么?
这可不只是网上认识个美女帅哥容易被骗那么简单。
我们早已生活在数字世界之中,未来的人类社会活动和秩序,甚至有可能全部建立在虚拟的数码世界之中。
黑客帝国-母体-脸.jpg曾经有一部科幻小说里描绘,人类未来将进化到只剩下一个巨大的脑袋,插满各种天线和传感器,靠输送营养的管子维持生命,所有感官和精神世界,都只存在由字节和网络构成的虚拟世界之中,分不清真实和虚幻。
真实的未来远比《头号玩家》《黑客帝国》更为可怕。
文字、影像,这些信息载体是维持人类社会秩序的基石。而信息的真实度和可信度,完全能够决定整个社会的信任体系。
当文字和影像全部数字化之后,传播更方便的同时,伪造篡改也更加容易和难以察觉。
未来当我们的社会活动完全建立在虚拟数码世界的时候,如果很轻松就可以换脸、换景、换物,你还能分得清什么是“真实”么?也许有一天,我们甚至已经无法判断自己“身处”的世界是否“真实”,我们是否只是活在《黑客帝国》一般的母体之中?
如果这是我们不可逃避的未来,那么人类社会几千年来,依赖视觉的信息识别体系将会彻底崩塌,在谁都可以换脸、不知道什么可信的未来,社会信任体系又将会如何重构呢?
防伪识别技术将是构建未来社会的基础
如果今天的ZAO只是引发我们对于隐私泄露的担心,害怕有一天自己会“丢脸”,那么其实你大可不必烦恼,因为未来生活在虚拟世界的人们,“丢脸”将会是不可避免的。
但即便知道自己只是生活在“母体”之中,我们也会希望确保仅在母体范围内的“眼见为实”。
因此可以预见,图像、视频的真实性校验和防篡改,将成为未来整个“母体社会”最重要的底层保障技术。提供这种技术,并制定相关规范的组织,将代替政府成为整个社会最有权力的最高阶层。与之对应的,研究破解这种技术,能够“换脸”而不被识破的“黑客”们,将会代表着另一个地下的黑暗世界(锡安?)
这看起来很科幻,但未来总是很真实。
AI换脸相关技术的前途
如果你正在学习或从事信息校验和防伪技术,恭喜你,您可能是未来最有前途的一群人!
如果说近几年“换脸”技术有什么特别有前途的应用方向,那肯定是游戏了。还记得《星际迷航》里面的“全息甲板”么?
如果你已经准备投身到这个领域,除了娱乐精神,最好还能有多一点对未来的思考。
网友评论