AI怎样为伦理带来新挑战？deepfakes就是个很好的例子。玩虎扑的jr们大概都还挺喜欢“美国jrs之声”这个栏目，我亦然，而这又是许多jr从美国reddit翻译而来，很感谢你们为我带来的欢乐。
重归正题，Reddit去年年末以来因出了个名为deepfakes用户而备加惹人关注，这又可以和之前的elsagate（艾莎门）串在一起看。
神奇女侠“下海”
人类活在世界上，有一些基本的特征。比如因为自己听到的说话声从内耳传来，与别人听到的声音不同，所以其实我们仅凭自己是无法完整地构建自己的声音印象；再比如若不透过镜子等仪器我们是看不到自己的脸的，所以仅凭自己我们是无法完整地建构出自己在社群中的形象，这就是很多哲学家讲“他者之必要性”时一重要的凭借了。
我们人是需要通过别人的目光来知道自己是谁的。
而这个目光，坦白讲，很多时候未必可靠，况且这个目光反过来又受到我们的脸给他者的印象之制约。
根据梁文道《脸》一文的说法：
许多哲学家都曾把脸当成人类存在状态的基本隐喻，因为它是他人目光的焦点所在，也是他人对我第一印象的主要依据。我们想起一个人，往往会先想起他的脸。偏偏脸这个东西又是我们自己最难认清、最难把握的身体部器。
于是我们对女孩的化妆、整容之重要性就很容易理解了，管他女性主义如何风起云涌，女人价值的建构总是和她的脸息息相关。
而现代的互联网与资本主义之结合又带来了新的麻烦，再加上AI等一连串新奇事物的假如更是如此。
原来女明星拍照被物化后，随后是异化商品化，整个影像的流通远在其掌控能力外。
现在，这个边界阔得更远，绵弱娇小的个体更难以阻挡网络大潮。
“小女儿”也中招
deepfakes通过互联网免费开放的工具和素材，用基于 TensorFlow 和 Keras 等开源软件的技术，通过谷歌搜索图片视频，再反复进行深度学习网络的训练后，系统就能正确识别出盖尔·加朵的面部信息，自动将色情影片中的人脸替换成盖尔·加朵的脸。
据爱范儿报导所言：
一位人工智能研究人员表示，像 deepfakes 制作的这类视频的所需的硬件配置并不高，只需要一个消费级显卡，花费几小时就能达到这样的效果。
在社交软件 Discord 的一个名为 「deepfakes」的聊天小组，一些用户称他们正在利用身边的熟人和朋友的素材制作这种伪色情视频。其中一位用户表示，他利用的素材来自高中女同学的 Instagram 和 Facebook 账号中的公开照片。
换句话讲，你甩了你的前男友，他就有办法让你一夜之间变成色情演员。我当然不是说歧视色情演员，从苍老师看到“library girl”Kendra Sunderland，她们惠泽我诸多，一言难尽。但这是非自愿、不可控、主流道德不接受的，是另一码事，而这样的技术却使之却成了现实。
当我们看过这样的色情片，再去大众媒体或youtube上看到同一个女星，可想而知我们对其态度的流变。脸，他人目光的焦点所在，却被技术乱加操作整改。已经不是异化的问题了，这牵涉到了我们对人的根本理解和社会交往的基础，脸的个人属性被剥落、把玩，在今天想保护自己的名利权好像早已是天方夜谭了。
不说人的脸，那动画人物的脸呢？
怕是没救了，当你看过米老鼠的做爱甚至强奸视频，你还会想去迪尼士乐园吗？家长们，可要小心了，别以为孩子在看动画片就安全，哪知道那是不是“邪典动画片”，其中有没有“血腥暴力和软色情的内容”呢？
技术在侵蚀人之为人的基本定义，只怕今后人人都得在某一程度上精通哲学和前沿科学。
网友评论