【影评•The Social Dilemma】AI挑战了什么样的

【影评•The Social Dilemma】AI挑战了什么样的伦理底线？

AI 恐怕是七十岁的老人家心里嘴上，第一个从里到外认可的英语词汇。单从这一点来看，所有人不得不承认：AI 成功了，无论从产品上还是战略上。

一部智能手机，几个社交媒体账号，人们瞬间跻身为巨大的网络的一个节点，接受网络起伏波浪的推动的同时，贡献着自己作为全网一分子的小小涟漪。

有一群人，在他们曾经全身心参与日后令人尖叫，欲罢不能的产品之后，在收获了成功的骄傲之后，他们隐隐觉得好像什么地方出了问题。

他们绝不是再次头脑发热地突发奇想，他们以超乎寻常人的敏感，表示了别样的担心：

AI 的设计基于人们心理中趋于成瘾的弱点；                                                       
AI 有可能成为诱导并暗中修改人们思维，强化偏执的工具；                           
AI将会成为政治干预和扩散阴谋的工具；                                                           
AI 导致了更多的成人精神病以及青少年的自杀率上升

他们意识到原来的工作已经偏离了方向。出于伦理的考虑，他们相继离开原来的职位，转而关注技术伦理的话题。他们受邀摄制组的采访，从背后机制解释AI到底做了什么，阐述他们基于深层理解的担忧。

【影评•The Social Dilemma】AI挑战了什么样的伦理底线？

《The Social Dilemma 》于2020年九月在Netflix 公布，这部纪录片采访了许多炙手可热的科技和社交媒体公司的前雇员，有工程师，设计者，更不乏执行总裁，行业专家。他们在肯定AI 给人们带来的便利的同时，带来了一系列宽广维度的思考，而正因为他们曾经参与了核心应用和算法设计，才得以更加一针见血地指出刻不容缓的问题：AI 如同隐藏在人们兴奋之下的一股暗流，无形的巨手像一个缓慢流动的蓝色液体，悄无声息蔓延至生活的角角落落，不知不觉的侵蚀和控制上升到了思维的层面。

前谷歌工程师，致力于设计极具吸引力的颜色，按钮，界面，使用模式挽留用户，以获取广告的最长曝光时间。他解释用户在在线平台上的一举一动如何被记录，监视，追踪，分析，度量，社交媒体公司如何基于所有这些数据，使用易于使用户“上瘾”的操纵技术和心理诱导，增加用户在广告的停留时间，最终攫取广告的巨额利益。

最初旨在从客户的出发点设计应用的理念，诸如“人性化” ，“客户体验（user experience）”等，在忽略人文伦理考虑和金钱利益的诱惑下，走向了“技术成瘾”的不道德的另一面，很多工程师解释了AI在分析和设计类似应用中扮演的强大能力，更凸显了AI“不光彩”的角色。

Facebook 的“点赞（like）”按钮，宣扬“积极”鼓励的初衷被青春期孩子盲目追求同龄人的点赞所代替，在价值观建立的关键时期，家长的善意建议在与潮水般媒体的态度竞争中一度败北，无形中形成了两级分化：获得点赞的被视为酷，成功者，相反的则陷入自我否定，焦虑，失望，自残以及自杀的境地，在意同伴的看法随之导致物质享受追求，怪诞行为炫耀等等扭曲的价值观。数据显示，成年人和中学生伤害，自杀率成倍增长的时间与社交媒体进入人们生活的时间吻合。

使用虚假信息获利的商业模式在现代科技的帮助下变得轻而易举，变得在没有规范的约束下更加以最快的速度，最低的成本，向最终用户传递信息。所有被采访的工程师极其警觉地指出了AI以及AI 所构建的社交媒体在消息传播中所起的推波助澜的作用。“技术本身不是威胁所在，但是技术的强大能力可以给社会带来威胁，更可怕的是没有约束的技术的应用，实则是‘助纣为虐’的纵容”

被处理过的，部分事实的激进想法，政见分歧的影像，报道，评论，借助网络快速延伸进入人们视野。AI的预测能力被使用在预测个人好恶，试图在无孔不入的片段时间中，采用“讨好”的方法，不断强化某种观点，同时消弱不同声音，阻断听取不同意见的渠道和途径。诚如工程师所说，在看不见的影响，在感谢”投其所好“的便利中，利用非正面冲突，利用人性的弱点，不自觉更改意识（manipulate mind），这成为阴谋扩散和政治影响的最有效工具。一项数据表明，自从社交媒体出现，公众对政见分歧达到前所未有的高度，这是媒体推送”喜好“的又一杰作。

《The Social Dilemma 》设计了一家五口日常使用智能手机的片段：妈妈规定在饭桌上禁止使用手机，把全家人的手机锁在一个透明的塑料盒子里。年幼的小女儿禁不住不时提醒的消息的诱惑，使用锤子砸开了盒子。儿子本和妈妈约定，如果能够坚持一个星期不使用手机，妈妈将会付钱修复手机破损的屏幕。

小女儿把时间花费在摆拍自拍上，获得朋友点赞是她最期待的事；儿子本没有手机的日子，坐立不安，形同困兽，生活仿佛失去了意义。在第三天，他终究抵挡不住手机的诱惑，和心仪的女孩互动，上网跟踪一个激进组织的动态，出于好奇，只身前往游行现场，在冲突中被警察被捕，连累试图救助他的姐姐。

在本的每一次点击查询浏览中，导演设计了画外场景，所有点击的数据均被收集分析，用来作为预测下一步行为，语言，甚至一个情绪图标的发送。屏幕之后，AI所做的事情犹如三个聪明的工程师在操纵一个置于舞台上聚光灯下的提线傀儡木偶，数据流的汇集成变成了无数最最细微的蓝色线条，成为牵制本的手脚，控制本的头脑的千丝万缕。

没有丝毫夸大的场景，得以让生活中的每个人，站在局外，清楚看到人们在日常生活中，如何严重依赖手机，又是如何一步一步被手机引导，控制而走向看似不可思议的结局。

原子的裂变可以成为强有力的动力造福人类，也可以制造人类历史上的惨案；新兴的AI，帮助人们生活便利的同时，也在以强有力的绝对优势挑战人类的伦理。

好在，有时代责任感的导演愿意挑战这样的话题，有良知，善思考的工程师愿意反戈一击，以专家的身份帮助人们重新思考！

【影评•The Social Dilemma】AI挑战了什么样的伦理底线？