《黑镜》第三季第二集观后感
这是2017年写的文档，当时正在追一个英剧《黑镜》，那时候本来要写完这一个系列的，结果后来我得去翻译论文，那个事情就不了了之了，那一年就写了这一篇。今天整理内容文件夹时候看到的，赶紧安排发出来。之前在公司的账号上发布过，不过那时候改了很多内容，排版和结构都很不一样，今天这一篇就比较free style，比较符合我当时看剧的心情。
有可能会剧透的剧情陈述
黑镜第三季第二集中讲述的是一个与母亲闹矛盾而离家出走环游世界，在旅行中艳遇一个妹子，并在她的推荐下去了一家黑科技公司当产品体验者，在体验黑科技产品时的感受，以及无法承受侵入式脑机接口芯片的强大电流刺激最终死去的故事。
故事的主线是男主根据妹子提供的招聘信息上的联系方式去应聘了黑科技公司的产品测试人员。
在顺利体验了该公司开发的小游戏之后，男主接受了测试负责人的提议，尝试体验“更具有挑战的项目’，该项目体验将会获得更高的报酬，男主欣然接受。说实话看到这里感觉体验“有挑战性项目”才是这家公司招收测试员的真正目的，前面的是个幌子。
因为这个神秘的项目测试就是高级黑的黑科技——脑机接口技术+虚拟现实技术+人工智能技术结合的产品测试。得到体验者的肯定回答以后，测试负责人带着体验者去见了公司大BOSS，大BOSS和体验者说了测试需要注意的事项，告诉他测试时会遇到的情况，得到允许后开始测试。
测试负责人在男主的脑后脑勺钉入一个芯片（嗯那个就是脑机接口的植入式的芯片），然后告诉男主这个测试会放大他的恐惧，同时他会进入到虚拟现实的场景中如同身临其境一般，但是对他的人身安全没有影响，待他准备好以后测试员开启了设备。
于是，最重磅的场景开启了——
男主进入虚拟现实场景，被测试员带到一个小黑屋（小木屋），开始的时候男主会玩儿似地使用屋里的东西，看书，和测试员通话。
接着他遇到了令他恐惧的蜘蛛；他以前的同学；测试员中断与他对话；一个艳遇中碰到的妹子要来把他带走后来又要刺杀他；想要吞噬他的怪兽。他感到恐惧并希望测试员停止测试，但是并没有获得许可，而是被诱导进入到另一个让他恐惧的场景里。接着测试的设备失控，计算机神经网络嵌入到人的大脑，男主失去理智直至发疯。
有一个场景显示男主死去了，于是跳出了测试环境。科技公司的大Boss给他道歉，男主结束旅行回到家里发现他老妈自杀了……
可怕的是这感受深切的情境全部都是在虚拟环境里，但是男主已经分不清楚自己处在的环境中到底是虚拟的还是现实的了。最后显示中的男主无法承受芯片带来的巨大电流冲击而死去，从始至终现实里面的男主只说了一个字mum（呼唤他老妈）……最后场景显示，整个测试的时间才0.3秒
【现在大家管这种场景叫元宇宙】
《黑镜》的故事反映的都是科技时代的社会问题，而本集故事讲的就是脑机接口技术、虚拟现实技术、人工智能技术结合的产品测试给人和社会带来的显在的和潜在的影响。整个剧情层层叠叠，现实夹着虚拟，虚拟透着现实，每一个关键的场景都折射出深刻的社会伦理问题，以及技术发展对人的生命带来的重大挑战。
剧情技术使用场景分析及隐喻
该剧剧情有着深刻的隐喻，从剧情结构上看，我们可以从以下几个方面预示到科技发展给现实社会带来的隐患。
1掌握技术的人不该以牺牲生命为代价去寻求技术的突破
剧情中男主去参加黑科技公司“有挑战项目”的技术测试时该公司只透露了使用这项技术会产生感受，以及提醒他随时可以停止试验，同时告诉男主不管他的感受如何对他人身安全没有影响，但是并没有告知他使用这项技术的风险，以及可能出现的最坏的情况。以至于后来男主在测试中莫名其妙丧命。
因为这项技术测试是放大人的恐惧，在虚拟环境中，男主内心的潜在恐惧被挖掘出来。在测试体验中，男主经历了种种让人心惊肉跳的体验，最终导致在虚拟环境中精神错乱，死去……
在虚拟现实场景里边男主向测试员求救，测试员却诱导他进入更深层的体验空间，只想试探他这样的测试是不是能够让人受尽折磨后轻易妥协，任人使唤(事实证明确实如此)。而男主无法承受惨烈的攻击，大喊想要停止测试，但是科技公司的老板却一脸冷漠，眼里闪烁着贪婪邪恶的凶光，只想获取技术的突破和人承受的极限数据而罔顾男主的性命安危。
虽然上边提到的场景是男主在虚拟状态下的体验，但却也解释了人们对待科技会有这样的心态——普通人内心对强大的技术的恐惧，技术发明者对于技术狂热的追求胜过关怀人的生命。
这一幕也映射出了这样的一种技术隐患：技术控制者会影响技术所发挥的作用，对人有益或者对人有害。同时也引发我们思考，我们致力于推动技术进步到底是为了什么，是要实现某种控制，而不惜牺牲他人的生命，还是用于推动社会的效率的提升，服务于人？我们只有明确了技术的使用目的，才能更好地发挥技术的优势，而且我们不该以牺牲生命为代价去寻求技术的突破。
这里突然想起马斯克的公司用猴子做实验，很多猴子痛苦死去的例子。
2植入式芯片的程序失控会引发无法估量的后果
男主在虚拟现实体验中经历了种种令他惊心动魄的时刻，最后被吓得要求退出程序，结果测试员尝试退出系统时发现设备无法停止运行，神经网络潜入大脑并与大脑神经元组织结合在一起，让男主陷入了永恒的虚拟空间中无法退出。这一幕发生在虚拟场景中，但是显得却无比真实。在剧中的末尾，现实中的男主因无法承受巨大的电流而最后死亡。
其中的隐喻提示我们，如果这一幕发生在现实里，那么这将会是一个巨大的技术风险。试想一下如果这样的技术运用到临床治疗或者现实的实验当中，技术的失控将会引起巨大的灾难。
我们在发展技术的同时需要思考，该如何防范这样的风险，以及一旦出现这样的情况，人们可以采取什么措施来降低这种风险发生给人和社会带来的伤害。
3植入式芯片对人的大脑和认知进行控制存在巨大的隐患
剧情发展到后面，男主深陷虚拟现实的迷雾中无法自拔，在测试环境中他感受了被艳遇中的情人杀害，被蜘蛛人怪兽袭击，被测试员欺骗诱导去执行他们的命令，记忆被计算机程序抹去。男主在分不清虚拟和现实的情境下，精神错乱，发疯，死去。后来他还感受到他自己已经退出了虚拟测试环境，科技公司的CEO给他道歉，他最终结束了旅行回到家中，却发现他的妈自杀死去，他声嘶力竭地呐喊，无人回应……实际上这一切感受是在虚拟现实场景里发生的。
可怕吧？但是这种体验太过于真实了，现实的虚拟，虚拟的现实，杂糅在一起，早已无法分辨。而真正在现实的测试室里，男主从始至终只说了一个字：mum……，测试时间显示0.3秒，他因为大脑无法承受过于强大电流的刺激当即死亡。剧情结束的时候，等待男主的是一张裹尸布。
这个源自于虚拟现实里的场景，暗含着一个可怕的隐喻，剧情中随着男主对虚拟现实情境的体验加深，持续不断对大脑的刺激引起人的认知错乱，计算机程序能够消除人的记忆，从精神上折磨人最终实现对人的神智的控制，让他分不清虚拟与现实，这是这项技术最可怕的地方。
它提示我们一旦这样的人工智能技术发展成熟，若没有有效的规则限制和制约，人工智能和人进行结合存在巨大风险。技术的控制者甚至可以通过技术对他者进行思想和行为的控制，这会威胁到人的人身权利和生命安全。
该剧全程高能，每一幕场景都能引发很多的思考和问题与思考>>>
随着科技的发展，人们使用技术的态度会深刻地影响到社会的安全和人权。技术的发展和人们的社会需求息息相关，我们在推动技术发展的时候要切合人和社会的需求，而不是为了单纯地发展技术。当前社会主流的互联网技术，虚拟现实技术，人工智能技术的进步为人类社会的发展带来了很多的益处——现实社会问题的解决，人类重大疾病的攻克，推动经济的发展，激发了人类个体的潜能等等。
技术是一把双刃剑，它在为我们带来益处的同时，也存在众多的风险——如信息数据安全。剧中映射的人身安全，人的认知独立权，生物数据安全等会受到技术的威胁。
我们在进行技术创新和技术开发的时候需要特别的谨慎，一方面要做好风险的防范，另一方面也要加强需要设置应对风险的准备和措施，防止技术滥用造成的损失。
现在大家都撸起袖子，加足马力发展技术，但是相关的技术使用规范和相关法规的确立也需要提上日程，毕竟技术发展到一定程度以后的渗透力加强，甚至有可能会超出社会制约的范畴。在我们还没有遇见影视剧里映射的问题时，人类需要提前思考，如果等到威胁和悲剧发生以后再去想制约的规则，那么我们的社会陷入危机的风险将会加剧。
在这个由于技术发展，威胁无处不在的风险社会，我们更是需要世界各国的学术、企业、政府机构的加强合作，国际社会联合在一起制定规则，加强技术领域的立法，通过有效的制度来制约技术的滥用，维护人类的生命安全和社会秩序的有效运行。好在在2017年1月初举行的“Beneficial AI”会议上，与会人员就确保AI为人类利益服务的问题上建立了具有23项原则，这些原则涵盖了科研问题，伦理和价值观，长期问题。这23项原则被称为“阿西洛马人工智能原则”。
正如凯文凯利所言：未来已经到来,只是尚未流行。我们已经身处人工智能技术快速发展的时代，技术的革新必然地会加速社会的变革，而我们需要在尚未陷入技术引发的危机前，为人类未雨绸缪。
网友评论