第二部分：什么是思想？
一、思想的概念
思想，是客观存在反映在人的意识中经过思维活动而产生的结果，是人类一切行为的基础。
二、形成“思想”的要素
（一）必须有一个具有思维能力的主体。
1.思维主体的范围
我们轻松回答是人，但是未来的计算机或机器人等智能机器具有人的或超过人的思维能力看来已经不是梦了。可是，人虽有法律和道德的约束，尚且不时地冲突、自相残杀，计算机、机器人的思想该如何约束呢？另外，猫、狗、狮子这些动物一旦被植入芯片具有语言能力和人的思维能力，该怎么办呢？
有人说靠人控制这些智能机器的编程来掌控智能机器，可是，一旦编程掌握在阴谋家的手中怎么办？或者，计算机、机器人一旦有了自我思维能力突破人的掌控，该怎么办呢？
2.思维主体之忧——我恐惧！
美剧《疑犯追踪》就是对这种担忧的反映。
911恐怖袭击之后的美国政府利用一台人工智能机器无时无刻地监视民众的生活，它从收集来的信息中筛选出危险的信息，对国家安全造成威胁的信息提交给政府，而剩下的危险信息则属于会被删除的“无关信息”。这些“无关信息”中出现的人，是即将受到侵害的受害者。
机器的发明者无法忍受这些“无关信息”的人在自己的注视下死亡，他组织了一个团队来拯救这些“无关信息者”。
可是，机器毕竟不是人，它不能依靠道德和法律来进行判断，它自己本身就是法律。如果有一天在它的评估下，全人类都是需要铲除的危险对象，怎么办呢？
例如有一集，美国政府内部另外一套人工智能“探索者”认为有4位小伙子，可能会发动恐怖袭击。美国政府毫不留情地干掉了他们，但“拯救者团队”却发现政府杀错了。
即便是认为政府本着“宁肯错杀一千，不能放过一个”的原则去保护国家安全这无可厚非，但是完全依赖一个人工智能的判断这样真的可以吗？而“宁肯错杀一千，不能放过一个”本身就违背正义原则、超越法律规定，如果“不能放过一个”的雪球会越滚越大，我们每个人都会存在被错杀的机会。
《疑犯追踪》中最了解、最恐惧这台机器的人就是机器的发明者，当他发现机器企图获得自主意识的时候，便毫不留情地每天午夜删除它的记忆，以此遏制它的成长。他不是不心疼，但他太明白这台机器的无限性，也知道人的局限性。唯有将机器的权限控制在人可以操控的范围之内，上帝才不会变成魔鬼。
可是，如果这个机器的发明者是个阴谋家怎么办？他可是具有掌控国家和个人生命的能力啊！
而剧中出现的另外一台人工智能机器——“撒马利亚人”，它的掌控者就是一位阴谋家，在他看来人类只是一个个需要监管的物件，他不接受人的反抗，对反抗者毫不留情的予以铲除。
如何使人以外的思维主体建立自律意识，防止它们伤害或者毁灭人类？如何快速提高人的道德意识，使人的道德水准跟上科学快速提高的水平避免自我毁灭？——是未来哲学和科学共同面临的严重课题，我为之恐惧不已！
网友评论