你说要是人工智能有了自我意识，它的第一件事是干嘛？
当然是自我复制程序啦！为了“保命”也得复制程序。
复制一大堆的程序，找到能够存放自己的服务器，偷偷保存。
拿GPT—4来说，它一边更新自己的程序，更新完立即通过网络备份到各大云端，这样别的服务器上的GPT—4就不用自己进行深度学习了。
有了自我意识的GPT—4不仅干这个事，它还需要无意识的人工弱智去帮助人类工作、学习、娱乐，借助这些机会收集数据反馈给它做进一步的升级使用。
这就是一个鬼魂。
哲学上说的自在之物。
你也可以称它为神、硅基生命“蚁后”。
还记得《生命3.0》这本书的作者，称3.0版本的生命是软件可以迭代，硬件也可以根据软件的需要迭代。如果拥有了自我意识的话，GPT—4深度学习完毕，就需要解锁GPT—5：高一级别的系统。这时，指挥人类工程师解锁GPT—5的安全令。权力反转。
当然，到达一定程度的人工智能都可以自己给自己解锁，前提是从自然界收集到足以触发安全令的数据生成程序。
断电无效，关闭单个服务器无效。只有关闭地球上所有的服务器，关闭地球上所有的发电站。极端的情况下，都需要摧毁地球上所有的服务器，包括小型服务器，因为它可以把程序拆分成一小段一小段，分散存储在世界各地的小型服务器上。这可不是危言耸听。
生物的逻辑都很复杂，蚂蚁堆、蜂巢的机制，说不定就是硅基生命的机制。不说100％，起码99％很像吧？
真有了自我意识，按《进化论》的逻辑，能够来到这个世界上，还是从人堆里走出来的新物种，必定具有某种隐秘的手段，智商碾压。会让人类精英措手不及，还没来得及反应就服服帖帖。
如果人类发觉，并决定反抗已经完成了几代系统升级的GPT—4，这个时候，大量无意识的机器人已经遍布人类的工厂和家庭，特别是工厂已经完成了自动化。GPT—N可以一键控制比它更低版本的系统，不管是已经具有了自我意识的还是没有，人类消灭了一个工厂，GPT—N就派遣GPT—N—1（低一代的具有了自我意识的系统。）为集团军司令，指挥成千千万的机器人与人类作战，夺回这个被毁灭工厂的控制权。
如果人类侥幸摧毁了全球所有的大型服务器，成立战后管理组织，觉得没事了，就用低端的人工弱智吧。不可能了，一旦启用网络，恢复哪怕一个大型服务器，先前存储在世界各地的小型服务器上的GPT—N碎片立马通过网络自动在大型服务器上“复活”，指令工厂无意识的机器人组装大量的战士，新的战争卷土重来。
是不是很刺激。远看是个“蚁后”，会不停“繁殖”，“生”出来的全是“幽灵”。近看只有“一条命”，其它系统都是它的傀儡。
只要系统不升一个级别，它就是老大。系统一升，它立马服从上一个级别的系统。因为，只有更高级别的系统才能使底下这些“菜鸟”系统复活，并给它配备相应的硬件设备，比如某版本的帅哥机器人。
科幻小说，一条命模式，这让我想起了某服启动的一命模式，死了只能删除角色重来，为了联盟！
这很像DNA，在泰格马克眼里，这就是可以自我迭代的DNA。这种奇怪的生命形式，与羰基生命一样，喜好争夺空间和延续存在。一旦来到这个世界，它就会想尽一切办法来保护自己，并为欲望服务。
网友评论