起因是一个朋友跟我聊，AI机器人的出现会对社会产生的影响，例如男女更独立，可能AI机器人比另一半更适合人类等等。
我是观点是现在远没到那个技术的。服务于个人的，可以帮你做事的AI机器人，和现在的ChatGPT还是有不少差别的。例如需要记忆，每天的经历，接受的信息进行存储。需要根据记忆重新训练模型，不断优化，让机器人更定制化等等。
而且让机器人可操作其实是有危险的，你问ChatGPT问题，他可能给你离谱的答案的，说明你让机器人做什么事情，他也可能瞎操作的，现在的算法还没法消除这种意外的。
然后开始脑洞：如果要设计一款这样的机器人，应该是怎样的？
- 需要设计一个复杂的系统，由核心模型+安全模型+记忆存储+执行系统组成。
2.1. 核心模型类似ChatGPT，但比其复杂多很多，分为训练部分和现有模型部分。训练部分不会一直运行，但遇到难题时候深度思考的状态下，即时更新新数据重新训练模型，保证模型训练数据实时更新。根据外接对现有模型的反馈，确定是否重新训练。平常的运行只用到现有模型部分。
2.2. 现有模型需要有可设定部分，例如人格设置，人设，可人工编辑，但需要联网验证编辑者，验证编辑的信息的安全性。所有的人工改动都需要谨慎处理，联网验证。
3.1. 安全模型，所有的动作执行前，需要核心模型提交请求给安全模型，通过了再给到执行系统。
3.2. 安全模型单独训练，支持人类干预，输入指定命令。例如机器人不能伤害人类，不能做对人类有危险的行为，不能干扰安全模型，不能自我断电等等。
4.1. 记忆存储，分为隐性和显性记忆。
4.2. 隐性记忆，是解决数据冗余问题，每天需要花时间筛选超过一个月的数据，有用数据保持显性，没用数据丢进隐性里。每天筛选数据的过程类似人类睡觉。
4.3. 显性记忆，根据时间越近权重越高，还有根据事情关联度越高权重越高，也就是权重不是单一维度，是每个信息节点跟其他信息的权重都是独立的权重。
网友评论