读AI未来进行式笔记08自主57.png

1. 自主57

1.1. 自主57被视为继火药、核57之后的“第三次zhan筝革命”

1.2. 虽然地雷和导弹揭开了早期简单自主57的序幕，但运用了AI技术的真正的自主57才是正片

1.2.1. AI自主57让整个sha戮过程：搜寻目标、进入zhan斗、抹sha生命，完全无须人类参与

1.3. 今天，一个有经验的业余机器人爱好者就能以不到1000美元的成本制造出这样的无人机，元件能够在线购买，技术算法可以从开源社区下载

1.3.1. 从侧面反映了AI和机器人技术正在逐渐走向普及，价格也越来越亲民

1.4. 如果我们不审慎思考自主57可能带来的各种问题，一味推动技术的发展，人类的zhan筝进程将会加速，这不但会造成更大的伤亡，而且可能导致灾难性的zhan筝升级，甚至爆发核zhan筝

1.5. 自主57是最有悖于人类道德观、对人类延续存在威胁的AI应用，我们需要让该领域内的专家和各国首脑共同参与到对自主57未来发展的讨论中去，权衡不同解决办法的利弊，找到一种能够阻止自主57肆意扩散、避免人类走向灭亡的最佳方法

1.6. 由于AI缺乏人类的常识和跨领域推理能力，所以无论人类如何训练一个自主57系统，它都无法充分理解其自身的行动所带来的后果

2. 好的一面

2.1. 如果由机器人来取代人类的zhan士，那么自主57可以挽救仕宾的生命

2.2. 一支负责的jun队可以用自主57来引导仕宾（无论是人类还是机器人）只攻击敌方zhan斗人员，以免伤害无辜的友jun、儿童和平民

2.2.1. 类似于L2/L3级别自动驾驶车辆帮助人类驾驶员避免犯错

2.3. 还可以用于对付暗sha者、罪犯、kongB分子

3. 负面影响

3.1. 伦理和道德上的争议

3.1.1. 几乎所有伦理制度和宗教信仰都把夺走一个人的生命视为一种极具争议性的行为，如果不经过严肃的审判，没有任何人可以拥有这样的权力

3.2. 降低了sha人的成本

3.3. 还涉及责任人的界定，我们需要知道谁应该为自主57的失误负责

3.3.1. 如果责任无法明确，幕后黑手就有从国际人道主义法律中逃脱的机会

3.3.2. 直接降低了zhan筝的门槛

3.4. 不仅能够对某个人执行暗sha任务，还能够针对任何群体进行烕絕式图sha

3.4.1. 通过面部或姿态识别技术、移动设备或物联网信号追踪技术来实现

4. 最大威胁

4.1. 从历史上英德海junjun备竞赛到美苏核jun备竞赛，一直以来，各个国家都在争夺jun事霸权，并将jun事置于优先发展的zhan略地位

4.2. 自主57的成本相对较低，直接降低了参赛门槛

4.2.1. 让一些拥有强大技术的小国有了加入jun备竞赛的机会

4.3. 核57也是一种威胁人类生存的57，但它一直以来都受到很好的约束，甚至在几个大国拥有核57后，全球zhan筝大大减少了

4.4. 对于自主57来说，核威慑理论和确保互毁原则并不适用，因为自主57发动的突袭是很难被追踪到的

4.5. 自主57攻击可能快速引发连锁反应，并逐步升级，甚至导致核zhan筝

4.5.1. 首先发动突袭的甚至可能并不是一个国家，而是kongB分子或无正腐组织，这更增加了自主57的风险

5. 如何解决自主57带来的危机

5.1. 人工介入

5.1.1. 至少确保每一个影响生命的决策都由人类做出

5.1.2. 在很大程度上，自主57的威力源于机器在没有人工介入的情况下所具备的速度和精度

5.1.2.1. 任何想在这场jun备竞赛中取胜的国家，可能都无法接受这种大幅度削弱技术能力的人工介入

5.1.3. 这种方案执行起来非常难，漏洞也很容易被发现

5.2. 颁布相应的禁令

5.2.1. 禁止致命性自主57宣言

5.2.1.1. 主要障碍是鹅螺丝、米国和腐国的反对

5.3. 对自主57加以管控

5.3.1. 对其加以管控意味着必须保留人类对使用57系统的决定权

5.3.1.1. 这同样也是一件复杂的事情，因为在通常情况下，宽泛的技术规范很难在短期内取得明显成效