读人工智能时代与人类未来笔记10_虚假信息.png

1. 公司和国家

1.1. 网络平台是基于各个公司、工程师和客户试图解决的问题应运而生的

1.1.1. 他们将买家和卖家、询问者和信息提供者，以及拥有共同利益或目标的群体联系起来

1.1.2. 他们部署人工智能是为了改善（或者说更多地实现）他们的服务，并增强他们满足用户（有时是政府）期望的能力

1.1.3. 随着网络平台的不断成长和发展，一些平台在不经意间对社会活动和各行各业的影响已远远超出了它们的初衷

1.2. 访问这些个人数据的权限所带来的发展变化，将网络平台、运营商及其所使用的人工智能置于具有社会和政治影响力的全新地位之上

1.2.1. 一个按照标准商业目标和用户需求运行的网络平台，实际上可能已经跨越了自身边界而进入了治理和国家战略的范畴

1.2.2. 传统政府可能很难辨别这个平台的动机和策略，即使它们试图根据自身的国家和全球目标对平台进行调整

1.3. 社交媒体在传递和调控政治信息和虚假信息方面的最新作用表明，一些网络平台已经承担的职能如此重要，甚至可能影响国家治理的实施

1.3.1. 每个圈子都有自己的语言、组织结构、激励原则和核心价值观

1.3.2. 虽然社交媒体平台（及其人工智能）通常表示自己是内容中立的，但它们的社区标准，还有它们对信息的过滤和呈现，都会影响信息创建、汇聚和感知的方式

1.3.3. 由于人工智能的工作是推荐内容和连接、对信息和概念进行分类，以及预测用户的偏好和目标，它可能在不经意间强化特定的个人、群体或社会选择

1.3.3.1. 它可能会鼓励传播某类信息和形成某类连接，而阻碍其他的传播和形成

1.3.4. 个人用户和群体每天都在无数的互动中快速而大规模地相互影响，特别是在受到复杂的、人工智能推动建议的影响时，因此，运营商也可能无法清楚地了解实时发生的情况

1.4. 人工智能根据自己的过程来运行，它不同于人类的思维过程，而且往往比后者更快，这一事实又平添了另一重复杂性

1.4.1. 产生的结果和答案不具备典型的人类特征，且在很大程度上独立于国家或企业文化

1.4.2. 数字世界的全球性，以及人工智能在全球网络平台上对信息进行监控、屏蔽、裁剪、制作和分发的能力，又将这些复杂性引入了不同社会的“信息空间”

1.5. 如果政府鼓励平台标记或屏蔽某些内容，或者要求人工智能识别和下调有偏见或“虚假”的信息，这些决定可能会作为具有独特广度和影响力的社会政策推动力而产生有效作用

1.5.1. 选择的任何一种做法都肯定会产生比以往任何法律或政策决定大得多的影响，可能对处在许多政府管辖范围内的数百万或数十亿用户的日常生活产生立竿见影的影响

1.6. 网络平台和政府领域的交集将产生不可预测的、在某些情况下极具争议的结果

1.6.1. 相比明确的结果，我们更有可能陷入一系列不完美答案造成的两难困境

2. 网络平台和虚假信息

2.1. 长期以来，新思想和新趋势都是国界无法阻挡的，包括那些带有明显恶意的思想

2.1.1. 这种渗透从未达到如今这般规模

2.2. 虽然各国在防止故意散布的恶意虚假信息鼓动社会趋势和煽动政治事件的重要性方面有广泛的共识，但要实际做到这一点却不容易，也难言有多么成功

2.2.1. 未来的“进攻方”和“防御方”，包括虚假信息的传播和打击虚假信息的努力，都将变得越来越自动化，并由人工智能代劳

2.3. 语言生成式人工智能GPT-3已经展示了创造合成人格的能力，人类可以利用它们产生具有仇恨言论特征的语言，并与人类用户进行对话，以灌输偏见，甚至怂恿他们使用暴力

2.3.1. 如果这样的人工智能被用来大规模传播仇恨和分裂，单凭人类可能对此束手无策

2.3.2. 即使对最老练的政府和网络平台运营商来说，通过个人调查和决定对其所有内容加以手动识别和禁止的做法也将是难以应付的挑战

2.3.3. 不得不寻求内容审核人工智能算法的帮助

2.4. 如果问题的解决方案又依赖人工智能，那就会产生对自身的批判问题

2.4.1. 对于人类判断和人工智能驱动自动化这两者之间的适当平衡，我们仍需加以斟酌

2.5. 随着传播虚假信息的工具变得越发强大和自动化，界定和清除虚假信息的过程正成为一项日益重要的社会和政治职能

2.5.1. 对私营企业和民主政府来说，这一职能给社会和文化现象的转变带来的影响程度之大、责任之重，不仅非同一般，而且往往是意想不到的

2.5.2. 一些人倾向于把这项任务交给一个似乎不受人类偏见影响的技术过程，也就是一个具有识别虚假信息和谎言，并且阻止其传播的目标函数的人工智能

2.6. 当一条信息的突显或传播受到限制，以至它的存在实际上被否定时，我们就进入了一种审查状态

2.6.1. 如果反虚假信息人工智能犯了一个错误，清除的不是恶意虚假信息，而是真实内容，我们该如何查明？

2.6.2. 训练防御性人工智能对抗客观（或主观）谎言标准的能力，以及监控该人工智能运作的能力（如果可以开发），将成为一种重要的具有影响力的职能，足以与传统上由政府扮演的角色相抗衡

2.6.3. 人工智能的目标函数、训练参数和虚假定义在设计上的微小差异，可能会导致社会的不同改变

2.6.4. 随着网络平台利用人工智能为数十亿人提供服务，这些问题也变得越发关键

2.7. 在不久的将来，还有更复杂的地缘政治和监管难题等待着我们

3. TikTok

3.1. 一个人工智能赋能的网络平台，用于创作和分享各种创意短视频

3.1.1. TikTok的用户可以用他们的智能手机拍摄和发布视频，数百万用户则乐于观看

3.1.2. TikTok最初在中国开发，并在全球范围内流行起来，它既不创建内容，似乎也没有设置宽泛的限制

3.1.3. 除了限制视频的时间，以及禁止“错误信息”“暴力极端主义”和某些类型的图片内容

3.2. TikTok的人工智能辅助镜头对这个世界的记录特点不过是奇思怪想罢了，其内容主要是各种令人忍俊不禁的舞蹈、笑话和罕见技能展示的短视频片段

3.3. 展开的国际政治和监管辩论，让人们提前意外地窥见了依赖人工智能进行通信时可能出现的挑战，特别是当这种人工智能是由一个国家开发却被另一个国家的公民使用时

3.3.1. 美国还强制将TikTok的美国业务出售给一家有资格在美国国内持有用户数据的美国公司，以防止这些数据流到中国

3.3.2. 作为回应，中国采取行动禁止输出支持内容推荐算法的代码，这是TikTok实现其效能和用户吸引力的核心所在

4. 政府和地区

4.1. 网络平台不仅给单个国家带来了新的文化和地缘政治难题，考虑到这种技术的天然无边界性，它对各国政府以及更广泛地区之间的关系也有同等影响

4.1.1. 全球对人才的需求量太大，大多数服务的本地市场又太小，产品成本和服务成本太高，无法维持每个网络平台在本地的独立版本

4.1.2. 技术变革的步伐太快了，而具有相关知识储备的程序员、工程师，以及产品设计和开发专业人员的数量太少了，无法做到如此广泛的覆盖

4.1.3. 要想站在技术发展的最前沿，就需要智力和金融资本，这不仅是大多数公司不具备的，也是大多数政府无意或无法提供的

4.2. 许多用户也不愿意被限制在一个只能容纳他们本国同胞，以及他们自己生产的软件产品和创作内容的网络平台上

4.3. 积极网络效应将倾向于只青睐少数市场参与者，也就是在其特定产品或服务的技术方面和市场之中处于领先地位的那些佼佼者

4.4. 许多国家不仅现在，将来也可能会无限期地依赖在其他国家设计和托管的网络平台

4.4.1. 至少在一定程度上，它们也可能继续受制于其他国家的监管机构，以获取这些平台持续的访问权、关键输入和国际更新

4.5. 许多国家和政府将有动机保证来自其他国家的人工智能驱动在线服务持续运行，因为这些服务已经融入它们社会的各个基本方面

4.5.1. 这一目标实现的形式可能是规范网络平台的所有者或运营商，制定运营要求，或者管理其人工智能的培训

4.5.2. 政府可能会坚持要求开发人员采取措施，以避免某些形式的偏见或解决特定的道德困境

4.6. 公众人物可能会成功地利用网络平台及其人工智能，为他们的内容获得更大的曝光度，使他们能够接触更多的受众

4.7. 独立做出并执行此类认定的权力现在由一些公司掌握，几乎没有民主政府可以拥有这些公司所拥有的权力

4.7.1. 大多数人认为私营公司不应该拥有这种程度的权力和掌控力，但将这些权力让渡给政府机构几乎同样是个问题，因为我们已经超越了传统政策手段的界限

4.7.2. 当涉及网络平台时，这种评估和决策的必要性近年来迅速涌现，却又带着十足的偶然性，让用户、政府和公司都感到惊讶不已