「1397」
上一篇《放屁GPT》太过仓促，但这篇更仓促。尝试了下组织成文，放弃，一是时间不够，二来干脆以这种思维碎片+资料咀嚼堆积的方式，比正常行文更接近AI的训练模式。如此一来，前后矛盾、语焉不详、迭代幻觉都不是问题了，至少不是AI维度下的问题了。好，继续放屁。
1、非以AI替代人的能力，而以AI倍增人的能力。但会用的人和不会用的人的差距将急蘧扩大。
2、GPT的进化速度非人类学习速度可比。
我2019年得知GPT-2，说是它通过1小时学习，就可以写出《纽约客》水准的文章。再听到GPT，已是21-22年，得到《万维钢精英日课》和《卓克科技参考》两个专栏里，讲GPT-3，OpenAI官网开放测试后我努力尝试过，历经艰辛，上去后感觉中文对话能力不如预期，又闲置了（悲哀我显然是不会用的那一类），很快3.5来了，眨眼4又来了，5已经在路上了，678910呢（或许会叫别的名字），也不会远的。
现正训练的GPT-5，已被认为肯定可以通过图灵测试。
3、OpenAI的GPT-1到现在已出的GPT-4，间隔时段以指数级缩小，所以，做好思想准备吧，
在上一次AI奇点大讨论时（好像是2016-17年间，2016年AlphaGo战胜李世石，2017年《未来简史》出版），很多人认为有生之年看不到强人工智能（当时是这叫法吗？不太确定了）——总之类似目前AGI（通用人工智能，至少达到人的水平，且什么任务都可以干的智能）的到来，但是，据说OpenAI已经规划好了路线图，有可能2025-2026年，AGI就会到来。
2月24日，OpenAI发布了一则声明，“对AGI及以后的规划（Planning for AGI and beyond）”，表达一种忧患——忧患人类怎么接受AGI。其中隐含意思是，通往AGI的技术已经具备，但是为了让人类有个适应过程，OpenAI正在刻意压着，尽量慢点出。声明中说：“我们希望就三个关键问题进行全球对话：如何管理这些系统，如何公平分配它们产生的利益，以及如何公平分享使用权。”
4、如果将来我们都不得不从AI上获取各种问题的最佳答案，那么，人类的思维是否就算被AI挟持、控制了？
如果它错了，或者它选择将错误信息供给我们，怎么办？
5、让AI去造去疯狂进化吧，我不屑也没必要和它竞争，我自有它用无法具备的禀赋。
6、虽然它有时胡说八道而不自知，但这可不能说明它无知。人类的胡说八道远胜于他。
7、英文资源优势。世界语言一统更像是趋势了。
8、目前AI的原理——通过机器学习训练的神经网络系统，分输入层、很多中间层和输出层。使用AI神经网络分为「训练」和「推理」两部分。
一个未经训练的AI是没用的，它只有搭建好的网路结构和海量参数。你需要把大量的素材喂给它进行训练，每个素材进来，网络过一遍，各个参数的权重进行一遍调整。直到把所有参数固定下来，模型就炼制完成了。你就可以用它对各种新的局面进行推理，形成输出。AI模型参数的增长速度已经超出了摩尔定律。
9、现在几种最流行的神经网络算法：
「监督学习（supervised learning）」，采用这种方式的AI刚刚发现了人类无法发现的广谱抗生素Halicin。
「无监督学习（unsupervised learning）」，比如淘宝、抖音们推荐商品和内容的算法。
「强化学习（reinforcement learning）」，比如棋王AlphaZero，自动驾驶。
「生成性神经网络（generative neural networks）」，GPT全称是「生成式预训练变换器（Generative Pre-trained Transformer）」，就是基于transformer架构的、经过预训练的、生成性的模型。
GPT从单一文字输入信息接收进化成多模态能力，可以接受图像、视频、声音输入并理解其内容。
10、上面讲到的Halicin抗生素的发现，其理论是人类科学家所未理解的。
AlphaZero也是，完全不用人类棋手的棋谱，通过与自己对弈学会了围棋，然后轻松打败所有人类。它经常会走一些人类棋手认为匪夷所思的走法。
当代AI的「恐怖」之处在于，它能找到人类认知范围之外的解决方案。
11、AI找到了人类没有找到——且不知道能否找到——的规律，并已经用这些规律开始解决问题，开始进行科研突破。
12、神经网络本质上只是一大堆参数，不可理解性可以说是AI的本质特征。事实是连OpenAI的研究者也搞不清ChatGPT为什么这么好用。
它就像一个黑盒子，吞食一大堆数据之后突然就会了。关键是它不像人类会吹牛，它说会就是真的会，而我们不知道它究竟是怎么会的。
13、我们已经开始使用自己无法理解但确实有效的规律。这会带来无法估量的潜在风险，随意举一个，金融市场。
金融市场已经在使用高频交易的AI策略，这在未来是否会引发金融危机、市场奔溃，我认为答案几乎是一定的，而未来由这些交易策略构建起的整个市场的复杂系统，是人类不理解更无法控制的，那么，我们要如何面对那样的危机。
还有医疗、疾病防控、交通安全、军事、科研等等领域呢？
14、它有一天会凌驾于他她之上，成为一个祂吗？
15、它能成神成佛吗？它会把神佛的智慧当回事吗？
它会有佛的慈悲心吗？
网友评论