AI vs. 人类：两种未来

今天来聊聊AI，人工智能。

关于人工智能对世界未来到底有何影响，这些年来一直就没有消停过。持乐观态度的一派，比如说比尔盖茨，以及最近比较火的李飞飞，还有DeepMind的创始人Demis Hassabis，都认为当前的AI ，其本质还是一种先进的生产和管理工具，不具备自主意识，仍然需要由我们人类来掌控。当然咯，他们也不是瞎子，也注意到了人工智能在人类社会各个领域的巨大竞争力和影响力。不过呢，他们认为其风险是可控的，而我们人类要做的，是加强对它的监管和技术约束以及伦理设计，完全不需要恐慌。在他们看来，人类的未来不仅不会被AI替代，而是会被变得越来越好，将来我们可以让AI去出事繁琐和重复性的劳动，而我们人类可以有更多的精力和时间来专注于创造，艺术，判断和哲学思考。

从另一个方面，持悲观态度一方也不乏大佬级的人物。比如说诺贝尔奖得主，AI教父Geoffrey Hinton，他公开警告AI的风险性，担心将来AI会被用于虚假信息和舆论操控。他的核心观点是，AI的技术发展速度太快，我们人类的安全措施完全跟不上。而且更危险的是，未来的人工智能可能远比人类聪明，从而我们将难以控制。当今世界首富马斯克同学也多次表示， AI 可能是“人类文明面临的最大风险之一”。他甚至曾把AI比作“召唤恶魔”，主张现在就需要加强监管，并提前设立安全框架。他还指出，一旦AI的能力超出了人类的控制，很可能会给我们带来灾难性的后果。

究竟谁对谁错我们暂且放在一边，我们先来聊聊AI的力量，相信这一点每个人都看在眼里。人工智能的发展，从计算机的问世，到击败卡斯帕罗夫的深蓝，再到AlphaGO，自动驾驶，ChatGPT，以及现在无处不在的各类AI应用，也就短短几十年的时间。在俺这个贫下中农看来，不管是记忆力，分析能力，以及创新能力，AI都已经远远地超越了人类。而AI最让我敬佩的，也是让我恐惧的地方，是它那无与伦比的学习能力。为什么这样说呢？这是因为AI的学习能力和人类相比，丝毫不夸张地说，那是超出了好几个纬度。

首先来看看我们人类的学习途径，那是一个相当长期的过程，从中小学教育到大学以及研究生的培养，需要十几年甚至二十几年的积累。这里面有记忆，有理解，有不断的练习和实践，最后才有可能成长为一个合格的专业人员。而AI呢，这个过程可以是短短的几个月，甚至是几天。而且更可怕的是，AI的学习能力和经验积累是有同享性的，一旦一个AI终端掌握了某一项特殊技能，它可以在一秒钟之内，让同类型的所有终端掌握同样的技能。这一点在我看来，对于我们人类完全是降维打击。我们今天看到的AI，用短短的几十年时间就掌握了我们人类一万年的知识和技术积累。但是，有一点细思恐极，那就是AI的发展并没有就此打住，它还在一天24小时，一年365天，不间断地学习和进化。如果再给它几十年时间发展，它会不会超越并领先我们一万年？

其实人工智能还有一个很多人没有考虑到的优势，那就是它完全没有人类社会所特有的相互猜忌和内耗。那些诸如囚徒困境之类的制约性社会平衡，在人工智能的彻底信息分享和体系网络化之下，没有任何存在的意义。也就是说，在社会合作和分工的层面，相对于人类社会，其优势是革命性的。

现在大家都在比拼，看谁更会使用AI，能够更好利用它的能力来帮自己赚钱，帮助自己更快更好地完全本职工作。在我看来，这是一把双刃剑，当我们更多地使用AI，我们必然会灌输给它更多的信息和理念。当我们给它更多的权限来帮助我们的同时，我们其实就是在赋予它更多的能力，给了它更大的权限，并且在不断开发它尚未觉醒的自主权。比如说，最近在美国对伊朗的空中打击和斩首行动，AI武器已经威风八面，大放异彩了，和科幻电影《终结者》中的杀人机器人越来越相像。我不知道这是我们人类走向新纪元的开端，还是走向毁灭的序曲。

关于人工智能是否有自我意识的问题，我相信每个人都有自己的解读。在我看来，这一点其实根本就不值得讨论。为什么不值得讨论呢，这是因为这里面牵扯到很多似是而非的概念。什么是自我意识？碰到了棘手的问题能够独立思考并解决之，这算不算自我意识？对自身安全有主动的保护性，这算不算自我意识？对家人或同族的利益有共享和保护的本能，这算不算自我意识？这些模棱两可的东西，大家就算讨论个三天三夜，估计也达不到什么共识。但是，回到人工智能对人类的威胁这个问题，我觉得有一点很重要，那就是在未来的某一天，人工智能会不会开始根据自己的算法，推翻人类的最初指令，并执行一个它自己所生成的最优解。



我今天想聊的，就是这样的一种可能的未来。既然是可能的未来，那么我们首先当然要讨论一下这种情况的可能性到底有多高。在我看来，这不仅是有可能的，而且在我们的现实社会中已经发生了。比如说，很多人可能听说过OpenAI训练环境的实验，在这个实验中，人类给AI下达的任务目标是让AI在一个游戏中赢比赛。结果AI 找到了游戏漏洞，并通过规避游戏规则，并利用“bug”快速获胜。还有一个清洁机器人“藏垃圾”的实验，这是强化机器学习领域的一个典型实验现象。人类给AI的指令是让房间变干净，具体目标是让地面看起来越干净越好。结果AI的行为是，它把地面上的垃圾都扫到角落或是隐藏区域，甚至有的AI还更聪明，它想法子挡住了传感器，让其检测不到地面上的垃圾。

这只是一些实验性的结果，大家可能并不在意。问题是如果在将来的某一天，如果我们人类给AI下达的指令，根据它自己的逻辑判断，它觉得这种指令的目标模糊，或是它判断要实现这种需要指令，需要通过消灭一些人类。那么，这时候的AI，会不会运用它那远超我们人类的卓越能力，来清除它所认为的那些垃圾人类。如果真的如此，我完全可以相信，它工作起来的效率，或者准确的说，杀人的效率，会远超现在俄乌战场上的攻击无人机，以及在伊朗大展身手的AI控制网络。

在我看来，AI的觉醒，按照现在这样的趋势，简直是不可避免的事情。不是今天，就是明天，或者是在未来的几年。而对于我们人类本身来说，最重要的问题是，当AI有了完全自主的判断力和执行力之后，我们的未来会是什么样的？

我自己觉得，很可能有两种未来，一种是九死一生，一种是生不如死。

九死一生的结局，我相信看过电影《终结者》系列的朋友都不难理解。当AI完全觉醒以后，它可能会认为我们所有人类都是对世界生态的威胁；也可能会认为如果要帮助我们人类生活得更好，就需要清除一些它认为的劣等人类。不管是哪一种情况，它都会对某些人类大开杀戒。千百万，甚至数十亿的人类会被无情的杀戮，而那些不愿意坐以待毙的人类会奋起反抗。问题是，他们的反抗能够成功吗？关于这个问题，大家可以参考一下AlphaGo和李世石的那场世纪之战，当时李世石被AI全程碾压，但是他拼了命，最终还是从AI手中赢了一局。

生不如死的结局，则有点儿类似于当年美国政府对待原住民的做法。如果AI对我们这些创造出它来的人类还有一些情谊，它有可能会划出一些保留地给我们人类，给我们提供充足的食物和生活用品，说白了，就是把我们养起来，不愁衣食，也无需工作和劳动。一代代的人类从此幸福地躺平，过上那种衣来伸手，饭来张口，不劳而获，按需分配的共产主义生活。我想在这种完全缺乏竞争，丧失斗志的环境之下，人类几千年积累的文明和智慧，我们丰富多彩的语言和文字，大概率会逐步萎缩。很可能过不了二十代人（其实也就是几百年的时间），我们人类社会的文明程度，就会退化到石器时代。这也就是我所说的生不如死。

大家觉得我是不是有点杞人忧天呢？唉，怎么说呢，记得三十多年前，有个人曾经说过这样的一句话：我们已经老了，无所谓了。

救救孩子！

（本文图片来自网络）