应该让美国还是中国控制AI的未来？

被称为AI之父的Geoffrey Hinton在最近在上海举行的世界AI大会上发表了一篇主题讲话，引发了全球关注。

辛顿的主要关注点是先进人工智能潜在的风险以及确保其安全发展至关重要的全球合作。他的主要观点包括：

“把老虎当宠物”的比喻： 辛顿用人类饲养老虎作比喻。他指出，我们基本上有两个选择：把它训练好，让它不杀我们；或者消灭它。他强调，消灭AI已不再是可行的选择，因此人类必须找到控制AI并使其与人类价值观保持一致的方法。

AI的快速发展及不可预见的行动潜力： 他强调AI系统正迅速接近甚至可能超越人类智能。他表示担心这些系统可能会采取操作者未曾预料或计划的行动。

控制的幻觉： 辛顿警告说，如果先进AI系统变得比我们更聪明，简单地“关闭”它们可能是不现实的。他暗示，AI可能会操纵或说服操作者不要关闭它们，并将人类对AI的控制比作“三岁小孩给大人制定规则”。

全球合作至关重要： 与其他国家利益可能存在分歧的领域不同，阻止AI取代人类是一个共同的全球性问题。他敦促所有国家在这个问题上进行合作，建议将使AI有益的研究成果在全球范围内分享。他呼吁各国开展各自独立的人工智能研究，但要分享安全相关的研究成果。

大脑与数字智能： 辛顿因其在AI领域的奠基性工作而获得了2024年诺贝尔物理学奖。他还谈到了生物智能与数字智能之间的根本区别和相似之处。他对数字计算和知识传播的效率，与人类学习和知识传递的方式相比，表达了深切的担忧。

关注对齐研究： 他强调迫切需要对如何防止超级智能AI想要掌控局面，以及如何将其训练得既异常智能又愿意协助人类进行大量研究。

总而言之，杰弗里·辛顿的信息是一个强有力的呼吁，要求全球协作并致力于AI安全和对齐研究，强调人类正处于一个关键时期，AI的发展轨迹可能会带来深远且可能无法控制的后果。

我对他的讲话中的一个观点印象深刻，就是“生成式”AI机制非常接近人类思维方式，会产生幻觉和创造性思维，会进化。而且这种物理思维形式可以被复制，永远存在和发展下去。而一个人的思维和进展，会随着生物个体的消失而消失。因此，AI比人类的思想更为强大，如果不加以控制，人类必然被控制。很少人把老虎当宠物，因为老虎不具有狗那种可控性，它长大后可能吃了主人。AI就是一个小老虎！

在此复习一下“生成式”AI的机理。GPT全名叫做Generative Pre-trained Transformer，即用生成式方法预训练的Transformer。GPT的基本思路是，首先要通过大规模训练，从而得到不同引导文后各种下续词出现的概率，根据概率计算，打出一段语句。GPT模型完成任务的方法就是“猜猜下一个概率最大的词是什么”，根据输入的一段文本，预测下一个单词出现的概率分布。比如给定引导句“我喜欢吃？”，模型可能预测下一个单词为“苹果”的概率是0.2，“香蕉”的概率是0.3，“披萨”的概率是0.1，等等，这些概率值的总和为1，代表了所有可能的下一个单词的概率分布。根据这个概率分布，选择最有可能出现的单词。所以ChatGPT都是一个字一个字地蹦出来的，跟刚刚学会说话的小孩子一样。

当GPT刚出来时，一般认为这还是一种人工的算法，并不是人类真正的思维方法。一个例子就是围棋，下过围棋的人都知道，很多时候，特别是布局时，下子是凭直觉，因为无法进行精确的的计算。Google的Alpha-Go是第一种成功的围棋博弈软件，也是GPT理论的首次成功运用，它通过大量的练习，对每一步都优选了7-10种走法，练习得越多，优选的对策越好。Alpha-Go的成绩很好，先是打败了欧洲冠军，然后挑战称霸世界围棋棋坛十余年的李世石，4：1， 李还赢了一盘，过了一年又挑战现霸主柯洁，5：0，柯洁根本没有机会。以后又出了第二代，在围棋网上摆擂台，人类选手根本不可望其项背。

现在AlphaGo, 彻底征服了人类智慧的明珠围棋，让围棋大师成了笑话，现在的围棋比赛成了有上帝视角的游戏，借助AI，讲棋的观棋的都知道结局，就看那些撒逼棋手怎么走了，成了聪明人看斗兽的游戏。而蛋白质结构预测软件AlphaFold, 也让颜宁这些蛋白质结构科学家丢了饭碗，只能回国当政治科学家了。有美国顶级飞行员在模拟软件上和AI飞行员格斗，每仗必败，他对AI飞行员的战术感到非常意外，他从来没想到对冲方向是最好的攻击位置。因为对冲非常危险，人类怕死，会避免选择风险太大的位置，但AI不怕死，他只选胜率最大的位置。

这也就是说，实际上并不存在直觉，只是概率。面对复杂的局面，有经验的人成功率会高于没经验的，因为他有更多的学习机会。当然，总是有些人干得比另一些人好，那是因为其自身的算法更有效。当积累了一定的学习后，创造性会自然地产生。我们从自身的经验也可以看出，比如语言，掌握了一定的词汇量和语法后，几乎每个人的语言都是不同的，常常会出现幽默的句子，通常就是一种意外的组合，让人发笑。如果幽默反复用，那就不好笑了，脱口秀演员，和情场高手需要不断创造出未出现过的梗，也就是更强的语言创造性。

Hinton在说，别以为还有更深奥的人类思维的密码，我们已经掌握了这种终极密码。AI会自我进化，会创新，而它到底是如何进化的，我们不知道。AI是个黑盒子，我们喂给它材料，它是如何处理这种材料，最后产出什么来，我们不知道。GPT的人工智能训练过程，虽然有程序导引，但设计者自己也说，它能表现出一些始料未及的智力，这是一个黑箱，其间到底发生了什么，就像儿童有一天忽然开口说话了、站起来走路了，其中到底发生了什么，没有人知道。当AI具有一定的基础积累，它也会像人一样具有创造性。知识就是力量，对AI也一样，由于它的知识积累和训练强度高于人类天文数字级别，它会表现出高于人类的智力，已经不是可不可能的问题，而人类确实该到了考虑如何控制它的问题了。再不控制就来不及了！

就像智能驾驶，现在各家公司都很烦恼，这项技术还不是很完美。但练着练着，突然有一天，它变得极其聪明，人类的驾驶技术根本无法望其项背，那时，你给它一个指令，它会以出其不意的方法实现这个目标。到后来，它会觉得你是一个傻蛋，菜鸟，根本不听你的指令而自行其是。上了这辆车，就由不得你了！

Hinton也说了，对手国家间的竞争，可能使得控制AI不可能。美国将军说了，如果我们不发展，中国会发展，以后我们就成了他们砧板上的肉了，对中国也一样。在这样一个环境下，AI无控制地发展，不断推陈出新，包括会杀人不眨眼的机器兵，会制订最诡诈作战计划的AI参谋，会以最刁转的动作攻击的AI飞行员。当AI兵攻击时，不会因为对方是平民，或举手投降的敌人而罢休，也不会被吓阻。以前适合于人类的行为规则都无效了，就像围棋一样，最优秀的指挥员和士兵都成了笑话，成了傻逼。既然是傻逼，AI为什么还要听傻逼的指挥，最后取而代之是非常符合逻辑的做法！

如果最后AI超越人类是必然的，那让谁的AI占统治地位，就有差别了。现在站在AI前沿的只有中美两国，美国在硬件上占优势，也有先发优势，而中国在人才上占有优势，有后发优势。两国的竞争，可能出现一个两极世界，但从技术进化的历史看，一方吃掉或同化另一方是更为常见的结局。

从这个角度，虽然我是一个中国人，我还是希望美国获得胜利。如果中国获胜了，世界人民都会生活在一个老大哥世界，无所不在的监控，你放个屁系统都知道，要想看看黄片，对政府发发牢骚，根本是找死！工作是９９６，没说的，３５岁就得下岗，以后AI可能无所不能，也不需要你做什么工作了，你的钱全是政府给的，更没有要价能力，那就不是党和国家培养了你了，而是党和国家养着你，个人的价值就是一颗没你不少，有你不多的螺丝钉，活着就是一个符号，死了不少，活着不多，人生完全没有任何意义！

在美国这个体制下，AI的应用应该还是会受到宪法的限制的，比如全面监控在法律上是被禁止的，四个自由也应该是拥有的。让美国拥有最强大的AI，并能压制中国，是相对较好的一个选择。当然这一点，也还是需要在美国人能压制他自己的AI的前提下，才有效！

人类创造了国家，创造了帝王，最后成为自己的主人。人类创造了AI，也最终将被奴役，甚至被灭亡．这就是人性的悖论！