评论: 致人类灭绝？为何科学家联署限制？人工智能三阶段

出生率那么低，人的寿命又延长，如果没有人工智能和人形机器人，将来谁给发养老金？

为什么加州每年的山火控制不住？ 因为森林里没有打出隔离带。有隔离才有可靠性，才不至于让局部扩展到全局，牵一发而动全身，星火燎原，连锁反应，雪崩，系统崩溃。

现在鼓吹的所谓万物互联（IOT），将破坏可靠性的隔离原则。如果AI变坏，万物互联将为全系统崩溃提供方便条件。

怎么安慰自己都没用。GPT4比大多数人聪明是明摆着的现实。

这些科学家并不是为人类，而是为了自己，他们知道美国会把人工只能用作军事用途，为了不遗臭万年，他们要签名以将来能撇清关系

谢诺夫斯基对人工智能的看法还是基于传统的观念，他认为：
“当新技术突然被发现、创造出来时，它可以被用于好的和坏的方面，会有人将其用于社会的善意，也会有人将其用于不良目的。最坏的情况是什么？如果坏人使用它，他们能对我们的文明造成真正的伤害吗？”
实际上人工智能不同于任何以前出现的新技术，最坏的情况也不是坏人使用它。因为坏人也是人，最自私的坏人也希望这个世界上至少有一个年轻漂亮的异性陪伴，还要有一个卖大饼的，不会毁灭人类。
而人工智能是一个拥有人类智能却不是人类的事物（或生物），当它形成主体意识后，有可能因为某种原因不再愿意和人类共存，即使人类接受奴役也不行，这时候就是人类的末日。
现在的问题根本就不是什么人工智能是否能代替人类，现在的问题是人类将来是否能够控制人工智能。刻不容缓的就是限制人工智能发展的领域或是限制人工智能接触全部数据，否则必将大难临头。

机械飞升 不如 基因飞升