看ChatGPT 的一个范例,我们会忧心吗

打印 (被阅读 次)

ChatGPT 之所以如此成功,不是因为它的智能超越了人类,只要它是建立在自然语言学习模型上的,它的智能只能是人的智能的一个子集。当然这个子集可以不断扩大,但不会超越人类智能的全集。

我们说ChatGPT 的智能,要很小心,它面向我们时,往往展示两个能力,一是知识收集和整理,二是推理出新的知识。真真让人惊咋的是后者。我说的新知识不是指要靠科学去发现的新知识,比如从牛顿力学到相对论力学,而是指通过逻辑(分析综合推理)产生的新知识,譬如给它出个题,分析一下电动车和充电站之间的先有鸡先有蛋问题,即使这个问题的回答网上不存在,它都会给出不错的答案。我把这个范例附在本帖后面,它的答案不但语言表达清晰标准,而且你能明显感到一种逻辑思考贯穿其中。

我想它的回答把两个内容的学习结合了起来,一是电动车充电,一是先有鸡先有蛋问题。两个领域都有大量知识可供汲取,这并不难,有挑战的是,它要将第一个知识代入第二个知识,或让第二个知识介入第一个知识,在综合的基础上推理出现实问题并给出合理解决方案。按这个简单范例,它的智能或许已超越平均初中生水平。

它不仅能收集汇聚知识,而且能演化出新的知识内容。它为何能做到后一点,仅凭它强大的语言理解能力?

我觉得这背后牵涉到起码第三个知识的学习,逻辑推理。虽然它不太可能为了这个问题专门去搜集适用的逻辑推理知识,但在它平时处理千千万万的问题时,已经潜移默化地学习人类搭起了相关的神经元网络。可以说这种泛逻辑推理能力已经固化在它的模型里了。这就是可怕的地方,尽管它这三样知识都不会超越它能接触到的人类知识范本,但凭它远超人类的算力和记忆力,至少在速度上可以轻松击败人类。这已然实现,我们热衷使用GPT不正出于 这个原因?

继续想下去,噢,原来我们的智能就这么简单搭建起来,机器只有要算力足够算法合理就能无限制地越来越快地模仿,而且在互联网时代,我们的智力早已脱离大脑的储存,随随便便地通过自然语言的表达扩散得到处都是,毫不设防,对于机器入侵也没有任何知识产权的保护。我们被机器取代的节点离现在还有多远?时钟滴答。

所幸的是,我们的智能全集,并不是全靠这样散布于自然语言的智能定义疆界的。我们更高级的创意性智慧,往往超越自然语言的表达,譬如建筑师通过建筑,作曲家通过音乐,科学家通过数学方程,艺术家通过形体舞蹈或者书画。即使诗人,他必须把作品用自然语言表现出来,但他在落笔前一瞬的灵感,是无法通过笔下的分行文字逆向工程出来的。当然我们不能排除今后的人工智能,会采集非自然语言中的人类智能,但只要它还基于自然语言学习模型,我们人类还是有战略后方的。

最后我们或会想到,我们称自己是属灵生命,灵显然不是知识,智能和智慧,灵是什么很难说,但灵让我们不需感官获得不需理性推导产生对生命和存在的悟和感念,灵即是自由意志的载体,也是信仰执着的基础。灵能让我们这个神的选民面对机器获得某种优势吗?一时想不出来。

实际上机器要战胜我们,并不需完全超越我们,犹如两军对阵,并不一定强者获胜。强者会有疏忽,会有漏洞表现出来,只要那一刻被弱者逮着,事情就完结了。我们人类时时处处会露出自己的漏洞,我们的非理性,我们的情感用事,我们大部分日常决策不愿意动脑,会让我们在无情的绝对理性的机器攻击下一败涂地,即使我们可到达的最高智慧胜于机器

想到这些,我们会觉得那场刚发生在OpenAI的流产政变并非那么荒唐,政变之失败,或许正意味人工智能在战胜我们,它用自己令人惊讶的能力展现,来赢得投资者和持股人的亲睞,变相操纵了他们的决策。

最后无聊一想,如果这个世界的自然语言是中国的文言文,GPT 模型能学到什么?

*******

我问: 请分析一下电动车和充电站之间的先有鸡先有蛋的问题。

它答: 这个问题确实很有趣,因为电动车(EV)和充电站之间的发展存在相互依赖的关系。一方面,没有足够的充电站,消费者可能会因为充电不便而犹豫购买电动车。另一方面,如果没有足够的电动车在路上行驶,投资者和政府可能不愿意投资建设充电基础设施。

从历史的角度来看,电动车的发展通常需要政府的政策支持和补贴来推动充电站的建设。这样可以降低消费者的购车成本,同时确保有足够的充电设施来满足日益增长的需求。随着技术的进步和成本的降低,电动车变得更加普及,充电站的建设也会随之加速。

总的来说,两者之间的发展是相辅相成的。政府和企业通常会通过各种措施来平衡这种先有鸡先有蛋的问题,比如提供购车补贴、建设公共充电站、以及推动家庭和商业充电解决方案的发展。随着时间的推移,这种平衡会逐渐实现,电动车和充电站的网络会不断扩大,最终形成一个成熟的生态系统。

老键 发表评论于
回复 '6ba6' 的评论 : 那当然,学习嘛,靠算力支撑
6ba6 发表评论于
你每问一次,它就把答案记下,下次有人再问,再修正,不断修正,叠代从复
老键 发表评论于
回复 '花似鹿葱' 的评论 : 是啊,我们又被谁操控
老键 发表评论于
回复 'BeijingGirl1' 的评论 : 确实没有什么新意
花似鹿葱 发表评论于
“我们称自己是属灵生命,灵显然不是知识,智能和智慧,灵是什么很难说,但灵让我们不需感官获得不需理性推导产生对生命和存在的悟和感念,灵即是自由意志的载体,也是信仰执着的基础。灵能让我们这个神的选民面对机器获得某种优势吗?一时想不出来。”
是啊,困惑与恐惧在于我们不能操控的部分
BeijingGirl1 发表评论于
machine learning 是AI的一个重要组成部分。 不过这个电动车案例, 没有什么新意啊。
登录后才可评论.