捣浆糊、玄学、诡辩 -- 美国大学面临的挑战

来源: ScottGu 2023-03-23 18:37:50 [] [博客] [旧帖] [给我悄悄话] 本文已被阅读: 次 (2502 bytes)

前几年就有很多人,包括华裔如赵宇空,对美国大学录取标准很有意见。

我不谈录取标准,只谈教育和研究。

近年很多人工智能方面的学者,加入大公司。也有去创业,如Tusimple做无人汽车的侯晓迪。

无人汽车曾给人工智能业者以巨大希望。Google/Alphabet旗下的Waymo一度估值1750亿美元。

而ChatGPT等等语言模型能否达到无人汽车曾经有过的期望,尚有待观察。

问题是无人汽车、语言模型近年都是企业在推动,美国前沿研究性大学对此几乎发表不了有价值的观点。

更让人不安的是最近业余围棋手能稳定战胜高水准计算机围棋,给Nature杂志上AlphaGo Zero论文宣称的superhuman performance结论蒙上阴影。而参与相关研究的Stuart Russell教授的主流教科书AI: A Modern Approach第三版的人工智能测试理论和方法,本身就有问题。

大学和媒体对业余围棋手能稳定战胜高水准计算机围棋这一重要事件的忽视,令人惊讶。是不是有很多人在捣浆糊、玄学、诡辩?

事实上,我七年前就警告过计算机围棋仍有问题。不用adversarial policies可以设计更多实验、找出更多问题。

逻辑学界对逻辑实证主义(logical positivism or logical empiricism)的错误早有所知。我的观点是逻辑实证主义的错误在人工智能技术上会变成大概率事件,这在计算机围棋上已得到验证。

我很早就分析过欧盟Human Brain project模拟动物脑和人脑的初始计划不会成功,后来果然如此。而美国BRAIN Initiative项目的两项主要技术中,Dynamic Brain Map本身就有问题,基因技术对研究人类智力有局限性。智力科学和生命科学有不同的参照系。

认为人口控制类似火箭控制和认为人脑和人类智力类似计算机,都是错误的。最近法国因为很多人的退休福利被削减而动荡。原因就是人口危机和经济不振。

各种问题也会蔓延到司法、医疗、教育等等领域。

我前面写过:“避免人工智能泡沫、更好发展人类智力应对人工智能挑战的关键“ 的短文 :https://bbs.wenxuecity.com/znjy/6161725.html

其他不多说了。

所有跟帖: 

有点意思。。 -Midwestrural- 给 Midwestrural 发送悄悄话 (0 bytes) () 03/23/2023 postreply 18:54:53

谢谢鼓励。这些其实是世界共同面临的挑战。但美国是科技前沿国家,怎么应对更加关键和引人注目 -ScottGu- 给 ScottGu 发送悄悄话 ScottGu 的博客首页 (0 bytes) () 03/23/2023 postreply 21:54:34

确实看不下去, 简直架火上烤 -多多少少运动- 给 多多少少运动 发送悄悄话 (0 bytes) () 03/23/2023 postreply 20:11:07

这个人今天差点儿火候,提前不排练的嘛! -Lionkingmom- 给 Lionkingmom 发送悄悄话 (0 bytes) () 03/23/2023 postreply 21:16:06

A Modern Approach家里有一本是2020 7月买的 -sji- 给 sji 发送悄悄话 sji 的博客首页 (0 bytes) () 03/23/2023 postreply 19:19:06

第四版出来已经有一阵了 -ScottGu- 给 ScottGu 发送悄悄话 ScottGu 的博客首页 (555 bytes) () 03/23/2023 postreply 19:35:46

第四版. -sji- 给 sji 发送悄悄话 sji 的博客首页 (0 bytes) () 03/23/2023 postreply 19:38:43

这短文包含太多东西, 哈。 AGI 行业中绝大部分都认为远远没有真正开始, 更加不要说接近。 就说自动驾驶一个方面, 进 -WaldenPond- 给 WaldenPond 发送悄悄话 (231 bytes) () 03/23/2023 postreply 19:29:26

但是, 自动驾驶可以减轻长途驾驶的疲劳。 同时也提高驾车的安全性。 像gpt短期内, 可以帮助起草文书,起草ppt -WaldenPond- 给 WaldenPond 发送悄悄话 (0 bytes) () 03/23/2023 postreply 19:35:06

自动驾驶作为研究性项目不错,但商业化有疑问。这涉及科技和经济两方面的问题 -ScottGu- 给 ScottGu 发送悄悄话 ScottGu 的博客首页 (576 bytes) () 03/23/2023 postreply 19:50:02

完全自动驾驶的商业化, 我同意你的观点。 但是, 在这过程中许多技术已经不断被采用在现在的车技术中。使驾驶明显方便多了。 -WaldenPond- 给 WaldenPond 发送悄悄话 (116 bytes) () 03/23/2023 postreply 20:03:03

其实电梯早就可以自动驾驶了。现在的SAE自动驾驶标准有问题,SAE level 4自动驾驶标准实际上没法有效测试 -ScottGu- 给 ScottGu 发送悄悄话 ScottGu 的博客首页 (206 bytes) () 03/23/2023 postreply 20:09:24

因为人类还不知道如何模拟人类思路。 都是在逻辑的意义上去设计测试, 当然会有许多缺陷。就算是下围棋, 人还没法计算出有效 -WaldenPond- 给 WaldenPond 发送悄悄话 (103 bytes) () 03/23/2023 postreply 20:16:47

当前的人工智能的核心是机器学习,而机器学习是归纳总结人类的知识,机器之间不能互相学习, -闻风- 给 闻风 发送悄悄话 (132 bytes) () 03/23/2023 postreply 19:41:47

人工智能可以相互竞争,通过竞争积累经验 -ScottGu- 给 ScottGu 发送悄悄话 ScottGu 的博客首页 (231 bytes) () 03/23/2023 postreply 19:55:23

棋手是如何战胜AI 的 -yddad- 给 yddad 发送悄悄话 yddad 的博客首页 (511 bytes) () 03/23/2023 postreply 19:46:51

我七年前就说不用adversarial policies就可以设计实验找出计算机围棋的问题,但需要规范实验环境 -ScottGu- 给 ScottGu 发送悄悄话 ScottGu 的博客首页 (191 bytes) () 03/23/2023 postreply 20:04:09

像下棋这样有固定规则和有限空间(围棋19x19)AI 最终一定赢。 -WaldenPond- 给 WaldenPond 发送悄悄话 (0 bytes) () 03/23/2023 postreply 20:07:55

是的,计算是电脑的强项,需要的是找出计算方法。 -yddad- 给 yddad 发送悄悄话 yddad 的博客首页 (0 bytes) () 03/23/2023 postreply 20:14:28

这需要验证。我早就提出用计算机围棋做智能技术实验工具,并告诉过一些人。以此可以寻找人工智能更精确的上限 -ScottGu- 给 ScottGu 发送悄悄话 ScottGu 的博客首页 (184 bytes) () 03/23/2023 postreply 20:15:43

AI 不会在同样的情况下输二次。 这要一直下, AI 一定胜利。 -WaldenPond- 给 WaldenPond 发送悄悄话 (0 bytes) () 03/23/2023 postreply 20:19:14

那个业余围棋手胜了十四盘。当然完全一样的局面,计算机第二次会知道上次走错了,但未必知道该怎么走赢 -ScottGu- 给 ScottGu 发送悄悄话 ScottGu 的博客首页 (105 bytes) () 03/23/2023 postreply 20:25:10

那位大概就是设计如何测试程序的, 知道AI 的软肋。 -WaldenPond- 给 WaldenPond 发送悄悄话 (0 bytes) () 03/23/2023 postreply 20:27:51

他公布的方法不复杂,直觉性很强 -ScottGu- 给 ScottGu 发送悄悄话 ScottGu 的博客首页 (0 bytes) () 03/23/2023 postreply 20:37:40

如果, alphago 马上把输的结果归纳进测试程序进行再训练, AI 就补上了那个缺陷。 -WaldenPond- 给 WaldenPond 发送悄悄话 (0 bytes) () 03/23/2023 postreply 20:44:27

如果这样不能解决问题, 那么 alphago 设计有缺陷。这样的反馈学习成本非常高。 -WaldenPond- 给 WaldenPond 发送悄悄话 (0 bytes) () 03/23/2023 postreply 20:47:35

据说是知道了上次的错误,光凭此经验仍可能不知道正确的走法,除非训练过程作大的改变 -ScottGu- 给 ScottGu 发送悄悄话 ScottGu 的博客首页 (155 bytes) () 03/23/2023 postreply 21:51:11

请您先登陆,再发跟帖!