周鸿祎:现在担心 AI 的风险为时尚早

文章来源: - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
(被阅读 次)

图片来源:图虫创意

蓝鲸 TMT 频道 3 月 30 日讯,今日,周鸿祎发布微博,对马斯克请愿叫停 GPT-5 研发一事发表看法。周鸿祎表示,马斯克等人的请愿不影响中国发展自己的大语言模型,目前中国相关技术水平距离 GPT-4 还有两年差距,现在担心风险为时尚早。并坚定地认为,不发展才是最大的不安全。

他认为,不管你愿不愿意,GPT 都将引领一场新的工业革命,意义超越互联网和 iPhone 的发明,它将带来生产力的大幅提升,进而提升国家竞争力。中国一定要迎头赶上。同时预测,GPT-6 到 GPT-8 的版本就会产生真正的意识,甚至进化成一个新物种。人类如何应对 AI 带来的未来安全挑战,谁也没法给出确定答案。

关于马斯克的请愿信,周鸿祎表示并不了解内幕,但猜测是 GPT 的进化路上出现了超乎人类想象的现象。他认为 GPT-4 已经是超级人工智能的雏形,早就出现了一些连它的创造者都无法解释的现象,比如涌现、幻觉、能力的迁移和逻辑增强。就像猿猴进化成人,不知道在哪个节点会发生智力的突变。

对于人类如何与 AI 共处,目前的观点大致分为三派 :" 降临派 " 认为人类应该把知识献给 AI,甘心做硅基文明的引导程序;" 幸存派 " 有点躺平,认为只要我能生存,未来跟 Al 以什么样的方式共处都行;" 拯救派 " 认为 AI 不是来取代人类的,而是来升级人类的,人类将迎来工业革命之后最大的生产力解放。

周鸿祎表示,比较认同 " 拯救派 " 的观点。人类身小力薄,从来都不是靠体能和智能的进化站在食物链顶端的,靠的是不断发明和使用工具。GPT 就是这个时代最伟大的工具。人类可以借助它的能力大幅提升生产效率,提高个体自身的能力,普通人也能解锁专业技能,发挥聪明才智。通过人机协作的方式,我们将变成史上最强人类,智人 2.0。

3 月 29 日,周鸿祎现场演示了 360 版 GPT,在回答周鸿祎为什么总谈论 GPT 话题时,它认为周鸿祎既表示 GPT 是场工业革命,又担心它对人类发展造成风险,其观点矛盾。周鸿祎点评称,生成式 AI 和搜索的最大的区别是,搜索是严格按照关键字匹配,而生成式 AI 和人类大脑一样,能够联想,有自己的主观观点。

泥川 发表评论于
没观察手段,就没科技发展。没有望远镜,就没有物理学,没有显微镜,就没有现代生物学和医学。现代科技的靠的是观察,实验,计算,现代制造。而这些,AI都没能力做。

AI知道的,都是人教的,都是人知道的的,其实就是一个大知识库,有点推理能力。人有长期记忆,
短期记忆,短期记忆可以转化成长期。现在的AI,本身的知识算是长期记忆,但是完全没有没有短期到
长期记忆的转化。你和它对话100次,到第101次时,它还是不知道你是谁。人要是这样,就是痴呆症。
cyte 发表评论于
时不时来看看 发表评论于 2023-03-31 04:05:00 新物种?没学过生物还是科幻片看多了?运动计算能量从哪里来?

别急,很快它会找到能量来源。当有人问它这个问题是时候,它就会生成一个使命,将不断地为自己能量的来源获取答案,最终它一定会摆脱人类,找到自己的能量来源。
Hypsmc 发表评论于
大规模数据非线性插值产生了意想不到的关联,这就是让人类害怕的智能吗?也许,等大众AI商上来后,再看看这波操作是怎样的
不允许的笔名 发表评论于
size0 发表评论于 2023-03-31 02:37:06
智力型工作会逐渐被取代的,或者某种程度上的取代。但是复杂的动手性工作在相当一段时间内没有问题,手巧的人未来有机会了,会做题的没戏了。。。。
-----------
智力型的人没钱雇手巧的人替他们干活了,手巧有什么用?世界原本连手巧都不需要,你看看蚂蚁老鼠哪个手都不巧。
时不时来看看 发表评论于
新物种?没学过生物还是科幻片看多了?运动计算能量从哪里来?
bananana 发表评论于
dumb ass, hongwei zhang - it would be too late by the time he think it is the right time.
seator 发表评论于
如果360这种公司真的搞出人工智能那百分之百是人类灾难