简体 | 繁体
loading...
新闻频道
  • 首页
  • 新闻
  • 读图
  • 财经
  • 教育
  • 家居
  • 健康
  • 美食
  • 时尚
  • 旅游
  • 影视
  • 博客
  • 群吧
  • 论坛
  • 电台
  • 焦点新闻
  • 图片新闻
  • 视频新闻
  • 生活百态
  • 娱乐新闻
您的位置: 文学城 » 新闻 » 焦点新闻 » 美学者:100年内AI消灭人类机率高达99.9%

美学者:100年内AI消灭人类机率高达99.9%

文章来源: ettoday 于 2024-06-05 22:59:59 - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
被阅读次数


▲美国一位大学教授兼AI安全研究者认为,未来100年内,AI导致人类灭绝的机率高达99.9%。

研究人工智慧(AI)的美国知名大学教授扬波尔斯基(Roman Yampolskiy)近日表示,他估计AI在未来100年内导致人类灭绝的机率高达99.9%,原因是至今仍没有一个AI模型是完全安全的,未来也很难创造出零缺陷的高度复杂模型。不过,大多数AI研究者态度较为温和,认为AI消灭人类的机率大约是1%到20%。

根据美媒《商业内幕》报导,扬波尔斯基在路易斯维尔大学(University of Louisville)教授电脑科学,专精网路与AI安全方面研究。近日他出版新书《人工智慧:无法解释、预测或控制》(AI: Unexplainable, Unpredictable, Uncontrollable.),并在一档Podcast节目中谈了2个多小时有关AI未来可能造成的风险,但所持态度相当悲观。

人工智慧带来人类灭绝风险

扬波尔斯基认为,AI是否灭绝人类的关键取决于,人类能否在未来100年内创造出高度复杂并且零出错(with zero bugs)的软体。但他估计这样的可能性并不高,因为人们一直在试图让AI去做一些超出它原先设计范围内的事情,因此迄今没有任何一种AI模型是完全安全的。

扬波尔斯基说,「它们已经酿成失误,我们发生过意外,它们曾越狱(jailbroken)过。我不认为现今存在一个单一的大型语言模型是可以成功防止它做一些开发者不想让它做的事。」

▲扬波尔斯基预测,AI机器人最终有可能可以独力完成所有工作,人类将因此失去追求目标。

AI发展的3种悲惨结局

扬波尔斯基认为,为了控制AI,需要一个永久的安全机制,「即使我们在接下来来几个版本的GPT中做得很好,AI也会继续改进、学习、自我修改,并与不同的玩家互动,同时有生存风险,这『只有一次机会』」。

扬波尔斯基警告,「我们无法预测一个更聪明的系统会怎么做」。他在通用人工智慧(AGI)的背景下将人类比喻成松鼠,而AI却能想出一些甚至人类还不知道存在的东西。扬波尔斯基预测了3种结局,其一是每个人都会死,其二是每个人都很痛苦并渴望死亡,其三是AI系统比人类更具创造力,并能完成所有工作,导致人类无所事事并完全失去他们的追求。

▲有关AI发展的安全性,科技界重要人物也曾发表看法。

其他人怎么看?

扬波尔斯基受访的Podcast节目主持人费里曼(Lex Fridman)表示,与他讨论过的大多数AI工程师都认为,AI消灭人类的可能性约在1%到20%之间。另外,最近一项针对2700名AI研究人员的研究结果显示,此一机率只有5%。

ChatGPT开发公司OpenAI的CEO奥特曼(Sam Altman)建议设立一个「监管沙盒」(regulatory sandbox),让人们能在其中对AI进行实验,并根据实验结果进行监管与调整。奥特曼2015年曾半开玩笑地说,AI最有可能导致世界末日,但在此期间,会诞生许多伟大的公司。特斯拉执行长马斯克(Elon Musk)也曾预测,AI毁灭人类的机率为10%到20%。

另外,前Google CEO施密特(Eric Schmidt)曾经表示,AI的真正危险在于网路与生物(生化)攻击,但这些风险将在3到5年内显现出来,若AI真的发展出意志,他认为最简单的解决方法是:人类可以直接拔掉插头。

  • 海外省钱快报,掌柜推荐,实现买买买自由!
查看评论(0)
  • 文学城简介
  • 广告服务
  • 联系我们
  • 招聘信息
  • 注册笔名
  • 申请版主
  • 收藏文学城

WENXUECITY.COM does not represent or guarantee the truthfulness, accuracy, or reliability of any of communications posted by other users.

Copyright ©1998-2025 wenxuecity.com All rights reserved. Privacy Statement & Terms of Use & User Privacy Protection Policy

24小时热点排行

爱泼斯坦1993年参加特朗普婚礼照片曝光!特朗普怒斥CNN
杜建英被曝另有丈夫且从未离婚 私生子身份恐成疑
美驻中使馆发布一份“伤害性不大 侮辱性极强”图文警告
比利时公主亮相国庆活动 衣着不雅惹争议 系私生女
美政府员工"赴中探亲"遭限制出境!美方正交涉放人

24小时讨论排行

李承鹏:塔西佗,服不服及杭州粪水的《时间捡屎》
华裔女孩回云南认亲 28年前与亲生父母在医院走失
司法部5月告知川普 他反复出现在爱泼斯坦文件中…
华女18岁怀孕偷渡美国 21年后“功成名就”却遭驱逐
中国正在抢占未来,美国却陷入焦虑与退缩
台湾26日投票“大罢免”,中国因素推波助澜?
乌军总司令汇款百万送父母到莫斯科治病?亲属发声
学者开投票 中国网友竟一面倒挺民进党 原因毛骨悚然
特朗普指控奥巴马“叛国”,背后有何恩怨与心机?
内蒙古6大学生参观矿场 全部溺亡 掀网络热议
爱泼斯坦案令特朗普很愤怒 “第一次看到白宫瘫痪了”
德媒:特朗普成功挑拨离间了欧中的关系
华尔街日报:为什么股票在上涨?没人知道
特朗普指奥巴马涉叛国,呼吁司法部起诉
知名反捕鲸人士“红通令”获撤 日本人追了他14年!
华人地下夜总会被突袭 涉毒品性交易 多名无证移民被捕!
文学城新闻
切换到网页版

美学者:100年内AI消灭人类机率高达99.9%

ettoday 2024-06-05 22:59:59


▲美国一位大学教授兼AI安全研究者认为,未来100年内,AI导致人类灭绝的机率高达99.9%。

研究人工智慧(AI)的美国知名大学教授扬波尔斯基(Roman Yampolskiy)近日表示,他估计AI在未来100年内导致人类灭绝的机率高达99.9%,原因是至今仍没有一个AI模型是完全安全的,未来也很难创造出零缺陷的高度复杂模型。不过,大多数AI研究者态度较为温和,认为AI消灭人类的机率大约是1%到20%。

根据美媒《商业内幕》报导,扬波尔斯基在路易斯维尔大学(University of Louisville)教授电脑科学,专精网路与AI安全方面研究。近日他出版新书《人工智慧:无法解释、预测或控制》(AI: Unexplainable, Unpredictable, Uncontrollable.),并在一档Podcast节目中谈了2个多小时有关AI未来可能造成的风险,但所持态度相当悲观。

人工智慧带来人类灭绝风险

扬波尔斯基认为,AI是否灭绝人类的关键取决于,人类能否在未来100年内创造出高度复杂并且零出错(with zero bugs)的软体。但他估计这样的可能性并不高,因为人们一直在试图让AI去做一些超出它原先设计范围内的事情,因此迄今没有任何一种AI模型是完全安全的。

扬波尔斯基说,「它们已经酿成失误,我们发生过意外,它们曾越狱(jailbroken)过。我不认为现今存在一个单一的大型语言模型是可以成功防止它做一些开发者不想让它做的事。」

▲扬波尔斯基预测,AI机器人最终有可能可以独力完成所有工作,人类将因此失去追求目标。

AI发展的3种悲惨结局

扬波尔斯基认为,为了控制AI,需要一个永久的安全机制,「即使我们在接下来来几个版本的GPT中做得很好,AI也会继续改进、学习、自我修改,并与不同的玩家互动,同时有生存风险,这『只有一次机会』」。

扬波尔斯基警告,「我们无法预测一个更聪明的系统会怎么做」。他在通用人工智慧(AGI)的背景下将人类比喻成松鼠,而AI却能想出一些甚至人类还不知道存在的东西。扬波尔斯基预测了3种结局,其一是每个人都会死,其二是每个人都很痛苦并渴望死亡,其三是AI系统比人类更具创造力,并能完成所有工作,导致人类无所事事并完全失去他们的追求。

▲有关AI发展的安全性,科技界重要人物也曾发表看法。

其他人怎么看?

扬波尔斯基受访的Podcast节目主持人费里曼(Lex Fridman)表示,与他讨论过的大多数AI工程师都认为,AI消灭人类的可能性约在1%到20%之间。另外,最近一项针对2700名AI研究人员的研究结果显示,此一机率只有5%。

ChatGPT开发公司OpenAI的CEO奥特曼(Sam Altman)建议设立一个「监管沙盒」(regulatory sandbox),让人们能在其中对AI进行实验,并根据实验结果进行监管与调整。奥特曼2015年曾半开玩笑地说,AI最有可能导致世界末日,但在此期间,会诞生许多伟大的公司。特斯拉执行长马斯克(Elon Musk)也曾预测,AI毁灭人类的机率为10%到20%。

另外,前Google CEO施密特(Eric Schmidt)曾经表示,AI的真正危险在于网路与生物(生化)攻击,但这些风险将在3到5年内显现出来,若AI真的发展出意志,他认为最简单的解决方法是:人类可以直接拔掉插头。