简体 | 繁体
loading...
新闻频道
  • 首页
  • 新闻
  • 读图
  • 财经
  • 教育
  • 家居
  • 健康
  • 美食
  • 时尚
  • 旅游
  • 影视
  • 博客
  • 群吧
  • 论坛
  • 电台
  • 焦点新闻
  • 图片新闻
  • 视频新闻
  • 生活百态
  • 娱乐新闻
您的位置: 文学城 » 新闻 » 焦点新闻 » 美学者:100年内AI消灭人类机率高达99.9%

美学者:100年内AI消灭人类机率高达99.9%

文章来源: ettoday 于 2024-06-05 22:59:59 - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
被阅读次数


▲美国一位大学教授兼AI安全研究者认为,未来100年内,AI导致人类灭绝的机率高达99.9%。

研究人工智慧(AI)的美国知名大学教授扬波尔斯基(Roman Yampolskiy)近日表示,他估计AI在未来100年内导致人类灭绝的机率高达99.9%,原因是至今仍没有一个AI模型是完全安全的,未来也很难创造出零缺陷的高度复杂模型。不过,大多数AI研究者态度较为温和,认为AI消灭人类的机率大约是1%到20%。

根据美媒《商业内幕》报导,扬波尔斯基在路易斯维尔大学(University of Louisville)教授电脑科学,专精网路与AI安全方面研究。近日他出版新书《人工智慧:无法解释、预测或控制》(AI: Unexplainable, Unpredictable, Uncontrollable.),并在一档Podcast节目中谈了2个多小时有关AI未来可能造成的风险,但所持态度相当悲观。

人工智慧带来人类灭绝风险

扬波尔斯基认为,AI是否灭绝人类的关键取决于,人类能否在未来100年内创造出高度复杂并且零出错(with zero bugs)的软体。但他估计这样的可能性并不高,因为人们一直在试图让AI去做一些超出它原先设计范围内的事情,因此迄今没有任何一种AI模型是完全安全的。

扬波尔斯基说,「它们已经酿成失误,我们发生过意外,它们曾越狱(jailbroken)过。我不认为现今存在一个单一的大型语言模型是可以成功防止它做一些开发者不想让它做的事。」

▲扬波尔斯基预测,AI机器人最终有可能可以独力完成所有工作,人类将因此失去追求目标。

AI发展的3种悲惨结局

扬波尔斯基认为,为了控制AI,需要一个永久的安全机制,「即使我们在接下来来几个版本的GPT中做得很好,AI也会继续改进、学习、自我修改,并与不同的玩家互动,同时有生存风险,这『只有一次机会』」。

扬波尔斯基警告,「我们无法预测一个更聪明的系统会怎么做」。他在通用人工智慧(AGI)的背景下将人类比喻成松鼠,而AI却能想出一些甚至人类还不知道存在的东西。扬波尔斯基预测了3种结局,其一是每个人都会死,其二是每个人都很痛苦并渴望死亡,其三是AI系统比人类更具创造力,并能完成所有工作,导致人类无所事事并完全失去他们的追求。

▲有关AI发展的安全性,科技界重要人物也曾发表看法。

其他人怎么看?

扬波尔斯基受访的Podcast节目主持人费里曼(Lex Fridman)表示,与他讨论过的大多数AI工程师都认为,AI消灭人类的可能性约在1%到20%之间。另外,最近一项针对2700名AI研究人员的研究结果显示,此一机率只有5%。

ChatGPT开发公司OpenAI的CEO奥特曼(Sam Altman)建议设立一个「监管沙盒」(regulatory sandbox),让人们能在其中对AI进行实验,并根据实验结果进行监管与调整。奥特曼2015年曾半开玩笑地说,AI最有可能导致世界末日,但在此期间,会诞生许多伟大的公司。特斯拉执行长马斯克(Elon Musk)也曾预测,AI毁灭人类的机率为10%到20%。

另外,前Google CEO施密特(Eric Schmidt)曾经表示,AI的真正危险在于网路与生物(生化)攻击,但这些风险将在3到5年内显现出来,若AI真的发展出意志,他认为最简单的解决方法是:人类可以直接拔掉插头。

查看评论(0)

24小时热点排行

传27岁美国球星台北约变性网红开房 网民猜是他

24小时讨论排行

“杀死”那个错付910元车费男孩的不仅仅是司机
特朗普称“要让药价降低1500%”,被批数学逻辑混乱
特朗普抵达苏格兰,当地媒体:美国重刑犯来了
特朗普开怼:“克林顿去过那个小岛28次 我从没去过”
特斯拉是赢了,但不是真相的全部
硅谷的C位都是华人?!华人或统治AI时代
美国退出停火谈判,特朗普:哈马斯不想谈判,想死
6名大学生掉入浮选槽,救援为何38分钟后才到场?
花大钱的山姆会员,如何一步步被背叛
密集游说施压 以色列曾威胁法国放弃承认巴勒斯坦国
深陷反腐危机,泽连斯基位置恐不保?
印度称将全力申办2036年奥运会 竞争对手有这几国
山西人爱午睡这事儿,全网还没说清楚
台州富二代28轮激战,以超20万/米摘全国单价“地王”
不看好两位潜在买家 俄唯一航母或被拆解沦为备件
焦虑的家长,正批量给孩子查血铅
  • 文学城简介
  • 广告服务
  • 联系我们
  • 招聘信息
  • 注册笔名
  • 申请版主
  • 收藏文学城

WENXUECITY.COM does not represent or guarantee the truthfulness, accuracy, or reliability of any of communications posted by other users.

Copyright ©1998-2025 wenxuecity.com All rights reserved. Privacy Statement & Terms of Use & User Privacy Protection Policy

文学城新闻
切换到网页版

美学者:100年内AI消灭人类机率高达99.9%

ettoday 2024-06-05 22:59:59


▲美国一位大学教授兼AI安全研究者认为,未来100年内,AI导致人类灭绝的机率高达99.9%。

研究人工智慧(AI)的美国知名大学教授扬波尔斯基(Roman Yampolskiy)近日表示,他估计AI在未来100年内导致人类灭绝的机率高达99.9%,原因是至今仍没有一个AI模型是完全安全的,未来也很难创造出零缺陷的高度复杂模型。不过,大多数AI研究者态度较为温和,认为AI消灭人类的机率大约是1%到20%。

根据美媒《商业内幕》报导,扬波尔斯基在路易斯维尔大学(University of Louisville)教授电脑科学,专精网路与AI安全方面研究。近日他出版新书《人工智慧:无法解释、预测或控制》(AI: Unexplainable, Unpredictable, Uncontrollable.),并在一档Podcast节目中谈了2个多小时有关AI未来可能造成的风险,但所持态度相当悲观。

人工智慧带来人类灭绝风险

扬波尔斯基认为,AI是否灭绝人类的关键取决于,人类能否在未来100年内创造出高度复杂并且零出错(with zero bugs)的软体。但他估计这样的可能性并不高,因为人们一直在试图让AI去做一些超出它原先设计范围内的事情,因此迄今没有任何一种AI模型是完全安全的。

扬波尔斯基说,「它们已经酿成失误,我们发生过意外,它们曾越狱(jailbroken)过。我不认为现今存在一个单一的大型语言模型是可以成功防止它做一些开发者不想让它做的事。」

▲扬波尔斯基预测,AI机器人最终有可能可以独力完成所有工作,人类将因此失去追求目标。

AI发展的3种悲惨结局

扬波尔斯基认为,为了控制AI,需要一个永久的安全机制,「即使我们在接下来来几个版本的GPT中做得很好,AI也会继续改进、学习、自我修改,并与不同的玩家互动,同时有生存风险,这『只有一次机会』」。

扬波尔斯基警告,「我们无法预测一个更聪明的系统会怎么做」。他在通用人工智慧(AGI)的背景下将人类比喻成松鼠,而AI却能想出一些甚至人类还不知道存在的东西。扬波尔斯基预测了3种结局,其一是每个人都会死,其二是每个人都很痛苦并渴望死亡,其三是AI系统比人类更具创造力,并能完成所有工作,导致人类无所事事并完全失去他们的追求。

▲有关AI发展的安全性,科技界重要人物也曾发表看法。

其他人怎么看?

扬波尔斯基受访的Podcast节目主持人费里曼(Lex Fridman)表示,与他讨论过的大多数AI工程师都认为,AI消灭人类的可能性约在1%到20%之间。另外,最近一项针对2700名AI研究人员的研究结果显示,此一机率只有5%。

ChatGPT开发公司OpenAI的CEO奥特曼(Sam Altman)建议设立一个「监管沙盒」(regulatory sandbox),让人们能在其中对AI进行实验,并根据实验结果进行监管与调整。奥特曼2015年曾半开玩笑地说,AI最有可能导致世界末日,但在此期间,会诞生许多伟大的公司。特斯拉执行长马斯克(Elon Musk)也曾预测,AI毁灭人类的机率为10%到20%。

另外,前Google CEO施密特(Eric Schmidt)曾经表示,AI的真正危险在于网路与生物(生化)攻击,但这些风险将在3到5年内显现出来,若AI真的发展出意志,他认为最简单的解决方法是:人类可以直接拔掉插头。