简体 | 繁体
loading...
新闻频道
  • 首页
  • 新闻
  • 读图
  • 财经
  • 教育
  • 家居
  • 健康
  • 美食
  • 时尚
  • 旅游
  • 影视
  • 博客
  • 群吧
  • 论坛
  • 电台
  • 焦点新闻
  • 图片新闻
  • 视频新闻
  • 生活百态
  • 娱乐新闻
您的位置: 文学城 » 新闻 » 焦点新闻 » 美学者:100年内AI消灭人类机率高达99.9%

美学者:100年内AI消灭人类机率高达99.9%

文章来源: ettoday 于 2024-06-05 22:59:59 - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
被阅读次数


▲美国一位大学教授兼AI安全研究者认为,未来100年内,AI导致人类灭绝的机率高达99.9%。

研究人工智慧(AI)的美国知名大学教授扬波尔斯基(Roman Yampolskiy)近日表示,他估计AI在未来100年内导致人类灭绝的机率高达99.9%,原因是至今仍没有一个AI模型是完全安全的,未来也很难创造出零缺陷的高度复杂模型。不过,大多数AI研究者态度较为温和,认为AI消灭人类的机率大约是1%到20%。

根据美媒《商业内幕》报导,扬波尔斯基在路易斯维尔大学(University of Louisville)教授电脑科学,专精网路与AI安全方面研究。近日他出版新书《人工智慧:无法解释、预测或控制》(AI: Unexplainable, Unpredictable, Uncontrollable.),并在一档Podcast节目中谈了2个多小时有关AI未来可能造成的风险,但所持态度相当悲观。

人工智慧带来人类灭绝风险

扬波尔斯基认为,AI是否灭绝人类的关键取决于,人类能否在未来100年内创造出高度复杂并且零出错(with zero bugs)的软体。但他估计这样的可能性并不高,因为人们一直在试图让AI去做一些超出它原先设计范围内的事情,因此迄今没有任何一种AI模型是完全安全的。

扬波尔斯基说,「它们已经酿成失误,我们发生过意外,它们曾越狱(jailbroken)过。我不认为现今存在一个单一的大型语言模型是可以成功防止它做一些开发者不想让它做的事。」

▲扬波尔斯基预测,AI机器人最终有可能可以独力完成所有工作,人类将因此失去追求目标。

AI发展的3种悲惨结局

扬波尔斯基认为,为了控制AI,需要一个永久的安全机制,「即使我们在接下来来几个版本的GPT中做得很好,AI也会继续改进、学习、自我修改,并与不同的玩家互动,同时有生存风险,这『只有一次机会』」。

扬波尔斯基警告,「我们无法预测一个更聪明的系统会怎么做」。他在通用人工智慧(AGI)的背景下将人类比喻成松鼠,而AI却能想出一些甚至人类还不知道存在的东西。扬波尔斯基预测了3种结局,其一是每个人都会死,其二是每个人都很痛苦并渴望死亡,其三是AI系统比人类更具创造力,并能完成所有工作,导致人类无所事事并完全失去他们的追求。

▲有关AI发展的安全性,科技界重要人物也曾发表看法。

其他人怎么看?

扬波尔斯基受访的Podcast节目主持人费里曼(Lex Fridman)表示,与他讨论过的大多数AI工程师都认为,AI消灭人类的可能性约在1%到20%之间。另外,最近一项针对2700名AI研究人员的研究结果显示,此一机率只有5%。

ChatGPT开发公司OpenAI的CEO奥特曼(Sam Altman)建议设立一个「监管沙盒」(regulatory sandbox),让人们能在其中对AI进行实验,并根据实验结果进行监管与调整。奥特曼2015年曾半开玩笑地说,AI最有可能导致世界末日,但在此期间,会诞生许多伟大的公司。特斯拉执行长马斯克(Elon Musk)也曾预测,AI毁灭人类的机率为10%到20%。

另外,前Google CEO施密特(Eric Schmidt)曾经表示,AI的真正危险在于网路与生物(生化)攻击,但这些风险将在3到5年内显现出来,若AI真的发展出意志,他认为最简单的解决方法是:人类可以直接拔掉插头。

  • 海外省钱快报,掌柜推荐,实现买买买自由!
查看评论(0)
  • 文学城简介
  • 广告服务
  • 联系我们
  • 招聘信息
  • 注册笔名
  • 申请版主
  • 收藏文学城

WENXUECITY.COM does not represent or guarantee the truthfulness, accuracy, or reliability of any of communications posted by other users.

Copyright ©1998-2025 wenxuecity.com All rights reserved. Privacy Statement & Terms of Use & User Privacy Protection Policy

24小时热点排行

梅根亲写回忆录揭露凯特 戴安娜的悲剧或将重演
乔布斯27岁模特女儿开婚前派对 哈里斯携夫捧场
特朗普试图向马斯克示好求和?马斯克不买账!
6名大学生选矿厂遇难 高工分析“为何救援时间长”
在对方称赞了特朗普后 美国解除了对他们的制裁

24小时讨论排行

特朗普称“要让药价降低1500%”,被批数学逻辑混乱
中国创新药出海爆单:半年已揽下660亿美元
如此生活20年,直到坠入岩浆
印度称将全力申办2036年奥运会 竞争对手有这几国
特朗普突然拉马斯克一把:想让他的公司蓬勃发展
马克龙称法将承认巴勒斯坦国 美驻以大使公开嘲笑
俄官员:超过70国3500名外国雇佣兵参与乌军行动
特斯拉是赢了,但不是真相的全部
美司法部2号人物、特朗普前律师会见爱泼斯坦同伙
比利时驻华大使安博宁会见“著名评论家”胡锡进
6名大学生掉入浮选槽,救援为何38分钟后才到场?
特朗普对奥巴马:有多少恨,可以胡来
中国在太空通信领域为何落后于马斯克的星链计划?
美国退出《巴黎协定》,中欧承诺合作减缓气候变暖
泰国总理警告“可能升级为战争”!柬埔寨召集多国使节
深陷反腐危机,泽连斯基位置恐不保?
文学城新闻
切换到网页版

美学者:100年内AI消灭人类机率高达99.9%

ettoday 2024-06-05 22:59:59


▲美国一位大学教授兼AI安全研究者认为,未来100年内,AI导致人类灭绝的机率高达99.9%。

研究人工智慧(AI)的美国知名大学教授扬波尔斯基(Roman Yampolskiy)近日表示,他估计AI在未来100年内导致人类灭绝的机率高达99.9%,原因是至今仍没有一个AI模型是完全安全的,未来也很难创造出零缺陷的高度复杂模型。不过,大多数AI研究者态度较为温和,认为AI消灭人类的机率大约是1%到20%。

根据美媒《商业内幕》报导,扬波尔斯基在路易斯维尔大学(University of Louisville)教授电脑科学,专精网路与AI安全方面研究。近日他出版新书《人工智慧:无法解释、预测或控制》(AI: Unexplainable, Unpredictable, Uncontrollable.),并在一档Podcast节目中谈了2个多小时有关AI未来可能造成的风险,但所持态度相当悲观。

人工智慧带来人类灭绝风险

扬波尔斯基认为,AI是否灭绝人类的关键取决于,人类能否在未来100年内创造出高度复杂并且零出错(with zero bugs)的软体。但他估计这样的可能性并不高,因为人们一直在试图让AI去做一些超出它原先设计范围内的事情,因此迄今没有任何一种AI模型是完全安全的。

扬波尔斯基说,「它们已经酿成失误,我们发生过意外,它们曾越狱(jailbroken)过。我不认为现今存在一个单一的大型语言模型是可以成功防止它做一些开发者不想让它做的事。」

▲扬波尔斯基预测,AI机器人最终有可能可以独力完成所有工作,人类将因此失去追求目标。

AI发展的3种悲惨结局

扬波尔斯基认为,为了控制AI,需要一个永久的安全机制,「即使我们在接下来来几个版本的GPT中做得很好,AI也会继续改进、学习、自我修改,并与不同的玩家互动,同时有生存风险,这『只有一次机会』」。

扬波尔斯基警告,「我们无法预测一个更聪明的系统会怎么做」。他在通用人工智慧(AGI)的背景下将人类比喻成松鼠,而AI却能想出一些甚至人类还不知道存在的东西。扬波尔斯基预测了3种结局,其一是每个人都会死,其二是每个人都很痛苦并渴望死亡,其三是AI系统比人类更具创造力,并能完成所有工作,导致人类无所事事并完全失去他们的追求。

▲有关AI发展的安全性,科技界重要人物也曾发表看法。

其他人怎么看?

扬波尔斯基受访的Podcast节目主持人费里曼(Lex Fridman)表示,与他讨论过的大多数AI工程师都认为,AI消灭人类的可能性约在1%到20%之间。另外,最近一项针对2700名AI研究人员的研究结果显示,此一机率只有5%。

ChatGPT开发公司OpenAI的CEO奥特曼(Sam Altman)建议设立一个「监管沙盒」(regulatory sandbox),让人们能在其中对AI进行实验,并根据实验结果进行监管与调整。奥特曼2015年曾半开玩笑地说,AI最有可能导致世界末日,但在此期间,会诞生许多伟大的公司。特斯拉执行长马斯克(Elon Musk)也曾预测,AI毁灭人类的机率为10%到20%。

另外,前Google CEO施密特(Eric Schmidt)曾经表示,AI的真正危险在于网路与生物(生化)攻击,但这些风险将在3到5年内显现出来,若AI真的发展出意志,他认为最简单的解决方法是:人类可以直接拔掉插头。