上周，全球人工智能领军企业安特罗匹克(Anthropic)公司的两名研究人员预测，这项迅速发展的人工智能技术可能会在不久的将来毁灭人类，这一“末日论”引发的恐慌已超越互联网辩论和硅谷，公众对人工智能潜在风险的担忧骤然加剧。

在这张摄于2023年5月4日的照片中，可以看到OpenAI的标志以及“人工智能”字样。 REUTERS - Dado Ruvic

作者：安德烈

9月12日，安特罗匹克首席执行官达里奥·阿莫迪提议：“我们必须放慢改进人工智能模型能力的速度。”不同寻常的是，他的竞争对手、OpenAI创始人兼首席执行官萨姆·阿尔特曼以及同样身为OpenAI创始人的埃隆·马斯克也对此表示赞同。

阿尔特曼在X平台上写道：“我同意达里奥的观点：我们必须管控技术前沿的发展节奏，”马斯克附和道：“达里奥说得对。”并表示他在“很久以前就开始对人工智能敲响了警钟”，同时转发了一条2014年的推文，他在其中表示：人工智能“可能比核武器更危险”。

硅谷各大企业的领导人纷纷陷入恐慌之际，正在爱尔兰访问的特朗普却以中国竞争为由，拒绝暂停人工智能竞赛。“特朗普在杜恩贝格的高尔夫球场表示：“听着，我们在人工智能领域领先于中国……而且，坦率地说，我希望这种局面能持续下去，因为谁赢得了人工智能竞赛，谁就是最终的赢家。”他还称： “我们可以设立护栏，做这做那，但我认为有很多负面势力在无端炒作这个话题，而他们本不该这么做，还描绘了一些根本不会发生的场景”。

9月14日，他甚至谴责了“针对人工智能和数据中心的险恶阴谋”，并断言：“人工智能所需的唯一监管或‘护栏’，就是一位强大且聪明的总统（智商很高！），而美国这样的总统多得是！”

事态突然间急转直下，分析认为大约有四个因素：人工智能的巨大进步；随着中国国家主席习近平即将访问华盛顿，中美竞争再度加剧；该技术研发所需的巨额成本；以及在定于11月3日举行的美国中期选举临近之际，科技巨头们面临着巨大的民意压力。

今年夏天，人工智能的发展步伐进一步加快：OpenAI在9月7日宣布，已成功解决了被认为无法破解的数学难题——“纳维-斯托克斯方程”。尽管这一突破尚未得到官方证实，但这些进展让科技界领袖们认为，人工智能正逐步发展出超越人类的智能，同时也伴随着相应的风险。

与中国的竞争使局势变得更加复杂。正如特朗普一再强调的那样，美国希望保持其在该领域的领导地位。美国的这一领导地位无可否认，但它十分脆弱，通常估计仅能维持六个月。9月11日，得克萨斯州共和党参议员克鲁兹对『政客』网站表示：“我们不可能停下脚步，因为你知道谁不会停下吗？中国。他们不会停下来的。如果非要出现杀人机器人，我宁愿它是美国的杀人机器人而不是中国的”。他还表示：“我们并没有一年的领先优势，顶多只有大约六个月。” “中国政府可能会介入，直接扼杀美国的AI产业。中国将在六个月内迎头赶上，并取得巨大的领先优势。”

美国和中国正陷入“囚徒困境”，双方虽然可能希望达成妥协，但在缺乏沟通与信任的情况下，妥协却难以实现。华尔街日报专栏作家佩吉·努南试图呼吁双方保持理性。“就连中国人也不希望世界末日来临；他们只是想主宰世界。问题就在这里。”他认为“特朗普总统和习近平应举行峰会，以制定保障措施和安全机制，并明确不可逾越的底线”。

人工智能企业同样面临着同样的两难境地，实际上它们都不愿做出任何让步，生怕被时代淘汰。达里奥·阿莫迪自反对五角大楼以来已成为反特朗普的英雄，他于2021年出于伦理和安全考虑正式离开OpenAI，创立了Anthropic。尽管自今年年初发表一篇长文以来，他一直在不断警示人工智能的危险，但这并未阻止他继续凭借越来越大胆的模型领跑行业。在周六的发言中，他并未单方面提议停止研究，而是期待在获得相应补偿的前提下暂停。

对于美国顶尖人工智能公司的倡议，北京立刻怀疑美国这是试图利用技术壁垒和监管垄断遏制中国人工智能的发展。中国官媒『环球时报』直指美国安特罗匹克首席执行官阿莫迪呼吁放缓人工智能发展的主张，表面上是对安全风险的理性回应，实际上是针对中国的“冷战思维”。

中国国家安全部长陈一新周一在『中国网信』发文警告，人工智能发展带来六大风险挑战，包括被敌对势力利用，威胁中国的政治安全、制度安全、意识形态安全等。

他并未提及需要遏制这些人工智能技术的发展，却把矛头指向美国人工智能企业，称其具备先进的黑客攻击能力，可能“对中国关键信息基础设施构成严重威胁”。他在文章中写道：各种敌对势力正在滥用生成式AI技术，炮制政治谣言、传播有害信息、煽动对立情绪，对中国“实施舆论战、认知战”。

周一，当记者问及中方如何看奥尔特曼和马斯克近日呼吁“放缓”人工智能发展等言论时，中国外交部发言人郭嘉昆称，“散播各种威胁叙事、搞对抗和恶意竞争，只会干扰人工智能全球治理进程，不符合任何一方利益。”