AI巨头为何集体喊“踩刹车”？但谁也不敢先踩刹车

最近几天，美国人工智能领域出现了一个罕见现象：几家投入数百亿美元、激烈争夺下一代 AI 优势的科技企业，其负责人却开始公开讨论一个看似矛盾的问题——人工智能的发展速度，是不是应该适当放慢？

人工智能。 REUTERS - Dado Ruvic

此举究竟意味着什么呢？AI企业真的准备踩刹车了吗？深思之后，引出以下几个方面的疑问：

第一个是：为什么 AI 巨头开始担心“发展太快”？

首先提出警告的是 Anthropic 首席执行官达里奥·阿莫迪。他特别关注一个趋势：人工智能正在越来越多地参与下一代人工智能的研发，也就是所谓的“递归式自我改进”。

如果AI不仅能够完成任务，还能够帮助设计模型、编写代码和进行实验，那么未来 AI 能力增长的速度可能越来越快。以至于AI 能力增长最终可能超过人类理解和控制这些系统的能力。而阿莫迪担心的正是这一点。因此，他并不是主张停止研发，而是希望在 AI 跨越关键能力门槛之前，争取一两年的时间，加强安全研究、第三方评估、可解释性研究和政府监管。他还建议，让独立的安全评估人员长期进入 AI 企业内部，并拥有接近员工的系统访问权限，从模型训练到部署全过程进行监督。

这一观点很快得到竞争对手回应。OpenAI 首席执行官萨姆·奥特曼表示赞同，埃隆·马斯克也直接表示：“达里奥·阿莫迪说得对。”

既然大家都承认风险，可为什么没有一家企业首先真正踩刹车？为什么 AI 企业担心风险，却又不敢减速呢？这里存在一个典型的“战略困境”。

Anthropic、OpenAI、xAI 等企业正在激烈争夺下一代 AI 的技术优势。对任何一家企业来说，如果自己放慢速度，而竞争对手继续推进，就可能失去市场、人才和技术领先地位。换句话说：大家一起减速可能对所有人都有利，但如果只有自己减速，可能就意味着自己输掉竞争。而一旦把这个问题提升到国家层面，情况更加复杂。美国不仅担心 AI 失控，也担心在人工智能竞争中输给中国。

阿莫迪因此强调，美国不能单方面放慢技术发展，而应该在保持技术优势的同时，加强安全治理，并限制最先进的 AI 芯片和相关技术流向中国。

特朗普谈到 AI 风险时，也明确表现出这种战略逻辑：他真正担心的，并不是 AI 导致人类灭绝，而是美国输给中国。于是，一个矛盾出现了：如果 AI 很危险，美国为什么还要争夺第一？

这是因为在今天的国际竞争中，人工智能既被视为潜在风险，也被视为决定未来经济和战略优势的核心技术。

第三个问题：人工智能会不会从科技问题变成政治和国际治理问题？

事实上，这种转变已经开始。美国国会议员越来越多地要求加强对 AI 监管，甚至有人提出暂停超级智能开发。美国前总统奥巴马上周四也警告，如果人工智能没有得到适当管理，可能变得“危险”。

据《纽约时报》报道，奥巴马在一次私人筹款活动中敦促民主党制定人工智能政策和治理框架，并建议如果民主党在今年中期选举中重新取得众议院多数，应推动一场公开的 AI 政策辩论。他还呼吁，参加2028年总统大选的民主党候选人，应把人工智能列为重要议题，并提出应对 AI 安全和经济影响的明确方案。这说明，人工智能已经不再只是硅谷的技术问题，而正在进入美国政党政治和国家治理的核心议程。

与此同时，阿莫迪提出了更大胆的设想：未来建立某种人工智能领域的国际协调机制。例如，首先限制 AI 用于制造极端危险的生物武器；建立国际性的高风险模型测试标准；甚至讨论是否能够限制 AI 自我改进的速度。

这让人联想到冷战时期的战略武器限制。但 AI 军控比核武器军控困难得多。核弹头、导弹和核设施可以通过卫星侦察、现场检查等方式进行核查；但一个国家是否正在秘密训练下一代 AI 模型，外部很难知道。

因此，全面暂停 AI 发展短期内几乎不现实。比较可行的道路，可能是从一些最危险、最容易达成共识的领域开始，逐步建立国际规则。这也意味着，人工智能正在发生一个重要的政治转变。过去的问题是：谁能开发出更强大的模型？现在的问题则越来越变成：谁来决定 AI 应该发展多快？哪些风险必须禁止？谁来监督这些企业？如果美国减速而中国不减速怎么办？

总之，这其实就是人工智能时代的战略困境。今天的 AI 巨头开始意识到，技术竞赛可能制造出任何一家企业都无法单独解决的风险；但与此同时，任何一方又都不愿意因为率先减速而失去技术和战略优势。所以，眼下真正出现的，并不是一场“停止人工智能”的运动，而是一场围绕人工智能发展规则的重新谈判。如果过去几年 AI 竞争的关键词是“更大、更快、更强”，那么未来几年，一个新的问题可能越来越重要：人工智能究竟发展多快，才算足够安全？