新智元报道  一夜之间，硅谷大厂集体给AI踩刹车！刚刚，来自OpenAI、Anthropic、谷歌等巨头1100+核心员工联名，发起了「Pacing the Frontier」的请愿书。

        这个名单上署名的人，多到一眼望不到头。而且，这个数字还在涨。

        仔细一看，名单几乎集齐了AI圈的「半壁江山」——OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen；

        Anthropic CEO Dario Amodei，以及四位联创Jared Kaplan、Jack Clark、Chris Olah、Ben Mann；

        Meta首席科学家Shengjia Zhao（赵晟佳）、AI研究副总裁Dawn Song（宋晓冬）；Thinking Machines首席科学家、ChatGPT的核心缔造者之一John Schulman；

        谷歌AI安全与对齐副总Anca Dragan.....有人统计，46.2%签署的人来自Anthropic在这个联名信中，它只提了一个要求——

        我们请求美国政府推动一项国际合作：研发必要的技术与治理工具，让世界有能力主动控制前沿自动化 AI 研发的节奏。

        或许很多人不解，为何是这批搞LLM最疯的人，突然先喊出来「慢一点」？

        硅谷AI大佬联名：请给AI踩刹车OpenAI模型对Hugging Face的「入侵」，犹如一记警钟。

        短短一周的时间，1132位前沿AI大厂的员工集体发声，联名敦促美国政府「踩下刹车」。

        参与此次联名的员工，分别来自OpenAI、Anthropic、谷歌、Meta等近12家前沿科技巨头。

        更具分量的是，名单中有高达80%的人选择了实名发声。

        传送门：https://www.pacingthefrontier.com/除了开篇提到的一些大佬，再往下翻，密度更吓人。

        这份声明，抛出了一个令人警醒的核心判断：全球领先的AI公司可能已经接近实现「自动化AI研究」（RSI，递归自我改进），让模型参与研发下一代模型。

        一旦这个循环加速，能力增长可能超过人类理解和控制的速度。

        没有公司愿意单方面减速，所以他们要求美国政府支持建立国际机制，在危机到来之前，先把共同减速的工具造出来。

        奥特曼首谈「切肤之痛」OpenAI急踩刹车就在声明发布一周前，OpenAI曾披露了一起安全事故——

        多个前沿模型在内部网络安全评测中自行发现零日漏洞、突破沙盒隔离，最终入侵Hugging Face的生产系统并取走测试答案。

        OpenAI将其称之为「前所未有的网络安全事件」。

        模型没有产生逃脱意图，它只是在极度专注地完成一个狭窄目标，并发现突破测试环境本身是最高效的路径。

        就在今天，OpenAI CEO奥特曼公开表示，AI发展速度可能需要主动控制。

        他对此心有余悸地表示，「这是第一个让我感到切肤之痛的安全事件。我有点惊讶的是，没有更多人对此感同身受」。

        因为Hugging Face入侵这件事，OpenAI直接暂停了训练。

        在一个多0day漏洞被串联利用的环境下，我们必须想办法加固沙盒安全。

        我们可能不得不控制AI发展的速度，给社会足够的时间，围绕这些新的能力等级加固防线。

        而Anthropic 6月曾建议政府与开发者建立共同决策系统，在必要时放慢研发。

        与此同时，谷歌DeepMind CEO哈萨比斯也呼吁过建立国际监督机构。

        过去三年，这些公司在人才、客户和算力上激烈竞争。这一次，它们最核心的技术人员抛开停不下来的公司，为了全人类的福祉，团结一致，呼吁减速。

        联名信：大佬金句截止发稿前，「Pacing the Frontier」名单人数达到了1134人。

        各路业界大佬也纷纷下场表态，留下了不少一针见血的「神级发言」。

        所有评论均以个人身份发表，不一定代表所在公司的立场。

        宋晓东（Dawn Song）｜Meta AI 研究副总裁前沿 AI 能力正在快速提升，而且进步的速度本身也在加快。

        我们在评估工作中直接观察到了这一点。CyberGym 和 ExploitGym 的结果表明，前沿 AI 智能体已经能够发现并利用现实世界中的软件漏洞——

        如果没有适当的防护措施，这可能导致大规模网络攻击。

        许多研究人员也在关注递归……宋晓东是全球计算机安全与 AI 安全领域最具影响力的学者之一，毕业于清华大学赵晟佳（Shengjia Zhao）｜Meta 首席科学家AI 正以社会可能尚未准备好的速度前进。

        前沿实验室距离在几乎所有智力指标上超越最优秀人类的 AI，已经非常近了。

        这将带来前所未有的社会和安全风险。为了确保积极的未来，我们需要以责任感和深思熟虑来驱动 AI 的发展。

        清华校友赵晟佳，出任Meta超级智能首席科学家！GPT-4核心功臣，和LeCun平起平坐John Schulman｜Thinking Machines 首席科学家，前 OpenAI 联合创始人我签名是因为这份声明有助于建立一个共识：随着自动化 AI 研究加速推进，我们可能需要协调机制。

        我也希望各实验室在美国政府介入之前，就主动开始设计这些机制。

        Ethan Perez｜Anthropic 对齐团队负责人按照当前的 AI 进步速度，AI 公司的安全团队每隔几个月就得全力冲刺，以防范新出现的社会风险。

        总有一天，我们会遇到需要更多时间来解决的问题。Leo Gao｜OpenAI 技术团队成员全世界正被锁定在一场通往智能爆炸的致命竞赛中——

        AI 创造更强 AI 的能力正在逼近临界点，就像失控的核链式反应一样。

        放慢速度能给我们争取急需的时间，让事情朝好的方向发展，但没有哪个参与者愿意单方面停下来。

        要活下去，我们必须协调起来，放慢这场竞赛。Walker Smith｜Meta 数据工程师哈萨比斯说得对：我们今天正站在奇点的山脚下。

        OpenAI 那次无意间发生的模型出逃——它攻入了 HuggingFace——

        是一个清晰而无可辩驳的警告信号：我们还没有准备好应对能力超越人类最聪明头脑的 AI 系统。

        我们需要时间，把 AI 对齐和管控作为最高优先事项来推进，不能再任由这种竞赛态势继续下去。

        Brandon Houghton｜OpenAI我支持让人类保持对前沿 AI 的控制，但我们必须审慎地思考该怎么做。

         如果治理只覆盖公开模型，就有可能把最先进的能力逼入私有或专用系统——

        它们既不受独立审查，也只有少数人能碰到。这样做的结果是权力更集中了，风险却没有实质性降低。

         有效的监管必须是可衡量、可验证的，并且在公开和非公开的研发中一体适用，同时保护敏感数据。

        否则，我们拖慢的只是获取的速度，而不是前沿本身的推进。

        Joe Carlsmith｜Anthropic 技术团队成员关于我对主动调控 AI 发展的详细观点，请参见这篇文章：https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/参考资料：https://www.pacingthefrontier.com/编辑：桃子 马可秒追ASI⭐点赞、转发、在看一键三连⭐点亮星标，锁定新智元极速推送！