新智元报道  【新智元导读】120B模型飙到2000 token/秒，CFO更放话已在跑GPT-5.5！

        Cerebras 560亿美元IPO首日暴涨68%，但SemiAnalysis万字拆解直指死穴。

        SemiAnalysis，硅谷最硬核的芯片分析机构，4月份光是AI工具的订阅费就烧到了年化1000万美元。

        其中80%花在同一个地方，Anthropic的Opus 4.6 fast模式。

        它比标准模式贵6倍，但token输出速度快2.5倍！

        然后Opus 4.7来了。更聪明，跑分全面碾压上一代，但工程师集体拒绝升级。

        理由只有一个，4.7没有fast模式。他们宁可用更笨的模型，也要更快的token！

        而这个趋势的最大受益者，是一家刚刚以560亿美元估值登陆纳斯达克的芯片公司，Cerebras。

        2000 token/秒，怎么来的OpenAI今年2月甩出了GPT-5.3-Codex-Spark。

        名字挂着GPT-5.3的招牌，但底层是一个从完整版GPT-5.3 Codex蒸馏出来的小模型，参数量只有原版的十分之一，120B。

        虽然是用智能换来的，但速度确实夸张到离谱——2000 token/秒。

        作为对比，Anthropic最快的Opus 4.6 fast大约70-100 token/秒，GPT-5系列在英伟达GPU上是大约130 token/秒。

        而Codex-Spark一脚油门踩到了一个数量级开外。

        让它跑这么快的，正是Cerebras的WSE-3，一块餐盘大小的晶圆级芯片。

        这件事直接引爆了一笔246亿美元的合同，也把Cerebras一路推进了纳斯达克。

        5月14日首日暴涨68%，2026年至今最大科技IPO。

        但Cerebras CFO Bob Komin说，这还只是开胃菜。

        IPO前夜，他在采访中亮了一张没人预料到的牌——我们服务所有模型，对模型大小没有限制。

        今天，我们正在跑万亿参数的模型。我们正在跑OpenAI内部的GPT-5.4和GPT-5.5。

        如果这是真的，Cerebras就不只是一个「小模型快跑」的玩家了，IPO当天的疯狂涨幅立刻站得住脚。

        但SemiAnalysis偏偏在同一周甩出了一篇两万字的技术拆解报告，直接把这个故事撕开了一道口子。

        Cerebras公开云上，最大的生产模型是GPT-OSS，总参数120B；预览模型最大355B。

        曾经上过的Llama 70B和405B，后来也被悄悄下了架。

        2025年最火，但体量也更大的开源模型（比如DeepSeek），从头到尾就没出现在Cerebras Cloud上。

        CFO口中的那个数字，目前只存在于「OpenAI内部」，外界无法验证。

        要搞清楚这中间的裂缝有多大，得先看看这块晶圆到底是怎么回事。

        一整块硅的赌注半导体行业干了50年的事情就是切硅片。

        一整块晶圆刻出几十颗芯片，切割，封装，各干各的。英伟达的B300已经把单颗芯片撑到了858平方毫米，基本上是光刻的极限了。

        相比之下，Cerebras却反其道而行——它不切。

        整块晶圆就是一颗芯片。46,225平方毫米，比英伟达的GPU大58倍，大约一个餐盘的尺寸。

        上面集成了4万亿个晶体管、90万个计算核心，和44GB的SRAM内存。

        重点来了，SRAM。GPU用的是HBM（高带宽内存），容量大但速度相对慢。

        一块B300配了288GB的HBM，带宽在TB/秒级别。

        WSE-3只有44GB的SRAM，但内存带宽高达21PB/秒。

        Cerebras速度碾压的秘密就在这里。SRAM带宽大到解码时几乎可以把全部计算核心喂饱。

        GPU的计算核心只能饿着等内存。而推理的瓶颈，正是解码。

        模型一个token一个token往外吐的时候，每吐一个就要把全部权重从内存里读一遍。

        带宽越高，读得越快，token出得越快。SemiAnalysis做了一个很直观的对比。

        同样只给一个用户生成token的场景下，GPU能实际利用的算力只有理论峰值的零头。

        WSE-3理论上可以把全部15.6 PFLOPS的FP16算力吃满。

        差距不是百分之几十，而是数量级的。用他们的原话形容，这就像是公交车和F1的区别。

        GPU是公交车，一次拉很多人但每个人都慢。WSE-3是F1赛车，一次只拉一个人但飞快。

        想用赛车的客户，甚至愿意付6倍价格来买速度。Opus 4.6 fast已经证明了这一点。

        但这辆「车」有一个致命问题——它的「油箱」只有44升。

        对于小模型来说，WSE-3的44GB SRAM绰绰有余，但放到今天的大模型面前根本不够看。

        DeepSeek V4有1.6万亿参数，即使用最激进的压缩方式（FP8量化），光权重就要490GB。

        一块WSE-3装不下，要切成至少12块塞进12块晶圆。

        分布就要通信，而这也是Cerebras最致命的短板。

        每块WSE-3对外带宽只有150GB/秒。英伟达一块Blackwell GPU通过NVLink5能跑到900GB/秒，是Cerebras的6倍。

        被英伟达收购的Groq更夸张，单颗LPU3就有9.6Tb/秒，8倍。

        带宽加不了。这是物理层面的死结。WSE-3的制造方式决定了一切。

        整块晶圆用同一套模板反复曝光，12列7行，84个完全相同的die拼成一颗芯片。

        想加高速通信端口（SerDes），就得在每个die里都加。

        但84个die里只有边缘的能接到外面，中间的全是摆设，纯粹浪费硅面积。

        更要命的是，SerDes是模拟电路，面积大，还会干扰旁边的数字逻辑。

        在die中间放SerDes，等于在自家的高速公路上挖坑。

        所以Cerebras被困在了一个岛屿上。岛上的高速公路四通八达，但通往外界的桥只有一座单车道。

        如此一来，Cerebras跑大模型只剩一条路，把模型按层切开，每块晶圆放几层，晶圆之间只传中间计算结果（比完整的模型权重小得多）。

        但流水线越长，延迟越高。SemiAnalysis算了一笔账，12块晶圆跑DeepSeek V4，光是层间传输的固定延迟就要叠加12次，缓存数据的搬运时间高达数毫秒。

        所以CFO在CNBC上说的那番话，至少目前更像是路线图上的故事。

        但在120B以下这个区间，Cerebras交出的成绩单没什么好挑的。

        代价是什么呢知名评测机构Artificial Analysis用Llama 4 Maverick做过实测，Cerebras 2400 token/秒，英伟达Blackwell 1040 token/秒，直接碾了一倍多。

        AI编程工具Devin背后的Cognition已经把Cerebras接进了产品，快速模式下1000 token/秒。

        Notion、LiveKit、GSK等也已经在用。

        但代价是，公开云跑得动的上限就是GPT-OSS级别，最大上下文只有128K。

        根据SemiAnalysis从Claude Code、Cursor等工具中采集的43.2万条真实请求，其中有将近50%都超过了128K。

        而Agent时代的上下文只会越来越长，128K很快就是瓶颈。

        速度快，但模型小、上下文短、选择少。这就是开发者今天拿到手的Cerebras。

        但这里藏着一个很多人还没注意到的细节，足以改变整个竞争格局。

        Cerebras与OpenAI的协议里写着一条排他条款，合同期内不得向「特定OpenAI竞争对手」出售产品。

        CEO Feldman没有点名，但所有人都知道指的是谁，Anthropic。

        12%股权、10亿美元贷款、246亿美元订单锁定。

        Cerebras已经被牢牢绑在了OpenAI的战车上。

        推理战争，OpenAI刚刚换了一把枪如今，AI军备竞赛的主战场已经变了。

        训练只做一次，推理每天做数十亿次。2026年三分之二的AI算力消耗在推理上，到2027年预计达到80%。

        根据OpenAI的计划，AWS的Trainium负责理解用户输入，Cerebras负责生成输出token，GPU负责训练和长上下文，三套硬件各管一段。

        这套组合拳只为一件事，成本打下来，速度拉上去。对比之下，Opus 4.6 fast的速度已经从100 token/秒退化到了70 token/秒，Cerebras也在合同里把它锁在了门外。

        那么问题来了，Anthropic的极速推理方案在哪里？

        参考资料：https://x.com/dee_bosa/status/2055351401472020949?s=20https://newsletter.semianalysis.com/p/cerebras-faster-tokens-please编辑：摩西秒追ASI⭐点赞、转发、在看一键三连⭐点亮星标，锁定新智元极速推送！