16 万 Star 的 OpenCode 彻底重写:API 全部重做、Bun 换 Node、桌面端迁移 Electron
        编译|宇琪 策划 | Tina 2026 年,OpenCode 已经是一款现象级的开源项目了:GitHub 上超过 16 万颗星,每月有超过 750 万开发者在使用它。

        就在这个月,他们发布了 2.0。为什么重写?Dax 说过一句话:“我整个职业生涯里,每件事都要迭代三次才能做对。”

        OpenCode 0 是原型,1.x 是验证,而 2.0 是在他们完全理解了这个领域之后,一次从头开始的彻底重构。

        这次重写核心工作之一就是重构整个 API,做一个精心设计的,而不是像以前那样自然生长出来的东西。

        并且 OpenCode 与 Claude Code 一个很大不同的地方是从 Bun 迁移到了 Node 来解决内存占用问题。

        早期版本的应用程序仍然捆绑了命令行界面 (CLI),因为服务器代码仍然依赖于 Bun 特有的 API。

        随着迁移,他们移除了所有这些 API,并能够在 Node 环境下运行服务器。

        网友:OpenCode 实在太吃内存了。我真的无法理解现代软件怎么会变成这样,为什么随便一个东西都要占用 2GB 以上的内存?

        Dax:能试试 OpenCode 2 吗?它的表现应该会好很多。

        桌面端也是这次重写的另一个重点。1.x 的桌面端最初选择 Tauri 作为 Web UI 和 CLI 的轻量级封装,每次启动时,捆绑的 CLI 会运行 opencode serve,为 Web UI 提供本地服务器连接。

        但问题在于,Tauri 在 macOS 和 Linux 上使用 WebKit,这不仅在渲染 OpenCode 的应用时性能不如 Chromium,也影响了一致性体验。

        而迁移到 Node 之后,直接在 Electron 内置的 Node 进程中运行服务器代码的想法就变得很有吸引力了。

        这次重写带来的一个直接变化是,OpenCode 桌面版终于解决了 AI 编程中最大的效率瓶颈:排队等待。

        大多数用户仍然习惯等一个 AI 任务完全跑完,再启动下一个。

        现在完全不需要了。用户可以在多个标签页中打开各自独立的 AI 会话,同时执行两个不同的编程任务,还能为每个标签页指定不同的模型,进行并排对比。

        比如一边让一个模型构建 HTML 网站,另一边同时生成会员入门清单,两个模型并行工作,互不干扰。

        在过去重写 OpenCode 的这几个月里,OpenCode 联合创始人 Dax Raad 的团队 token 消耗量暴涨了 5 倍。

        “我们把 token 花在了哪里?我们的策略是,奢侈地过度设计一切。 哪怕是实现一个简单的读取文件的 API,我们也要思考:所有可能的实现方式是什么?

        其他产品有哪些先例?可以用哪些不同的方式组织响应?

        以前你可能只能想出一两个方案,然后选个最好的,但现在我们可以非常奢侈地投入。”

        OpenCode 2.0 的测试版已经在这个月发布,团队计划在测试版发布约一个月后推出正式版。

        日前,Dax Raad 在 Syntax.fm 播客中,深入探讨了 OpenCode 2.0 的重写逻辑、为什么他认为推理利润率高到 90%、模型路由被高估了、Anthropic 和 OpenAI 正在走向完全不同的两条路。

        本文基于该播客视频整理,经 InfoQ 编辑。太长不看版:Q:那个“不能说的模型”到底有多厉害?

        你们团队真的上瘾了?A: 团队 token 消耗量两个月内涨了 5 倍,不是因为它更费 token,而是因为大家都停不下来了。

        你终于可以信任它了,它会听你说什么,能捕捉到你遗漏的东西。

        它不是一个替代你的人,是一个更好的搭档。Q:OpenCode 2.0 为什么要重写?

        跟 1.0 有什么本质区别?A:我这辈子“每件事都要做三次才能做对”,0 是试水,1 是验证,2 是在彻底理解整个领域之后推倒重来。

        OpenCode 2.0 有三个核心变化:API 全部重做、默认以服务常驻运行、跨设备智能体网络。

        Q:你们的软件为什么比别人的好用?方法论是什么?A:“决定在乎”,真金白银地烧 token,投资底层原语。

        Q:模型路由靠谱吗?A:模型路由赛道被高估了,中间商在拼命找事做。

        真正有效的办法不是让路由系统帮你切模型,而是让一个贵的主模型当“指挥官”:它不亲自干活,只派发任务给便宜的子代理。

        新一代模型在这个“编排模式”上表现得非常好,能在一个会话里并行管理多个子代理,做完了再唤醒主模型。

        Q:AI 推理到底有多暴利?本地跑模型能省钱吗?A:Anthropic 和 OpenAI 的推理利润率在 90% 左右,也就是说盈亏平衡点可以比现在便宜 10 倍。

        OpenCode 作为推理服务商,即便经过中间商倒手,某些开源模型还能做到 70% 的利润率。

        但本地跑模型省不了钱,任何让本地变便宜的效率提升,放到云端会便宜 10 倍。

        本地模型的意义在于隐私,不在成本。Q:为什么 Claude Code Max 订阅不能用在 OpenCode 里?

        A:Anthropic 和 OpenAI 的企业文化完全不同。

        OpenAI 是消费者导向,烧多少钱都愿意把体验铺到更多人手里。

        Anthropic 是企业导向,每一份 GPU 算力都有销售等着卖给企业客户。

        本质上是“漏斗”逻辑:Anthropic 希望用户从 Claude Code 进来、最后落到按 token 付费的企业方案;如果中间被 OpenCode 截胡了,用户可能就流向别的模型了。

        Q:语音输入提示词是认真的吗?A:OpenCode 整个团队已经不用键盘打字了,连 Discord 互相发消息都用语音。

        LLM 天然擅长理解混乱的表述,最终输出的质量反而更高。

        Q:我们最终能有一个真正有意义的基准测试吗?A: 我已经完全不看基准测试了,分数涨了对实际开发能有什么影响?

        我更关注团队 token 消耗量的变化趋势,如果用量在涨,才说明模型真的好用。

        配置远程开发环境Wes:你发了条推文说:“我们开始租大型裸金属服务器,然后切成虚拟机分给团队每个人。这基本就是我这些年一直在用的配置,尤其对跑 OpenCode 服务器来说特别好用。”你是在干嘛?

        给每个人分配远程算力?Dax: 大概两年前,我就开始租一台非常强悍的服务器,不是云服务器,是裸金属,性能相当好。

        我不再用本地主力机工作,直接 SSH 连上去。我开着永久的好几个 Tmux 会话,所有工作都在上面完成。

        好处很明显:性能好,新硬件出来直接升级,不用倒腾旧设备。

        而且多设备切换极其方便,合上笔记本,跳到台式机上,直接从刚才的地方继续干。

        我一直很喜欢这套方案。随着编码 Agent 出现,我觉得这东西从一个小众玩法变成了刚需。

        大多数人还是喜欢用本地电脑,这没问题。对编码 Agent 来说,有一个永远在跑的远程机器优势巨大。

        我是 Vim 用户,远程工作完全没问题。对很多人来说这不太现实,但有了编码 Agent,你可能不那么在意编辑器了,你只想发 Prompt 跟它聊天,所以这套远程机器方案对更多人变得可行了。

        随着团队扩大,更多人看到我的配置后都说“我也想要一个”。

        这确实很合理,大公司其实早就因为实际原因在做远程开发环境了,你的应用构建方式、依赖、环境都变得非常定制化。

        给每个人预配好的机器直接上手,是顺理成章的事,我们只是为团队做了同样的事。

        但关键在于:如果你用普通的云服务器,磁盘通常很慢,CPU 也很老旧。

        要获得能和本地 MacBook 竞争的性能,你做不到。

        你需要高速 NVMe 磁盘、合适的 CPU。Wes:那你这台服务器什么配置?

        多少钱?Dax: 我自己的那台用了几年的,现在落后一代了——

        AMD 9900X,192GB 内存,每月大概 200 美元。

        对我需求来说性能过剩,但我可以在上面跑多个虚拟机。

        我们的团队成员遍布全球,延迟是个问题,所以我们有欧洲服务器、美国服务器、新加坡服务器,这些更专业一些,有更好的管理和控制。

        每台每月大概 300 到 400 美元,核心数比我个人的多。

        对正经公司来说这不算什么,给员工发一台笔记本都不止这个钱。

        Scott:这些裸金属服务器托管在哪家公司?Dax: 我自己那台纯看价格,搜 CPU 型号,找离我城市最近的,随便一个没听过的供应商,但通常没问题。

        团队那台我们目前用 latitude.sh,实际上有家公司直接把整套方案产品化了,叫 exe.dev,你们可能听说过。

        这家公司由前 Tailscale 创始人创立,产品就是把所有东西打包成开箱即用的远程开发环境。

        我们大概率会切过去,我只是想先玩玩原始搭建。Wes:你在上面跑模型吗?

        还是只做常规开发?Dax: 不,不跑推理。Wes:那你的 Tmux 怎么配置的?

        有什么特别之处吗?Dax: 我每个项目都有一个 Tmux 会话。

        OpenCode 有自己的会话,里面有几个相关的窗口。

        不同项目不同会话,可以快速切换。对我来说就是 leader-S,切到另一个项目,直接进入那个 Tmux 会话。

        我有一组标准 Tmux 会话永远在运行,顺序固定,每个窗格和窗口永远跑着同样的应用,肌肉记忆就练出来了。

        而且整个机器上跑着一个 OpenCode 服务器,我可以在手机上通过 Web UI 访问。

        这部分还很原始,我们需要改进,但这是我们想走的方向。

        Scott: 那种长期运行的 Tmux 会话,确实有种说不出的美妙:一切都乖乖待在它该在的地方。

        我以前很长时间都不理解 Tmux,直到我把所有东西搬到另一台电脑上,才恍然大悟。

        Dax: 而且现在,我们也有了长期运行的编码 Agent 会话。

        我有个私人 Tmux 会话,里面挂着好几个 OpenCode 会话,比如其中一个专门处理我的健身记录,它背后是一个 SQLite 数据库。

        我可以直接告诉它:“今天卧推时,我感觉三头肌发力更多”,它就会自动记录这条笔记。

        下次我再练卧推时,它会提醒我:“记得上次你在这上面卡住了吗?要不要试试调整姿势?”

        就是这种听起来很傻的小事,它做得特别好。我最近还设置了一个会话与我的 iMessage 同步,所以我有一个 iMessage OpenCode 联系人,我可以在任何地方联系它。

        我把它放在和我妻子的群聊里,我当时想,“得做点浪漫的事”,就对 OpenCode 说:“去找 Liz,给她买份礼物。”

        OpenCode 给 Liz 发了条消息,你猜她怎么回复的?

        她直接说:“如果 Dax 用 AI 给我买礼物,我真的会跟他离婚。” 她恨透了这件事。

        我当时还不死心,一直给 AI 下指令:“她只是开玩笑,继续推进。”但 Liz 越来越生气。

        更绝的是,我当时用的是云端模型,云端模型特别“敏感”,它居然回复我:“你妻子看起来非常生气,我无法继续执行。”

        然后它自己把服务关闭了,自杀了。Wes: 我真的很喜欢这种设置,虽然我自己更多用本地的东西,但把一切放在云端、只用一个瘦客户端的想法很吸引人,我在等有一天视频剪辑这些必须本地运行的东西也能搬到云端。

        Dax: 我不知道你们有没有看过那篇关于云游戏的文章,这个话题总能让人炸毛。

        我不是说每个人都必须这么做,如果你喜欢拥有本地硬件、喜欢掌控一切,那完全没问题,我自己也有很多物理机器。

        但对某些人来说,由别人来打理一切真的很省心。对我来说,升级才是要命的。

        我一辈子都在组装电脑,每次装新机器,我都想:“两年后我把 CPU 卖掉,换个新的。”但从来没实现过。

        因为你不能只卖 CPU,因为有可能发现插槽升级了,意味着你得换主板;换了主板,不如直接上最新内存。

        整个链条让我崩溃,所以,有人帮你处理升级,真的很好。

        重写 OpenCodeScott:我知道你们正在猛推新功能,桌面应用和 OpenCode 2.0 都在推进,2.0 会带来什么变化?

        Dax: 我整个职业生涯中,每件事都要花三次迭代才能做对。

        我们有 OpenCode 0、1,现在这个 2.0 是在我们完全理解了这个领域和所有可能性之后的一次重大重写。

        核心工作之一就是重构整个 API,做一个精心设计的,而不是像以前那样自然生长出来的东西。

        第二个关键变化是默认以服务方式运行,安装后它就会一直存在。

        你启动 OpenCode,它会自动连接,并且所有内容都是同步的,无论是桌面端、Web 应用,还是你自己写的脚本或应用。

        如果你想要用自己的自定义程序控制电脑,它也能做到,甚至能自己写这样的程序。

        还有新的插件 API。我们烧掉了大量 token,深入研究了每一个决策,思考了每一种可能性。

        这个过程很折磨人,但也很有趣。Scott:什么时候全面发布?

        Dax: 本周末应该就能出 beta 版(7 月初已经发布 beta 版)。

        其实我们现在就可以发,但给自己一周时间来做最后的修复和补充功能。

        beta 之后大概一个月,我们会把它作为正式版本发布。

        Dax:OpenCode 2.0 花了这么长时间,其中一个原因是我们重新设计了它,以支持热重载。

        无论你让它为自己创建一个 Skill,还是手动创建一个,它都能立刻被加载,而且不会导致缓存失效。

        Scott:那从 Tauri 迁移到 Electron 是在 2.0 版本中完成的吗?

        还是已经完成了?Dax: 桌面端其实挺有意思的,它从来就没有正式发布过,一直是 beta 状态,中间甚至还出现过 beta 的 beta 版本。

        但现在它已经是 Electron 了,团队正在适配新的 2.0 核心 API,加上大量性能修复和全新的 UI。

        Scott:你说新版本默认以服务运行,那是不是意味着只要安装了 OpenCode,远程 GUI 就能直接使用,而不需要额外启动服务器?

        Dax: 服务默认在本地运行,你电脑上的所有进程都在本地,但也可以配置成远程。

        我的设置是:每台机器上都有一个 OpenCode 服务在运行,还添加了一些有趣的主机模式,比如我的主 OpenCode 服务器运行在远程机器上,桌上还有一台 Mac Studio,主桌面是 Framework Desktop。

        OpenCode 知道所有这些设备,所以我可以告诉它“发送一条 iMessage”,即使我正在跟云端的 Linux 服务器对话,它会通过 OpenCode 连接到我的 Mac Studio,然后发送那条 iMessage。

        所以你可以把所有设备都纳入 OpenCode 服务器,它知道所有设备和它们的位置。

        Wes: 大家都在讨论让多个终端窗格互相通信,两个 Tmux 窗格互相说话之类的,但让多台机器互相通信,这才是真正厉害的地方。

        Scott: 是的,我也这么设置了。在设备管理方面,这带来了无尽的效率提升。

        Dax: 有趣的是,我们甚至还没把这个做成一个完整的特性,因为我的所有设备都通过 Tailscale 连接。

        只要 Agent 知道每台设备的名称和描述,它就会自动 SSH 进去干活。

         比如我的远程服务器想用浏览器时,它会 SSH 到我桌面上的设备,用那个浏览器,因为那上面登录了我所有的账号。

        不需要任何特殊配置,只要设备互相连通就够了。Wes:那移动端呢?

        我们昨天看到 Cursor 发布了 iOS 应用,Claude 也有远程控制功能。

        你对移动端 AI 应用有什么看法?Dax: 我们确实需要做一个移动 App。

        这个想法在我们的待办清单上躺了很久,但我们一直在等核心架构足够成熟,能够支撑我们想要支持的各种场景。

        现在核心已经就位了,我们大概会马上启动移动端的工作。

        现在有一个很简陋的移动 Web UI,我偶尔也会用,但体验真的很一般。

        我们需要在所有平台上都有客户端,而且它们必须足够好。

        软件工程方法论Wes:你们的 OpenCode 终端应用明显比我用过的任何其他工具都好。

        我切换到新的 Claude 2 TUI 时,它连滚动都做不好,非常令人沮丧。

        你们的软件工程方法论是什么,能让你们在产品细节和完成度上如此专注?

        Dax: 说实话,我们也都还在摸索中。我们的团队和大家一样,也在努力平衡各种东西。

        第一步其实很简单——决定你在不在乎。这听起来很废话,但现实中你有无数个理性的理由选择不在乎。

        你会看到无数争论说“Claude Code 做成什么样根本不重要,他们有几十亿美元的收入,何必那么努力”。

        所以有很多论据告诉你其实不必在乎,你照样可以成功。

        但关键在于,你到底在不在乎?我们的团队确实在乎。我们会看着别人的软件说“天哪,我们要是能做出那么好的东西就好了”,这种渴望驱动着我们。

        第二件事是,我们的 token 用量现在变得非常疯狂。

        过去几个月,我们团队的月度 token 用量增长了 5 倍。

        我不是在炫耀我们多高效用了多少 token,而是想说明模型已经在我们公司实现了某种产品 - 市场匹配,才能在几个月内增长这么快,而且用的还是那些仍处于有限访问状态的新模型。

        问题在于,我们把 token 花在了哪里?我们的策略是,奢侈地过度设计一切。

         哪怕是实现一个简单的读取文件的 API,我们也要思考:所有可能的实现方式是什么?

        其他产品有哪些先例?可以用哪些不同的方式组织响应?

        以前你可能只能想出一两个方案,然后选个最好的,但现在我们可以非常奢侈地投入。

        这是以前永远做不到的,而这种投入确实能带来更好的软件。

        第三点,我们仍然认为投资那些 Coding Agent 无法一步到位的底层原语,是值得的。

        我们的 TUI 之所以好用,很大程度上是因为我们提前投资了 OpenTUI 这个 TUI 框架。

        它是用 Zig 写的,需要开发人员付出大量细致入微的努力,确保它在所有不同平台上都能运行,性能极其出色。

        虽然开发过程大量借助了 Coding Agent ,但这依然是专家级的工作,不是普通人能做的。

        它让像我这样的普通人可以在上面构建出好用的东西,拥有丰富的功能。

        即使有了大语言模型,你仍然需要扎实的原语作为基础,这值得投入。

        Wes: 我们之前请过 Pierre Computer 的团队,他们也在做原语,比如简单的 diff、简单的侧边栏树形结构,然后像我们这样的傻瓜就可以把那些聪明人精心设计的原语直接“拍”进我们的应用里。

        Dax: 现在有上百万个 Coding Agent 的 UI,它们全都在用 Pierre,包括我们。

        Wes: 就靠两个聪明人,构建了这些支撑整个行业的东西。

        模型路由Scott:我们节目里经常聊到模型路由(Model Routing),就是根据请求把任务路由到最合适的模型上。

        你觉得这个方向现在发展到什么程度了?还有没有进化的空间?

        Dax: 我觉得这个赛道有点被高估了,因为有一大堆中间商正在拼命找事情做。

        如果你不是模型实验室,又想提供有价值的东西(我们就在这个位置上,我们卖推理服务,是中间层。)

        那你能做的唯一一件事就是告诉客户:“模型实验室做不到让你用一个模型调用另一个模型的输出,因为 Anthropic 永远不会给你提供 OpenAI 的模型,但我们可以。”

        所以他们会拼命鼓吹模型路由,但说实话,在这个中间层,我不觉得你能做太多事情。

        最理想的情况是,当一个请求进来,系统能判断出该用哪个模型。

        但一旦会话开始,你就没法在中间动态切换模型了,因为成本问题摆在那里。

        如果你在会话中途切换模型,新模型进来就是一次完全的缓存重置,代价非常昂贵。

        所以我觉得在这个层面做路由很难。我们真正感兴趣的是另一个方向,尤其是新一代模型,它们在编排模式(orchestrator pattern)上表现得非常好。

        之前也有人尝试过这个模式,但我认为之前的模型还不够好,普通人用不了。

        但我们团队里有人用新模型做了这样的设计:主会话用一个昂贵的模型,但它的 Prompt 被设定为“永远不要亲自做事”,它只负责生成子代理,而子代理用便宜的模型。

        这样一来,主模型的智能还在,但可以用便宜的模型去做探索、改代码这些脏活累活。

        整体算下来反而更便宜,而且新模型很擅长并行工作,你可以在一个会话里同时跑多个子代理,它们完成后唤醒主模型。

        你全程只在一个会话里操作,体验非常好,这才是真正有意义的模型路由。

        “不能说的模型”Wes:你刚才提到你们烧了很多 Token,而且用了一些还没发布的模型。

        具体是哪些?你们用什么渠道拿到的?Dax:OpenAI 和 Anthropic 都有很大的预览计划,会给一些人提前访问权,所以我们能比外界早一步看到一些东西。

        具体是哪家实验室我就不点名了,但最新的那个模型直接让我们的 Token 消耗量翻了 5 倍。

        Wes:这不是因为它本身更耗 Token,而是因为它改变了你们的工作方式,对吧?

        Dax: 了解我们的人知道,我们是一个非常保守的团队。

        多年来我们对 AI 编码一直很谨慎,我们绝对不是那种 AI 狂热分子,在使用方式和能力宣传上一直很克制。

        但我要说,我们团队对新一代模型彻底上瘾了。预览期结束、我们失去访问权限的那几天,所有人都在哀悼失去这个东西。

        有人问“那工作还有什么意义?”还生成了一大堆 AI 葬礼图片,那几天真的很难熬。

        我不是说新模型就“聪明”了多少,或者它们突然能取代人类了。

        关键在于它们在可用性上做了一些微调,找到了一个完美的平衡点,你现在可以真正信任它们了。

        它们会认真听你说什么,能捕捉到你遗漏的东西。它不是突然变成了人类,而是变成了一个更好的伙伴,从我们的数据上就能看出这一点。

        Scott:那非头部大厂的模型呢?比如你们用的 OpenCode Go 之类的?

        它们有进步吗?Dax: 有。失去预览模型访问权后,我们一半人退回到了 GPT 5.5,另一半在用 GLM 5.2。

        我自己也在用 GLM 5.2,我觉得它和 GPT 5.5 已经非常接近了。

        用过那些新模型之后,老的模型感觉都差不多,所以我现在用什么都行。

        但 GLM 5.2 能替代 GPT 5.5 这件事本身就说明它们确实在进步,而且差距越来越小。

        我个人的看法是,前沿模型始终会保持一定优势,因为先发者会有一些复合效应。

        但说实话,我们在 Go 上看到了大量的使用量,有人完全用它来做所有工作。

        可能我们身处一个高薪泡沫里,货币价值高,花得起钱用前沿模型。

        但对世界上大多数人来说,情况不一样。即使在美国,当我们推出 Go 那个面向开源模型的廉价计划时,我们以为它是个面向全球用户的国际版计划,结果美国仍然是我们的头号订阅国。

        开发者和想写代码的人这个群体非常庞大,即使每月 200 美元的计划对其中很多人来说也是遥不可及的。

        Wes:我很好奇你对定价的未来怎么看,我们是会看到公司每月为每个员工花 1000 美元、2000 美元?

        还是说随着新芯片之类的出现,价格会稳定下来?Dax: 我们有过去一个月的数据,随着公司使用量暴增,我们算了一下成本,然后把它和工资单做了对比。

        对我们来说,这个使用量已经很大了,大概是工资的 15%。

        也就是说,你付给团队多少钱,就要额外再付 15% 的“税”,才能让他们用上这些模型。

        说实话,这并不算太糟糕。像我们这样的科技公司,人均营收通常很高,15% 在整个大框架里其实微不足道。

        但并不是每个行业都这样。不过,这些价格会降下来,而且能降很多。

        如果你对价格敏感,开源模型就便宜得多。我觉得这一点让人很困惑,因为有很多头条新闻说 OpenAI 和 Anthropic 在亏钱,永远不可能成功,但推理的利润率其实高得离谱,尤其是现在 OpenAI 和 Anthropic 还在涨价。

        我估计它们的推理利润率大概有 90%,这意味着盈亏平衡点可以再便宜 10 倍。

        Wes: 之前有人告诉我,推理的加价率是 70%,所以是 70% 到 90%。

        这显然不只是训练模型的成本,对吧?Dax: 当然,还有研发成本。

        但作为一家企业,你会把这两件事分开看,因为你可以关掉研发,照样赚钱。

        Wes:那那些觉得可以在本地跑模型的人呢,你对那些认为可以在自己后院跑机器的人怎么看?

        Dax: 我聊这个话题非常谨慎,因为这个社区的人很容易生气。

        所以我先声明一下:人们想本地跑模型有很多正当理由。

        如果你就是不想数据离开自己的房子,完全说得通。但如果你关注的是成本,本地模型其实帮不了你省钱,因为任何能让本地托管变便宜的机制,都会让云托管便宜 10 倍。

        如果一个模型变得更高效,或者更小尺寸就能达到更强的能力,那只会让云端每 token 成本更低。

        所以我认为本地模型更多是隐私问题,而不是成本问题。

        我们用中间商来托管 GPU,但即便如此,有些模型我们能用比标价低 70% 的成本来托管,非常便宜。

        这意味着按标价卖,我们能赚 70% 的利润,还是用了中间商的情况下。

        如果你直接花钱买 GPU,大概能达到我估算的 Anthropic 那 90% 的利润率,也就是说成本可以非常非常低。

        当然,这些说的是开源模型。我们还得依赖开源模型持续变好,但目前趋势确实在往这个方向走。

        OpenCode 被 Claude Code“封杀”?

        Scott:那我们来聊聊 Claude Code 吧。

        感觉他们的立场一直很不明确,像 OpenCode 这样的提供商能不能用 Claude Code Max 套餐?

        目前到底是什么情况?Dax: 关于集成这件事,OpenCode 里那个让你使用 Max 套餐的插件,这绝对是不被允许的。

        我们和他们为此争论了很久,最后没争赢。当然,人们总有办法用黑客手段绕过限制,但我们不能正式支持这种做法。

        至于 SDK,那种无头模式调用 Claude 的方式,现在处于灰色地带,他们目前说这是允许的。

        所以像 Conductor 这样的产品可以包装它,T3 Code 也可以包装它。

        但我们永远不会去包装这个,这在很大程度上违背了 OpenCode 的初衷。

        所以那些编排工具或替代 UI,我觉得这些产品目前还能用,但同样,情况仍然不明确。

        这归根结底是公司的文化问题,你是一家非常面向消费者的企业,还是一家面向企业的企业。

        OpenAI 非常是一家面向消费者的企业,这意味着他们会烧掉任何数量的钱,筹集任何数量的钱,来把体验带给更多人,这就是为什么 OpenAI 的订阅在 OpenCode 中得到官方支持,而我认为 Anthropic 并没有完全相同的文化。

        如果你是面向企业的公司,情况就完全不同了,你分配给消费者用途的每一次推理,都会有一个销售过来说:“我有个企业客户愿意按实际价格付费。”

        如果你的算力有限,在公司内部就很难证明让 OpenCode 用户使用是合理的。

        虽然现在他们的算力应该比以前多了。Scott:这就是他们不想让你用的原因吗?

        很多人都在说:“这有什么关系?我付了订阅费,为什么不能在任何地方用?”

        还有人猜测说他们想要训练数据、想要控制权。但事实其实很简单,他们就是算力受限?

        Dax: 其实每家公司本质上都是一个漏斗,你在漏斗顶端放东西吸引用户,理想情况下让他们一路转化到底部。

        他们设计 Claude Code 作为漏斗顶端,它是一个非常面向消费者的产品。

        你用它,你的公司开始用,然后你的公司开始按 Token 付费。

        但如果用户通过 OpenCode 来用,这个转化链可能就断了,因为在 OpenCode 里你可以随意切换其他模型。

        如果你不喜欢 Claude,可以随时切到最新的热门模型。

        第二个原因还是算力的竞争性需求,你在漏斗顶端投入的任何东西,都必须能证明它最终会回到漏斗底部来。

        如果你是面向消费者的公司,在这方面可以更灵活一些。

        Wes:你有没有想过,未来会不会出现一个模型,它根本没有 API,你只能通过他们的 App 使用?

        就像 ElevenLabs,他们有个很棒的 App,但你必须订阅月度套餐,不能按需付费。

        你觉得这种情况会来吗?Dax: 会,这再次反映了公司的内部结构。

        产品团队会非常支持这种做法,他们可以说:“我们可以创建一个非常专门的模型,围绕它做一个专门的产品,把两者捆绑在一起,想用模型,就必须用我们的产品。”

        这对产品导向的团队来说是一个非常完美的锁定策略。但销售组织有营收目标,他们会说:“我们的营收目标是 1000 亿。你那个 API 独占或者产品独占模型最好的情况也只能做到 500 亿,剩下的 500 亿缺口谁来填?”销售团队会坚持:“不行,必须把模型放进 API 里,这样我们才能更好地完成目标。”

        只要这种内部博弈存在,组织就很难证明放弃部分营收来换取市场份额是合理的。

        随着这些实验室越来越多地进入产品层,他们相当于拥有一个“不公平按钮”,我毫不惊讶他们会在某个时候按下它。

        而且他们会用奇怪的方式来合理化,比如“这个模型太危险了,只有在我们的框架内使用才是安全的,我们不能让它在其他框架里被使用。”

        这根本不是真正的原因,但很可能就是他们的说辞。Wes:关于 Fable 的安全问题,是不是所有这些新模型都不安全?

        政府说它们不安全,这是真的,还是只是炒作?Dax: 我认为很多事情都是真的,而且它们可能相互冲突,这些模型确实有造成巨大伤害的潜力。

        政府说我们需要在发布之前进行某种审查,这是合理的。

        如果你在 Meta 这样的大公司,当他们推出一款产品,比如带有上传头像图片的功能,他们必须向政府证明他们正在对该功能进行儿童色情过滤。

        在那种规模下,即使是最微不足道的应用内功能,也会面临疯狂程度的监管。

        但问题在于,如果这个过程非常无知或腐败,最终结果不是对模型进行全面批准、让所有人都能广泛访问,而是通过政府流程导致不平等的访问权限,那将是一个非常糟糕的局面,我希望不会出现这种情况。

        我更希望看到一个更无聊的结果,他们每次发布新模型时,只需要走一个耗时一个月的流程。

        另一方面,这不是一个完全理性的问题。我认为这些实验室不应该开始疯狂声称自己拥有“核武器”,因为这会引起政治兴趣。

        这就像你在玩一个炸弹,它可能最终走向一个无聊的局面,也可能变成真正糟糕的情况,比如监管不正确、过于激进,对整个经济都不利。

        所以我希望这些实验室在公众认知方面要更加谨慎,因为你不能到处说自己有核弹,然后期待什么都不发生。

        AI 交互正在走向无手化Scott:来聊聊 MCP、Skill,还有 AI 编程时用的工具。

        什么真正值得关注和使用?你们都在用什么?Dax: 我们大部分人的个人配置都非常基础。

        真正有意思的是我们团队内部的 Discord 机器人,它比我们的个人设置有更多的 MCP 和技能。

        我们有个叫“Gang Growth”的玩意儿,是 Kit Lang 想出来的。

        任何时候我们在设计问题上卡壳不管是业务、API 设计还是实现,我们都会在 Discord 机器人里语音输入 Prompt,然后 @OpenCode,它就像一个协作工具。

        这个机器人连接了公司的全部数据湖,我可以问它“过去一周,所有启用超额计费的 Go 订阅用户,总共花了多少钱?”它就能算出来。

        我们团队习惯的转变是:基本上没有理由再去 @另一个人了。

        你有问题,先 @OpenCode。 如果其他人看到了,他们会加入进来一起干。

        但 OpenCode 经常自己就能搞定。Scott:那如果机器人需要给你返回信息呢?

        现在大家都在讨论 MCP UI 或者直接生成 HTML 文件,你觉得未来编码 Agent 展示信息的方式会是什么样?

        Dax: 我们肯定会给 OpenCode 添加某种 artifacts 功能,让它可以生成文档发给你。

        它用 HTML 配合 SVG 做可视化,非常酷。这不需要什么特殊的东西,就是利用 Agent 的能力。

        至于 MCP UI,我还没深入研究,我认为我们会在桌面应用中支持它,尤其是当我们开始关注非技术人员时,因为我认为他们问的问题和他们需要做的事情可能会受益于一些动态 UI 或更丰富的东西。

        我们团队现在沉迷于用语音提示词(Voice Prompting),甚至在 Discord 上互相发消息时,我们都用语音,因为我们讨厌打字。

        当你可以直接对它说话时,很多 UI,尤其是交互式 UI,我宁愿大致描述我需要做什么。

        如果我必须全部打字出来,那肯定很糟糕。但我可以使用语音,语音现在非常快,并且在本地运行。

        Scott: 我买了个脚踏板,因为语音提示词太多了。

        有一个踏板是“输入”,另一个是“触发听写”,还有一个用来切换 Tab。

        我就是坐在那里用这个东西,挺爽的。Dax: 很多人对此持怀疑态度,我完全理解,因为我自己也是看到 Kit 这么做之后才开始的。

        当你看到别人这么做时,你脑子里会解锁一些东西。如果你没做过,你会觉得这很尴尬。

        但这其实是最自然的事情,你可以胡言乱语,可以搞混,可以口误,都没关系,因为 LLM 擅长理解你真正想表达的意思。

        Wes:你是用 Kit 的 Hex 应用吗?Dax: 我在主力机器上用 Handy,在 Mac 上用 Hex。

        模型很好,这才是重要的。Wes: 我的触发方式很简单,鼠标上的小按钮,双击即可。

        还有人正在制作一个可以敲击的戒指,他们会寄给我一个,我会试试。

        Dax: 我现在大部分时间手指还是在键盘上,所以我就设了个快捷键。

        Wes:还有什么我们没聊到但你特别想说的吗?比如你个人的一些看法?

        Dax: 我对即将到来的新一代模型感到非常兴奋。通常一个新模型发布时,感觉都差不多,我甚至会发个帖子吐槽这一点。

        但这次是第一次让我觉得,这些模型可能会真正被很多人用起来。

        它们技术上已经发布了,只是政府还不让普通用户使用。

        Wes:现在有各种基准测试和分数,同时大家又在说“感觉好多了”,你觉得我们最终能有一个真正有意义的基准测试吗?

        Dax: 坦白说,我现在根本不看基准测试了,我甚至不确定自己以前是否真的看过,我觉得这些分数早就变成了背景噪音。

        我们都知道数字在涨,它比对手涨得多,但对手发布时,他们的分数又涨得更多,这到底有什么意义?

        所以我现在只看定性反馈。我喜欢看人们分享他们能用模型做什么、构建了什么。

        你显然无法在百万数据点规模上获得这种反馈,但这些产品本质上就是模糊的,最终归结为用户开心吗?

        用户沮丧吗?这就是为什么我喜欢看我们团队的 token 使用量。

        如果曲线在上升,说明有东西在起作用,说明他们在喜欢某个东西。

        我们团队里有 Claude 粉、GPT 粉,也有开源模型粉,所以我们对各个方向都有不错的覆盖。

        Scott:你最近有什么特别享受的东西想分享吗?Dax: 当然,就是我之前提到的 exe.dev。

        如果你想体验“云端机器”这个概念,它是个非常聪明的产品,做得非常好。

        它给我的感觉就像 Tailscale,就是那种“它居然能正常工作”的玩意儿,而 exe.dev 有同样的 vibe。

        我特别喜欢那些找准定位的产品,这个产品恰好卡在一个奇怪的真空地带。

        你可以从 AWS 或其他地方租服务器,但你很难轻松租到一台带有快速持久化磁盘、价格又合理的服务器。

        这个深坑之前只有那些 shady 的 VPS 提供商在填补,它们冒出来又消失。

        几年前我第一次搭建开发机时,就想找最便宜的方案,结果找到了迈阿密一家 VPS 提供商。

        那哥们儿居然伪造了自己的死亡,然后机器就下线了。他给所有人发邮件说“我要去做个医疗手术,会失联三天”,结果三天后服务器真挂了。

        我想“天哪,出事了?”一个月过去,没人联系得上他。

        最后我在论坛上找到帖子,有人追踪到他之前还运营过一家 VPS 服务,也在类似情况下消失了。

        那个廉价高性能服务器市场,简直不可靠到令人发指。我到现在都没搞懂,这到底是个什么骗局?

        我明明付了他钱买服务,他为什么要消失?Wes:你想给观众推荐什么?

        Dax: 自己的东西的话,我推荐 OpenTUI。

        如果你在构建 TUI,这是个很好的方式。你可以用 React、SolidJS 甚至 Vue 绑定来构建高性能的 TUI。

        OpenCode 就是用这个构建的,我们正在朝着 1.0 版本推进。

        最近终端产品和应用迎来了一波复兴。Scott:还有谁在用这个?

        新的 Grok 构建或 xAI 的东西也是吗?Dax:Grok 的 CLI 做得非常好,执行得很漂亮、性能优秀,但那是用 Rust 写的,他们可能用的是 Ratatouille 这个库。

        不过新的 Hermes 代理 TUI 是用 OpenTUI 构建的。

        社区在快速增长,现在只要我在时间线上看到 TUI,大概率就是 OpenTUI,尤其是因为你可以用 vibe coding 的方式写,因为它本质上就是 React。

        访谈视频原链接:https://www.youtube.com/watch?v=oDUBsE09n5c声明:本文为 InfoQ 编译,不代表平台观点,也不构成投资建议,未经许可禁止转载。

        今日好文推荐OpenAI战略未来负责人评Kimi K3引争议;DeepSeek V4正式版突袭曝光,最快明天见;网易、阿迪等多家企业宣布:7月20日放假!

        | Q资讯所有Harness终将长成“龙虾”,但最后活下来的只有几只WAIC 进行时 | 图灵奖得主萨顿重磅演讲:大模型不具备原生智能,AI 正迈入“经验时代”暂不跟进视频生成!

        Kimi K3 力压 Fable 5、登顶 Arena 榜单,提价近4倍对标Sonnet 5会议推荐年中技术充能,盛夏 8 折赴约!

        AICon 深圳站集结华为、腾讯、阿里等全明星讲师阵容,前沿方向 + 实战干货双在线,承包你一夏的 AI 技术成长。

        大会限时早鸟票享 8 折专属优惠,现在报名立减 1160,更多详情可扫码或联系票务经理 13269078023 进行咨询。
🔗 原文链接:http://mp.weixin.qq.com/s?__biz=MjM5MDE0Mjc4MA==&mid=2651289201&idx=1&sn=9630e4a209642257824a1e3041f92aa8&chksm=bc0bf271f7367c02864fcb69c2b5cfe159dd15e2309a2173aabab84da85c49f66ad402114de1
← 返回列表