Mercury 2.5 推荐,扩散模型的快字诀走到哪一步了
常规大模型逐个 token 生成文字,扩散式语言模型把整段文字当去噪任务并行求解,速度天然占优。Inception Labs 的 Mercury 系列是这条路线的代表,九月上旬发布的 2.5 版自称每秒 1107 个 token,第三方实测 770 个,两种口径都远超逐 token 模型。我把官方公告、第三方评测和 Hacker News 的两轮讨论都过了一遍,这个快字诀的成色与短板一起说。
主要功能
Mercury 2.5 官方称是迄今训练的最大扩散语言模型。上下文 260K token。智能水平比上代提升四成(自称),对标 GPT-5.6 Luna 低档、Gemini 3.5 Flash-Lite 与 Claude Haiku 4.5 这批成本优化型模型。速度是最大卖点,官方口径 1107 token 每秒跑在通用的 NVIDIA 显卡上,Artificial Analysis 的实测是 770.4 token 每秒,在 175 个模型里排第二,中位数才 108。
注意官方公告没有公开任何基准分数,能力对比只有定性说法,这在大模型发布里少见,引用时全靠第三方数据。AA 的智能指数给到 12 分,低于同价位中位数,结论是智能低于平均、按价格看性价比尚可。首 token 延迟 2.95 秒也偏慢,中位数是 2.23 秒,快在了生成段,慢在了起跑线,交互式应用要两头一起看。
功能面有扩展,可调推理档位、并行工具调用、schema 匹配的 JSON 输出,语音版本 Mercury Voice 预览把首响应压到 170 毫秒内,还有路由器预览。更大参数量的模型在训练中,官方留了这句尾巴。客户案例官方称 OpenCall 的长尾延迟从分钟级降到一秒,Augment Code 的上下文压缩延迟降八成、成本降九成(均为自称)。
解决了什么需求
对延迟敏感的场景是它的主场。代码补全要的就是响一下就出结果,语音管道要的是跟得上人说话,批量分类与抽取要的是吞吐。HN 用户 aeonstack 在 OpenRouter 试了预览版,个人编程场景比同量级开源模型聪明,吞吐快得不真实,但事实性问答不行,这个画像与 AA 的数据吻合。lumost 看重的是边际成本,缓存未命中的大批量任务用扩散模型有真实价值。
批评的声音集中在两点。一是速度优势的持久性,b1504f21 指出小批量下 H100 只有每秒一两百 token,服务端批量上去后与传统模型的差距缩小。二是质量,behnamel 的说法尖锐,1107 token 每秒生成的垃圾比没人用的模型还差,速度不构成护城河。voiceeh 提醒延迟产品要看首 token 时间,七百毫秒以上的长尾不可接受。Cerebras 上 gpt-oss-120b 跑 1400 token 每秒且同样聪明的对比也摆在桌面上。
价格与授权
API 定价官方口径输入 0.2 美元、输出 0.75 美元每百万 token,发布期打两折到 0.04 与 0.15,AA 页面记录的输入价是 0.25 美元,两处口径并存,以账单为准。新用户送一亿 token 免费额度,YC 公司可领五十万美元部署权益,playground 免费玩。权重未开源,初代 Mercury Coder 的小模型当年开放过 HuggingFace,2.5 这代没有。渠道有自家 API 平台、OpenRouter 与 Baseten。
团队背景给这个方向加了点分。创始人 Stefano Ermon 是斯坦福教授,扩散模型方向的研究者。种子轮五千万美元由 Menlo Ventures 领投,Databricks、英伟达与微软的战投都在名单里,天使投资人里有吴恩达与 Andrej Karpathy,这个投资人阵容本身就是一份背书。
注意事项
选型前算三笔账。智能密度低于同价位中位数的部分,用不到智能的任务里不存在,用得到智能的任务里是硬伤。首 token 延迟偏慢,交互式场景先实测起跑时间。公开基准缺失,采购评估只能靠自己的任务集,把免费额度花在这上面最划算。扩散架构的已知局限也有业内声音,中途停止会伤质量,对温度敏感,改一个验证 token 就可能破坏并行采样,这些来自 HN 上做过扩散模型的开发者。
总结
把生成速度拉高一个量级,Mercury 2.5 在低延迟细分里确实没有等价对手,智能短板决定了它是场景型选手而非通用主力。代码补全、批量抽取、语音管道这三类任务值得一试,免费额度足够验证。扩散路线能不能补上智能课,是这个方向未来一年最大的悬念。低延迟场景的候选人名单里,它值得占一格。
来源
- 官方发布公告 https://www.inceptionlabs.ai/blog/introducing-mercury-2-5
- Artificial Analysis 模型页 https://artificialanalysis.ai/models/mercury-2-5
- 官方博客列表 https://www.inceptionlabs.ai/blog
- API 平台 https://api.inceptionlabs.ai
- TechCrunch 融资报道 https://techcrunch.com/2025/11/06/inception-raises-50-million-to-build-diffusion-models-for-code-and-text/
- Hacker News 发布讨论 https://news.ycombinator.com/item?id=49616354
- Hacker News 速度帖 https://news.ycombinator.com/item?id=49823348