TL;DR · 一句话结论

Baseten 工程师实测：LLM 生成的推理引擎比 vLLM 快最多 90%。这是一条「论文研究（Research）」类 AI 信号，小雯机会评分 9.5/10，风险评分 3.6/10，数据源为 AI HOT / Baseten 工程博客（网页）。

• 这是什么：Baseten 工程师参考 MetaInfer 论文，让 Claude Code（Fable 5）为 Qwen-3.6-35B-A3B（NVFP4，单张 B200）自动构建推理引擎 VibeQwen，单流解码比 vLLM 0.25.1 快 90%，首 token 从 28ms 降至 12ms，并发 32 时吞吐高 71%。
• 为什么值得关注：研究信号要转成产品判断：它会降低成本、提升能力，还是创造新场景。这条值得关注：Baseten 工程师实测：LLM 生成的推理引擎比 vLLM 快最多 90%
• 归类标签：Research、Claude
• 首次收录：2026-10-03，累计出现 2 次