TL;DR · 一句话结论

小红书与北大开源 UltraEP：面向大规模 MoE 训推的实时负载均衡方案。这是一条「论文研究（Research）」类 AI 信号，小雯机会评分 9.5/10，风险评分 3.6/10，数据源为 AI HOT / 公众号：小红书技术（dots.llm）。

• 这是什么：小红书与北大提出 UltraEP，首次将基于精确路由信息的实时负载均衡引入生产系统，在每个 microbatch 和每一层动态复制热点专家。在 Qwen3-235B 等模型上，训练吞吐平均达到理想性能的 94.6%，相比 Megatron-LM 提升 42%；推理 prefill 吞吐相比 SGLang 提升 1.56 倍。
• 为什么值得关注：研究信号要转成产品判断：它会降低成本、提升能力，还是创造新场景。这条值得关注：小红书与北大开源 UltraEP：面向大规模 MoE 训推的实时负载均衡方案
• 归类标签：Research
• 首次收录：2026-07-21，累计出现 1 次