英伟达优化Kimi K3推理，GB300提速1.68倍

据外媒报道，英伟达通过一项上游 vLLM 优化，使 2.8 万亿参数量的 Kimi K3 模型在 GB300 NVL72 硬件上达到 423 tok/s/user 的推理速度，对比相同硬件性能提升 1.68 倍。 上述数字为英伟达方面公布的口径，属于其单方说法，尚未见第三方复测或独立验证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。