Mistral AI·· 2026-01-22AI 评分59
Mistral AI 调试 vLLM 内存泄漏
Heaps do lie: debugging a memory leak in vLLM.
AI 导读
Mistral AI 在 disaggregated serving 环境下发现 vLLM worker 内存以约 400 MB/分钟线性增长，最终定位到 UCX 通过 mmap hook 拦截内存调用、导致注册缓存无限累积。
来源：Mistral AI · mistral.ai
Heaps do lie: debugging a memory leak in vLLM.
Mistral AI 在 disaggregated serving 环境下发现 vLLM worker 内存以约 400 MB/分钟线性增长，最终定位到 UCX 通过 mmap hook 拦截内存调用、导致注册缓存无限累积。
来源：Mistral AI · mistral.ai