Mistral AI 如何定位并修复 vLLM 中的内存泄漏
Mistral AI 调查发现，vLLM 在使用 Mistral Medium 3.1、Prefill/Decode 分离服务、NIXL 和图编译时，系统内存会以 400 MB per minute 增长。
推荐理由：文章完整呈现了从 Heaptrack、pmap 到 BPFtrace 和 GDB 的排查链路，并给出可直接缓解 vLLM 内存泄漏的 UCX 配置。
拿来就能用的实操内容：提示词技巧、工作流搭建、工具用法与踩坑经验。
Mistral AI 调查发现，vLLM 在使用 Mistral Medium 3.1、Prefill/Decode 分离服务、NIXL 和图编译时，系统内存会以 400 MB per minute 增长。
推荐理由：文章完整呈现了从 Heaptrack、pmap 到 BPFtrace 和 GDB 的排查链路，并给出可直接缓解 vLLM 内存泄漏的 UCX 配置。