Hugging Face Blog·· 8 天前精选AI 评分74
Liquid AI 发布 LFM2.5-VL-3B 的 LFM2.5-VL-DSpark 加速模型
Accelerating vision-language models with LFM2.5-VL-DSpark
AI 导读
Liquid AI 发布面向视觉语言模型 LFM2.5-VL-3B 的实验性 LFM2.5-VL-DSpark draft model，通过 speculative decoding 在不改变输出质量的情况下加速推理。
推荐理由
这次发布展示了 DSpark 如何在不改变输出质量的前提下加速 VLM 推理，并给出端侧与 H100 上的实测收益和部署方式。
来源：Hugging Face Blog · huggingface.co