Hugging Face Blog·· 3 小时前精选AI 评分74
VocabX 通过专用词表将实际推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Dharma AI 介绍 VocabX，一种面向领域的成本加权词表适配方法，在不改变 Qwen3-4B 基础模型、数据和训练配方的情况下，将葡萄牙语作文评分器的平均输出从 350 个 token 降至 101 个，实测推理成本降低 77.0%。
推荐理由
文章把词表压缩与实际推理成本联系起来，并用生产环境和多领域实验展示了成本、输出长度与质量之间的取舍。
来源：Hugging Face Blog · huggingface.co