Hugging Face Blog·· 2026-04-29精选AI 评分84
Granite 4.1 LLMs:Granite Team 详解模型构建方法
Granite 4.1 LLMs: How They’re Built
AI 导读
IBM Granite Team 介绍 Granite 4.1 系列的构建过程,包括 3B、8B 和 30B dense decoder-only LLMs,以及约 15T tokens 的五阶段预训练流程,最长上下文扩展至 512K tokens。
推荐理由
文章完整拆解了 Granite 4.1 从数据配比、长上下文训练到多阶段强化学习的流程,适合了解小型 dense 模型如何通过数据和后训练提升能力。
来源:Hugging Face Blog · huggingface.co