跳到正文
原文
Hugging Face Blog·· 2026-04-29精选AI 评分84

Granite 4.1 LLMs:Granite Team 详解模型构建方法

Granite 4.1 LLMs: How They’re Built

AI 导读

IBM Granite Team 介绍 Granite 4.1 系列的构建过程,包括 3B、8B 和 30B dense decoder-only LLMs,以及约 15T tokens 的五阶段预训练流程,最长上下文扩展至 512K tokens。

推荐理由

文章完整拆解了 Granite 4.1 从数据配比、长上下文训练到多阶段强化学习的流程,适合了解小型 dense 模型如何通过数据和后训练提升能力。

来源:Hugging Face Blog · huggingface.co