跳到正文
原文
Hugging Face Blog·· 5 小时前精选AI 评分65

StateBench 基准测试语言模型在长文档中跟踪状态变化的能力

StateBench: Testing how language models track state changes over long documents

AI 导读

Hugging Face 发布 StateBench,用于评估语言模型在长文档中跟踪实体状态变化的能力,并将任务分为四个复杂度等级。测试显示,Gemini 3.8 Flash、Claude Opus 5.5、GPT-6 Sol 和 Luna 在更难的状态跟踪任务上随输入变长而明显退化,最长的一般有限问题准确率降至 13% 或更低。

推荐理由

StateBench 将长文档状态跟踪拆成四种复杂度,并比较 Transformer、混合架构与 Gated DeltaNet 在不同长度和训练设置下的表现。

来源:Hugging Face Blog · huggingface.co