跳到正文
原文
Hugging Face Blog·· 2026-09-02精选AI 评分69

BenchMIRT:LLM 基准测试究竟测量了什么?

BenchMIRT: What are LLM benchmarks actually measuring?

AI 导读

Allen Institute 介绍 BenchMIRT,一种在单个提示词和任务层面审计 LLM 基准测试的方法。它基于 100 个 LLM、16 个基准和超过 34K 道题的结果,独立识别出安全与通用推理两个主要维度,并发现 BBQ、WMDP 等基准的得分可能混合了不同能力信号。

推荐理由

BenchMIRT 将多维 IRT 应用于 100 个 LLM 和 34K 多道题,展示了如何拆解基准分数中的推理与安全信号。

来源:Hugging Face Blog · huggingface.co