Google Research 研究 AI 基准需要多少名人类评分者
Google Research 在“Forest vs Tree: The (N, K) Trade-off in Reproducible ML Evaluation”中研究评测项目数量与每项评分者数量之间的取舍。
推荐理由:研究用多个主观评测数据集和模拟器比较样本广度与单项评分深度,为控制标注成本并提高 AI 基准可复现性提供了具体设计依据。
训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
Google Research 在“Forest vs Tree: The (N, K) Trade-off in Reproducible ML Evaluation”中研究评测项目数量与每项评分者数量之间的取舍。
推荐理由:研究用多个主观评测数据集和模拟器比较样本广度与单项评分深度,为控制标注成本并提高 AI 基准可复现性提供了具体设计依据。
Berkeley AI Research 介绍 SPEX 和 ProxySPEX,两种通过消融与稀疏恢复识别模型关键交互的算法。ProxySPEX 利用层级结构,在约 10x 更少的消融次数下达到 SPEX 的性能,并被用于特征归因、数据归因和注意力头归因。两者的代码已集成到 SHAP-IQ 仓库。
推荐理由:文章系统说明 SPEX 与 ProxySPEX 如何用较少的消融识别特征、训练数据和模型组件之间的关键交互,并展示其解释性应用。
Google Research推出Groundsource,利用Gemini从80种语言的新闻报道中提取洪水事件,构建覆盖150多个国家、从2000年至今的2.6 million条历史记录。人工复核显示,60%的事件在地点和时间上均准确,82%达到实际分析可用程度;相关数据集已开放,并用于支持最多提前24小时的城市暴洪预测及Google Flood Hub的覆盖扩展。
推荐理由:Groundsource展示了如何用Gemini从多语言新闻中提取并校验灾害时空信息,为缺乏统一观测体系的洪水研究补充历史数据。
Google Research 发布 WAXAL,这是一个覆盖27种撒哈拉以南非洲语言的开放语音数据集,服务于自动语音识别(ASR)和文本转语音(TTS)。首批资源包含约1,846小时转录自然语音和超过565小时高保真录音,覆盖超过100 million speakers,并以 CC-BY-4.0 许可开放。数据由非洲学术与社区组织参与采集,Google 计划持续扩展语言覆盖范围。
推荐理由:WAXAL同时覆盖自然语音识别与高保真语音合成数据,并以开放许可面向27种非洲语言,为低资源语音技术研究提供了可复用基础。