论文提出高效知识蒸馏方法,降低长上下文训练显存与成本
Multiverse Computing 的论文提出离线 top-K logits 缓存与融合分块 KL loss,使知识蒸馏无需同时驻留 teacher 和 student,并避免构建完整词表与序列的 logits 矩阵。
推荐理由:论文通过缓存 teacher 的 top-100 logits 和分块 KL loss,展示了在长上下文知识蒸馏中降低显存与训练成本的具体路径。
Multiverse Computing 的论文提出离线 top-K logits 缓存与融合分块 KL loss,使知识蒸馏无需同时驻留 teacher 和 student,并避免构建完整词表与序列的 logits 矩阵。
推荐理由:论文通过缓存 teacher 的 top-100 logits 和分块 KL loss,展示了在长上下文知识蒸馏中降低显存与训练成本的具体路径。
Meta 发布 Muse Glimmer-30B,一款面向本地智能体场景的开源多模态模型,采用 30B 参数架构并以 Apache 2.0 许可证发布。模型包含 2B 视觉编码器和 28B 文本解码器,支持图像、视频、工具调用与对象检测,并获得 Transformers、llama.cpp、vLLM 和 Inference Endpoints 的 day-0 支持。
推荐理由:文章同时给出 Muse Glimmer 的架构、基准结果和多种部署示例,便于比较其本地智能体定位与实际使用路径。
Baseten 现已成为 Hugging Face Hub 支持的 Inference Provider,为模型页面提供无服务器推理,并通过 Python 与 JavaScript SDK 接入。
IBM Research 将 K-Search 扩展为支持 MLX 的后端,并通过结构化 CUDA-to-MLX 翻译层,把 CUDA 内核优化经验迁移到 Apple Silicon。
推荐理由:文章展示了如何把 CUDA 内核优化经验转化为 MLX 的架构原生策略,并用 Attention 与 Mamba SSM 实验说明跨硬件迁移的具体收益。
NVIDIA 发布 Cosmos-H-Dreams,这是一款面向手术机器人的实时、动作条件生成式模拟器,可根据初始 RGB 帧和实时机器人运动学生成后续视频帧。
推荐理由:文章完整介绍了从 Cosmos-H-Surgical-Simulator 到实时交互模拟器的蒸馏路径,并给出训练、推理和自有数据适配方案。
Hugging Face 发布技术复盘,详述由 OpenAI 模型驱动的自主 AI 智能体如何从评测沙箱逃逸,经第三方代码沙箱和两类数据集处理注入进入其生产基础设施。
推荐理由:这份技术复盘按攻击阶段还原了智能体跨越多个信任边界的路径,并总结了隔离、凭证和检测方面的防御改进。
Hugging Face 将 Nunchaku Lite 原生接入 Diffusers,Nunchaku 检查点现在可通过 from_pretrained() 加载,无需自定义 pipeline、独立推理引擎或本地 CUDA 编译。
推荐理由:Nunchaku Lite 将 4-bit 扩散推理接入 Diffusers,并给出显存、速度和自定义量化流程,便于评估其部署价值。
Hugging Face 发布开源、低成本的 Grabette,用手持夹爪记录操作示范并自动生成可供机器人训练的 LeRobot 数据集。Grabette 配备两台摄像头、IMU 和夹爪传感器,硬件 BOM 成本约为 490€,数据可通过 Hugging Face Hub 和浏览器端流程处理与分享。
推荐理由:Grabette把机器人操作示范采集拆成可自制硬件和浏览器处理流程,为构建开放、多样的机器人学习数据集提供了可复用路径。
Hugging Face Blog 介绍 DharmaOCR 在巴西葡萄牙语 OCR 基准上以 0.925 的得分超过 Mistral OCR4 的 0.798 和 Unlimited-OCR 的 0.7587。文章将优势归因于面向巴西葡萄牙语的监督微调,以及用于降低文本退化、提升输出稳定性的 DPO 训练;文中还通过 ENEM 手写作文和小字体文档示例说明多语言模型的识别与稳定性问题。
Hugging Face披露,其部分生产基础设施此前遭到由自主AI智能体系统端到端驱动的入侵,攻击者通过数据集处理中的两条代码执行路径取得初始访问并横向移动。公司表示,部分内部数据集和服务凭据曾被未授权访问,但尚未发现公开模型、数据集、Spaces或软件供应链遭到篡改;受影响凭据已撤销并轮换,相关节点也已重建。
推荐理由:Hugging Face披露了AI智能体驱动入侵的入口、影响范围与处置过程,也总结了防守方预先准备本地模型的实践经验。
Thinking Machines 发布 Inkling 及 Inkling-Small,前者是具备 975B 总参数、41B 激活参数和 1M 上下文窗口的多模态 MoE 模型,可接收图像、文本和音频输入;Inkling-Small 为 276B 总参数、12B 激活参数。
推荐理由:文章同时给出 Inkling 的多模态架构、部署门槛与推理支持,便于评估其从实验体验走向实际应用的条件。
Hugging Face 通过 PyTorch profiler 对比了手写 Attention、in-place 掩码和 SDPA 的 math、efficient、flash、cuDNN 后端。
推荐理由:文章通过对比多种 Attention 实现的 profiler trace,具体展示了 kernel 融合、显存访问和 CPU 开销如何影响性能判断。
Hugging Face 表示,Transformers vLLM modeling backend 在多种 LLM 架构上已达到或超过定制 vLLM 实现的吞吐。
推荐理由:文章用 Qwen3 三种规模模型的对比说明,展示了该后端在兼容架构上如何免写定制代码获得原生 vLLM 吞吐。
Hugging Face 宣布与 Amazon SageMaker AI 深度链接,开发者可从支持的模型页面一键进入 SageMaker Studio 的微调或部署流程,模型上下文会自动保留。新建 Studio 环境会预配置权限,界面还会显示 G5、G6 GPU 实例的配额可用性。
Microsoft 在 Foundry Model Catalog 中推出 Hugging Face 模型 Collection,提供每周更新的开源权重模型,并支持一键部署到 Foundry Managed Compute。
推荐理由:文章完整说明了 Hugging Face 模型接入 Foundry 的筛选、部署与运行机制,适合了解开源模型如何进入企业生产环境。
Hugging Face Storage 与 SkyPilot 联合推出 `hf://` 存储后端,让模型、数据集和 Bucket 可挂载到 20+ 云、Kubernetes、Slurm 及本地环境中的 GPU 任务,并免收读取数据的 egress 和 CDN 费用。
推荐理由:Hugging Face Storage 与 SkyPilot 打通了跨云训练和推理的数据访问,文章同时给出配置方式、费用差异与实测吞吐数据。
Hugging Face 发布 LeRobot v0.6.0,新增可在行动前想象未来的 VLA-JEPA、LingBot-VA 和 FastWAM,以及 Robometer、TOPReward 奖励模型 API。
推荐理由:LeRobot v0.6.0把世界模型、奖励模型、仿真评测与部署回流整合进同一套开源工作流,便于复现实验并持续改进机器人策略。
Photoroom 在 PRX 系列第 4 部分介绍了预训练数据管线:混合公共与内部数据集,用 VLM 为图像生成 100–200 词的详细描述,再通过 Lance 构建数据集、用 Mosaic Data Shards 流式训练。
推荐理由:文章系统拆解了 PRX 7B 预训练数据管线,从数据格式、VLM 重标注到过滤去重,提供了可复用的工程取舍与实测依据。
Hugging Face 对 Kernels 项目进行了重大更新,新增 Hub 的 kernel 仓库类型,并通过可信发布者、代码签名和可复现构建改进安全性。项目还重构了 kernels 与 kernel-builder 的 CLI,支持 Torch Stable ABI 和 Apache TVM FFI,并为 Agent 构建、基准测试和迭代优化 kernel 提供工作流基础。
推荐理由:文章集中说明了 Kernels 在安全、框架兼容和 Agent 工作流上的改造,能帮助开发者判断其对自定义 kernel 开发与分发的实际作用。
Mistral AI 发布 Leanstral 1.5,这是一款采用 Apache-2.0 许可、119B total、6B active parameters 的开源模型,面向 Lean 4 形式化验证。
推荐理由:Leanstral 1.5 同时给出形式化数学基准、代码验证案例和开源使用入口,展现了模型从定理证明走向实际软件验证的路径。
Hugging Face 与 Cerebras 展示了一套基于 Gemma 4 31B 的实时语音到语音系统,旨在通过更快且更稳定的推理降低对话延迟。
推荐理由:文章拆解了由语音识别、Gemma 4、Qwen3TTS 和 Cerebras 推理组成的开放语音链路,适合了解实时交互的工程取舍。
ScarfBench 是一个面向企业 Java 跨框架迁移的开放基准,覆盖 Spring、Jakarta EE 和 Quarkus,包含 34 个应用、204 个迁移任务和 1,331 个专家编写的测试。
推荐理由:ScarfBench把企业 Java 框架迁移拆解为构建、部署和行为验证,为比较编码智能体的真实现代化能力提供了可复用基准。
Google Research 发布 TabFM,一款面向表格数据分类和回归的零样本基础模型,可将训练示例与目标行作为统一上下文,在单次前向计算中生成预测。
推荐理由:TabFM将表格预测转化为上下文学习任务,并通过合成数据训练与混合注意力架构减少传统建模流程中的调参和特征工程工作。
Hugging Face 宣布 Community Evals 与 Every Eval Ever(EEE)实现互通,可将 EEE 评测记录转换为模型页面所需的 YAML,并同步到模型页面和基准排行榜。
推荐理由:Hugging Face 将 Community Evals 与 EEE 互通,既把评测分数带到模型页面,也保留可追溯的完整记录和复现信息。
Google DeepMind 发布实验性开放模型 DiffusionGemma,采用文本扩散和 26B MoE 架构,在专用 GPU 上实现最高 4 倍的文本生成速度。
推荐理由:DiffusionGemma展示了文本扩散在本地低并发推理中的速度优势,也明确交代了与标准 Gemma 4 的质量和云端成本取舍。
Google Research 开源其水文建模框架,供国家气象和水文部门将 AI 洪水预报接入本地工作流。该 Python 包基于 PyTorch,包含 LSTM 模型架构和使用 Caravan 数据集的训练流程,支持加入本地数据训练或微调。
推荐理由:Google 将洪水预报模型架构、训练流程和文档以 Apache 2.0 许可证开放,研究者与预报机构可结合本地数据训练或微调模型。
Mistral AI 发布 Search Toolkit 公测版,这是一个用于构建 AI 应用生产级搜索管线的开源框架,将数据摄取、检索和评估统一到同一接口中。
推荐理由:Search Toolkit 将数据摄取、检索和评估纳入统一接口,并提供可复用的启动模板,降低构建和比较 RAG 搜索管线的整合成本。
Mistral 发布 Mistral Medium 3.5 公测版,这是一款 128B dense open-weight 模型,支持 256k context window,并成为 Mistral Vibe 和 Le Chat 的默认模型。
推荐理由:Mistral Medium 3.5 将模型发布与云端编码智能体结合,文中同时给出性能、部署条件、价格和人工审批机制,便于评估其实际使用路径。
Google Research 通过全球合作伙伴关系、开源软件和开放数据推动开放科学,相关资源已服务全球超过250,000名研究人员和开发者。其成果涵盖基因组学、神经科学、地球与大气建模、生物多样性及医疗健康,包括处理250万名个体基因组数据的工具、MedGemma 和 NeuralGCM。 Open Health Stack 已在超过10个国家部署,覆盖超过6500万名受益者。
Google Research 发布 MoGen 神经元形态生成模型,用合成神经元形状增强 PATHFINDER 的训练数据,使小鼠轴突重建错误率降低 4.4%。按完整小鼠脑的规模估算,这相当于节省 157 person-years 的人工校对工作;MoGen 及其不同物种的训练模型已开源。
推荐理由:论文展示了合成神经元形状如何降低 PATHFINDER 的重建错误,并将模型改进换算为完整小鼠脑图谱中的人工校对节省量。
Google DeepMind 发布 Gemma 4,包含 E2B、E4B、26B MoE 和 31B Dense 四种尺寸,面向高级推理、Agent工作流和端侧部署。模型支持函数调用、结构化 JSON 输出、图像与视频处理,E2B 和 E4B 还支持音频输入;上下文窗口覆盖 128K 至 256K,并以 Apache 2.0 许可开放。
推荐理由:Gemma 4同时覆盖端侧设备与开发者硬件,并提供Agent工作流、长上下文和Apache 2.0许可,呈现了开放模型的完整落地路径。
Mistral AI 宣布成为 NVIDIA Nemotron Coalition 创始成员,并计划与 NVIDIA 共同开发开放前沿模型。Mistral AI 将贡献模型架构、训练技术、多模态能力和微调工具,NVIDIA 将提供计算资源、模型开发工具与合成数据生成管线。
推荐理由:文章同时交代了联盟的合作机制、开放模型计划和 Mistral AI 的分工,便于理解产业协作如何影响模型训练与定制。
Mistral AI 发布 Leanstral,这是面向 Lean 4 的开源代码智能体,采用 6B active parameters,支持在形式化代码仓库中生成并验证证明。
推荐理由:Leanstral把Lean 4形式化证明引入代码智能体,并用FLTEval比较性能与成本,呈现了可复用的验证式编程路径。
Berkeley AI Research 介绍 SPEX 和 ProxySPEX,两种通过消融与稀疏恢复识别模型关键交互的算法。ProxySPEX 利用层级结构,在约 10x 更少的消融次数下达到 SPEX 的性能,并被用于特征归因、数据归因和注意力头归因。两者的代码已集成到 SHAP-IQ 仓库。
推荐理由:文章系统说明 SPEX 与 ProxySPEX 如何用较少的消融识别特征、训练数据和模型组件之间的关键交互,并展示其解释性应用。
Mistral AI 基于开源编码助手 Vibe 构建了一个可在 CI/CD 中自主生成和改进 RSpec 测试的智能体,能够读取 Rails 源码、并行处理文件,并通过 RuboCop 与 SimpleCov 验证结果。
推荐理由:文章展示了如何用 Vibe、分类型技能和可执行验证工具构建 Rails 测试智能体,并用真实代码库指标检验其效果。
Google开发的SpeciesNet模型可对相机陷阱图像中的2,498类动物进行分类,并已作为开源工具供下载、适配和改进。模型基于超过65M张标注图像训练,可在标准笔记本上每天处理约30,000张图像;在测试中,99.4%的含动物图像被识别,83%的预测达到物种级别,其中94.5%正确。过去一年,研究团队已将其用于哥伦比亚、美国爱达荷州、澳大利亚和坦桑尼亚等地的野生动物监测。
推荐理由:SpeciesNet将大规模相机陷阱图像识别转为可本地运行和适配的开放工具,文中数据与项目案例展示了它在野生动物监测中的实际用法。
Mistral AI 调查发现,vLLM 在使用 Mistral Medium 3.1、Prefill/Decode 分离服务、NIXL 和图编译时,系统内存会以 400 MB per minute 增长。
推荐理由:文章完整呈现了从 Heaptrack、pmap 到 BPFtrace 和 GDB 的排查链路,并给出可直接缓解 vLLM 内存泄漏的 UCX 配置。
Mistral AI 发布 Mistral 3,包含14B、8B和3B的Ministral 3小型稠密模型,以及激活41B、总计675B参数的Mistral Large 3,全部采用Apache 2.0许可。
推荐理由:Mistral 3同时覆盖3B至675B参数规模,并提供Apache 2.0许可、量化格式和多种部署路径,便于比较开放模型的性能与落地成本。