跳到正文

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

最新精选

第 41–56 条 · 共 56 条
7月7日周二
  1. Hugging Face Blog80

    Hugging Face Storage 与 SkyPilot 打通跨云 AI 工作负载

    Hugging Face Storage 与 SkyPilot 联合推出 `hf://` 存储后端,让模型、数据集和 Bucket 可挂载到 20+ 云、Kubernetes、Slurm 及本地环境中的 GPU 任务,并免收读取数据的 egress 和 CDN 费用。

    推荐理由:Hugging Face Storage 与 SkyPilot 打通了跨云训练和推理的数据访问,文章同时给出配置方式、费用差异与实测吞吐数据。

7月6日周一
  1. Hugging Face Blog76

    Hugging Face Kernels 完成重大更新

    Hugging Face 对 Kernels 项目进行了重大更新,新增 Hub 的 kernel 仓库类型,并通过可信发布者、代码签名和可复现构建改进安全性。项目还重构了 kernels 与 kernel-builder 的 CLI,支持 Torch Stable ABI 和 Apache TVM FFI,并为 Agent 构建、基准测试和迭代优化 kernel 提供工作流基础。

    推荐理由:文章集中说明了 Kernels 在安全、框架兼容和 Agent 工作流上的改造,能帮助开发者判断其对自定义 kernel 开发与分发的实际作用。

7月1日周三
  1. Hugging Face Blog72

    ScarfBench 发布企业 Java 框架迁移基准,评估 AI 智能体的构建、部署与行为保持能力

    ScarfBench 是一个面向企业 Java 跨框架迁移的开放基准,覆盖 Spring、Jakarta EE 和 Quarkus,包含 34 个应用、204 个迁移任务和 1,331 个专家编写的测试。

    推荐理由:ScarfBench把企业 Java 框架迁移拆解为构建、部署和行为验证,为比较编码智能体的真实现代化能力提供了可复用基准。

6月23日周二
6月17日周三
  1. Google DeepMind75

    Google DeepMind与英国政府测试AI规划工具,目标将申请处理时间缩短50%

    Google DeepMind与英国政府等合作开发基于Gemini的AI规划原型,目标帮助规划人员将住宅规划申请的决策时间缩短50%。工具可整理历史文件、识别相关政策、总结咨询反馈并起草评估报告,但最终决定仍由规划人员作出;英国政府计划在早期试验后于2027年向全国所有地方政府开放。

    推荐理由:Google DeepMind与英国政府共同测试的原型把规划资料整理、政策核对和报告起草串成一套流程,呈现了AI介入公共服务时的人工复核与审计安排。

  2. Google Research77

    Google 发布用于自然恢复的 Earth AI 矢量数据集

    Google 发布一套面向英国自然恢复的矢量化数据集,可识别并分类树篱、石墙和小片林地等细尺度生态特征。该系统基于 Remote Sensing Foundations 的 ViT Backbone,结合亚米级影像和 1 米 LiDAR 数据,并通过 Polsby–Popper 紧致度评分区分林地、木本斑块和线性木本特征。

    推荐理由:Google 将高分辨率栅格地图转为可操作的矢量数据集,展示了 AI 如何把生态特征识别推进到保护规划与碳核算。

6月11日周四
6月9日周二
  1. Google DeepMind86

    Google DeepMind 发布 Gemma 4 12B 多模态模型

    Google DeepMind 发布 Gemma 4 12B,这是一款采用统一、无编码器架构的多模态模型,支持原生音频输入,并面向本地 Agent 工作流。模型性能接近 26B MoE,运行所需内存低于其一半,可在 16GB RAM 或统一内存的笔记本上本地运行。

    推荐理由:Gemma 4 12B把原生音频与视觉输入、Agent 工作流和本地运行结合在一起,材料也给出了部署与开发入口。

5月23日周六
  1. Mistral AI63

    Mistral AI 收购 Physics AI 公司 Emmi AI 加速工业智能体布局

    Mistral AI 宣布已达成收购 Physics AI 公司 Emmi AI 的最终协议,以增强面向工业企业的 AI 转型能力。Emmi AI 的联合创始人及 30 多名研究人员和工程师将加入 Mistral AI 的 Science 与 Applied AI 团队,其模型将用于工程工作流、实时模拟和数字孪生。

    推荐理由:此次收购将 Physics AI、工程模型与智能体工具调用能力并入 Mistral AI,为理解其工业 AI 布局提供了具体线索。

5月8日周五
  1. Berkeley AI Research64

    Adaptive Parallel Reasoning:高效推理扩展的下一种范式

    Berkeley AI Research 发布对 Adaptive Parallel Reasoning 的综述与观点分析,介绍模型如何在推理时动态决定是否并行、并行线程数及协调方式。

    推荐理由:文章梳理了自适应并行推理的控制流、执行系统与训练奖励设计,帮助读者比较不同方案在准确率、延迟和工程复杂度上的取舍。

4月27日周一
  1. Mistral AI81

    Mistral AI 发布企业 AI 编排层 Workflows 公测版

    Mistral AI 发布企业 AI 编排层 Workflows 的 public preview,用于将 AI 流程可靠地部署到生产环境。开发者用 Python 编写工作流,Studio 记录执行轨迹,流程可在中断后恢复并通过 wait_for_input() 暂停等待人工审批。

    推荐理由:Workflows把持久化执行、可观测性和人工审批整合进企业流程,并说明了从开发到部署的具体架构。

4月22日周三
3月31日周二
  1. Mistral AI76

    Mistral AI 发布面向人类与智能体的 Spaces CLI

    Mistral AI 推出 Spaces CLI,用于脚手架搭建、开发环境配置、配置生成和部署,并通过交互输入的 flag 等价物支持编码智能体无障碍操作。Spaces 还为项目生成 context.json 和 AGENTS.md,借助可查询的插件注册表与显式状态降低智能体执行命令时的猜测和阻塞;文中示例显示,从提示到上线部署用时不到 10 分钟。

    推荐理由:文章以 Spaces 的实际设计取舍为例,系统说明了让 CLI 同时适配人类开发者、编码智能体和自动化流程的方法。

1月22日周四
10月24日周五
  1. Mistral AI77

    Mistral AI 发布企业生产级 AI 平台 AI Studio

    Mistral AI 发布 AI Studio,面向企业提供从 AI 原型到生产部署的统一平台。平台由 Observability、Agent Runtime 和 AI Registry 三部分组成,支持评测、反馈追踪、版本管理、治理以及 hybrid、dedicated 和 self-hosted 部署,并开放 private beta 注册。

    推荐理由:Mistral 将可观测性、Agent Runtime 和 AI Registry 组合成生产平台,具体呈现了企业从原型走向部署所需的闭环能力。

9月9日周二
  1. Mistral AI66

    Mistral AI 完成 1.7B€ C 轮融资,投后估值达 11.7B€

    Mistral AI 宣布完成 1.7B€ 的 Series C 融资,投后估值为 11.7B€,由半导体设备制造商 ASML Holding NV 领投。DST Global、Andreessen Horowitz、Bpifrance、General Catalyst、Index Ventures、Lightspeed 和 NVIDIA 等现有投资者参与本轮融资。

    推荐理由:这轮融资同时引入 ASML 的战略合作,原文交代了资金规模、估值及其对工业与半导体场景研发的用途。