跳到正文
原文
AWS Machine Learning Blog· Nicolas Jourdan·· 3 小时前精选AI 评分83

Amazon SageMaker AI 发布训练会话 API,支持自定义 LLM 训练循环

Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIs

AI 导读

Amazon SageMaker AI 推出训练会话 API,允许用户在本地 Python 进程中编写自定义 LLM 训练循环,由托管 GPU 执行 sampling、forward_backward、optim_step 和 checkpoint 操作。

推荐理由

文章用 GSM8K 和代码强化学习示例说明训练会话 API 如何把自定义算法与 GPU 运维解耦,并展示了计费和工程流程。

来源:AWS Machine Learning Blog · aws.amazon.com