Mistral AI 发布 Content Moderation API
Mistral AI 发布新的内容审核API，该服务与 Le Chat 使用的审核服务相同，提供原始文本和对话内容两个端点。其LLM分类器将文本分为9类，支持阿拉伯语、中文、英语等11种语言，并覆盖无资质建议和PII等模型生成危害。
推荐理由：Mistral AI公开了可定制的内容审核API及适用场景，帮助读者了解其分类方式、多语言覆盖和接入形态。
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
Mistral AI 发布新的内容审核API，该服务与 Le Chat 使用的审核服务相同，提供原始文本和对话内容两个端点。其LLM分类器将文本分为9类，支持阿拉伯语、中文、英语等11种语言，并覆盖无资质建议和PII等模型生成危害。
推荐理由：Mistral AI公开了可定制的内容审核API及适用场景，帮助读者了解其分类方式、多语言覆盖和接入形态。