Mistral AI 发布代码模型 Codestral
Mistral AI 发布首个代码模型 Codestral,这是一个面向代码生成的 22B 开放权重模型,支持 80+ 种编程语言和 fill-in-the-middle。
推荐理由:Codestral同时提供开放权重模型、32k上下文窗口和多种接入方式,便于比较代码生成性能与实际部署路径。
开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。
Mistral AI 发布首个代码模型 Codestral,这是一个面向代码生成的 22B 开放权重模型,支持 80+ 种编程语言和 fill-in-the-middle。
推荐理由:Codestral同时提供开放权重模型、32k上下文窗口和多种接入方式,便于比较代码生成性能与实际部署路径。
Mistral AI 发布带有开放权重和Apache 2.0许可的 Mixtral 8x7B,并同步推出 Mixtral 8x7B Instruct。模型总参数量为46.7B,每个 token 使用12.9B参数,官方称其在多数基准上达到或超过 Llama 2 70B 和 GPT3.5,推理速度提升至6x。
推荐理由:Mixtral 8x7B同时公开权重与Apache 2.0许可,并用稀疏专家架构控制推理成本,适合比较开放模型的性能与部署取舍。
Mistral AI 发布首个 7B-parameter 模型 Mistral 7B,称其在标准英语和代码基准上超过当时所有不超过 13B 参数的开放模型。该模型采用 Apache 2.0 发布,可用于摘要、结构化和问答,并以更低成本运行;Mistral AI 同时开放 GitHub 仓库和 Discord 社区。
推荐理由:Mistral AI 以 Mistral 7B 的发布展示了小型开放模型在性能、成本和部署灵活性之间的取舍。
Mistral AI 发布 Mistral 7B,这是一个 7.3B 参数的语言模型,官方称其在所有基准上超过 Llama 2 13B,并在多项基准上超过 Llama 1 34B。
推荐理由:这篇发布同时给出 Mistral 7B 与 Llama 系列的基准对比、推理优化机制和 Apache 2.0 使用方式,便于判断小模型的性能与部署成本。