6.4K 下载

mistralai/
magistral-smal...
23.6B
mistral

MistralAI 的首个推理模型,基于 Mistral Small 3.1

推理

上次更新时间   3 天前

最低19GB
自述文件

Magistral Small

Magistral Small 在 Mistral Small 3.1 的基础上,通过 Magistral Medium 轨迹的 SFT 和 RL 训练,增加了推理能力。它是一个小巧高效的推理模型,拥有 24B 参数,量化后可在单个 RTX 4090 或 32GB RAM MacBook 上本地部署。

该模型能够在提供答案之前进行长链推理,并支持包括英语、法语、德语、日语、中文等数十种语言。它具有 128k 的上下文窗口,并采用 Apache 2.0 许可证,可用于商业和非商业用途。

自定义字段

模型作者定义的特殊功能

启用思考

: 布尔值

(默认=true)

控制模型在回复前是否进行思考

来源

此模型使用的底层模型文件

当您下载此模型时,LM Studio 会选择最适合您机器的源(您可以覆盖此设置)

配置

此模型包含的自定义配置选项

温度
0.7
Top P 采样
0.95