25.9K 下载量

mistralai/
magistral-small
23.6B
mistral

MistralAI 的第一个推理模型,基于 Mistral Small 3.1

推理

上次更新6 月 10 日
README

Magistral Small

Magistral Small 在 Mistral Small 3.1 的基础上构建,通过 Magistral Medium 追踪的 SFT 和 RL 训练增加了推理能力。它是一个小巧高效的推理模型,拥有 24B 参数,量化后可以在单个 RTX 4090 或 32GB 内存的 MacBook 上本地部署。

该模型能够进行长时间的推理链,然后提供答案,并支持包括英语、法语、德语、日语、中文等在内的数十种语言。它具有 128k 的上下文窗口,并采用 Apache 2.0 许可证,可用于商业和非商业用途。

自定义字段

模型作者定义的特殊功能

启用思考

: 布尔值

(默认值 =true)

控制模型在回复前是否会进行思考

来源

此模型使用的底层模型文件

当您下载此模型时,LM Studio 会选择最适合您机器的来源(您可以覆盖此设置)

配置

此模型附带的自定义配置选项

温度
0.7
Top P 采样
0.95