← 所有模型

magistral-small

公开

MistralAI 的首个推理模型,基于 Mistral Small 3.1

33.6K 下载量

16 星标

功能

推理

最低系统内存

19GB

标签

23.6B
mistral

README

Magistral Small

Magistral Small 是在 Mistral Small 3.1 的基础上开发的,通过对 Magistral Medium 轨迹进行监督微调 (SFT) 以及强化学习 (RL) 训练,增强了推理能力。它是一个拥有 24B 参数量、小巧且高效的推理模型,量化后可以单机部署在 RTX 4090 或拥有 32GB 内存的 MacBook 上。

该模型在提供答案前能够进行长链推理过程,并支持包括英语、法语、德语、日语、中文在内的数十种语言。它拥有 128k 的上下文窗口,并采用 Apache 2.0 许可证,可用于商业和非商业用途。

自定义字段

模型作者定义的特殊功能

启用思考

: 布尔值

(默认值 =true)

控制模型在回复前是否会进行思考

参数

此模型附带的自定义配置选项

温度
0.7
Top P 采样
0.95
© . This site is unofficial and not affiliated with Element Labs, Inc.