Mistral Nemo 2407

MistralAI

mistral

Mistral AI 推出的一个稍大的 120 亿参数模型,NeMo 提供了 128k token 的超长上下文长度、先进的世界知识和面向开发者的函数调用功能。

模型信息

模型

Mistral Nemo 2407

作者

MistralAI

架构

mistral

参数

120亿

格式

gguf

磁盘大小

6.56 GB

下载和运行Mistral Nemo 2407

在 LM Studio 中打开以查看下载选项

从终端下载 mistral-nemo

使用 lms(LM Studio 的开发者命令行界面)下载模型。

lms get mistral-nemo
如果您还没有安装,请运行 npx lmstudio install-cli

从您的代码中调用 mistral-nemo

curl https://127.0.0.1:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral-nemo",
    "messages": [
      { "role": "system", "content": "Always answer in rhymes." },
      { "role": "user", "content": "Introduce yourself." }
    ],
    "temperature": 0.7,
    "max_tokens": -1,
    "stream": true
  }'

下一步:构建!🔨

了解更多