InternLM 2.5 20B

InternLM

internlm2

InternLM 2.5 在各个方面都提供了强大的推理能力,以及为开发者提供的工具使用,同时对于那些拥有 24GB GPU 的用户来说,它的大小也恰到好处。

模型信息

模型

InternLM 2.5 20B

作者

InternLM

架构

internlm2

参数

20B

格式

gguf

磁盘大小

大约 7.55 GB

下载并运行InternLM 2.5 20B

在 LM Studio 中打开以查看下载选项

从终端下载 internlm2.5-20b

使用 lms 下载模型 — LM Studio 的开发者 CLI。

lms get internlm2.5-20b

从你的代码中调用 internlm2.5-20b

curl https://127.0.0.1:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "internlm2.5-20b",
    "messages": [
      { "role": "system", "content": "Always answer in rhymes." },
      { "role": "user", "content": "Introduce yourself." }
    ],
    "temperature": 0.7,
    "max_tokens": -1,
    "stream": true
  }'

下一步:构建!🔨

了解更多