•
internlm2
InternLM 2.5 在各个方面都提供了强大的推理能力,以及为开发者提供的工具使用,同时对于那些拥有 24GB GPU 的用户来说,它的大小也恰到好处。
模型信息
模型
InternLM 2.5 20B
作者
InternLM
架构
internlm2
参数
20B
格式
gguf
磁盘大小
大约 7.55 GB
使用 lms
下载模型 — LM Studio 的开发者 CLI。
lms get internlm2.5-20b
curl https://127.0.0.1:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "internlm2.5-20b",
"messages": [
{ "role": "system", "content": "Always answer in rhymes." },
{ "role": "user", "content": "Introduce yourself." }
],
"temperature": 0.7,
"max_tokens": -1,
"stream": true
}'
lms log stream
以查看你的提示如何发送到 LLM。lmstudio.js
- LM Studio SDK 文档 (TypeScript)lms log stream
- 流式传输服务器日志lms
- LM Studio 的 CLI 文档