GGUF
•
qwen
专为代码生成、代码推理和代码修复设计的代码专用 Qwen 2.5 的 3B 版本。
模型信息
模型
Qwen2.5 Coder 3B
作者
阿里巴巴
代码库
🤗 Qwen/Qwen2.5-Coder-3B-Instruct-GGUF↗
架构
参数
3B
格式
gguf
磁盘大小
约 2.10 GB
下载和运行Qwen2.5 Coder 3B
在 LM Studio 中打开以查看下载选项
在 LM Studio 中使用
使用 lms(LM Studio 的开发者命令行界面)下载模型。
lms
lms get qwen2.5-coder-3b
npx lmstudio install-cli
curl https://127.0.0.1:1234/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "qwen2.5-coder-3b", "messages": [ { "role": "system", "content": "Always answer in rhymes." }, { "role": "user", "content": "Introduce yourself." } ], "temperature": 0.7, "max_tokens": -1, "stream": true }'
lms log stream
lmstudio.js