•
qwen
Qwen2.5 的迷你版本。
模型信息
模型
Qwen2.5 0.5B Instruct GGUF
作者
Alibaba
架构
qwen
参数量
0.5B
格式
gguf
磁盘占用空间
大约 397.81 MB
使用 LM Studio 开发者 CLI lms
下载模型。
lms get lmstudio-community/qwen2.5-0.5b-instruct-gguf
curl https://127.0.0.1:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "lmstudio-community/qwen2.5-0.5b-instruct-gguf",
"messages": [
{ "role": "system", "content": "Always answer in rhymes." },
{ "role": "user", "content": "Introduce yourself." }
],
"temperature": 0.7,
"max_tokens": -1,
"stream": true
}'
lms log stream
以查看发送到 LLM 的提示。lmstudio.js
- LM Studio SDK 文档 (TypeScript)lms log stream
- 流式服务器日志lms
- LM Studio 的 CLI 文档