•
qwen2
这款模型承诺支持 27 种语言并提供闪电般快速的响应，是阿里巴巴 Qwen2 系列中最小的入门级模型，该系列模型参数可扩展至 720 亿。
使用 lms — LM Studio 的开发者 CLI 下载模型。
lms get qwen2-0.5b
curl https://127.0.0.1:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "qwen2-0.5b",
"messages": [
{ "role": "system", "content": "Always answer in rhymes." },
{ "role": "user", "content": "Introduce yourself." }
],
"temperature": 0.7,
"max_tokens": -1,
"stream": true
}'
lms log stream 以查看发送到 LLM 的提示。lmstudio.js - LM Studio SDK 文档 (TypeScript)lms log stream - 流式服务器日志lms - LM Studio 的 CLI 文档