•
qwen
一个专门用于指令跟随、生成长文本(超过 8K tokens)、理解结构化数据(例如表格)和生成 JSON 结构化输出的 LLM。
模型信息
模型
Qwen2.5 14B
作者
Qwen
架构
qwen
参数量
14B
格式
gguf
磁盘大小
大约 8.99 GB
使用 lms
(LM Studio 的开发者 CLI) 下载模型。
lms get qwen2.5-14b
curl https://127.0.0.1:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "qwen2.5-14b",
"messages": [
{ "role": "system", "content": "Always answer in rhymes." },
{ "role": "user", "content": "Introduce yourself." }
],
"temperature": 0.7,
"max_tokens": -1,
"stream": true
}'
lms log stream
以查看你的提示如何发送到 LLM。lmstudio.js
- LM Studio SDK 文档 (TypeScript)lms log stream
- 流式传输服务器日志lms
- LM Studio 的 CLI 文档