Qwen2.5 Coder 0.5B Instruct GGUF

阿里巴巴

qwen

针对代码生成、代码推理和代码修复的 Qwen 2.5 代码专用 0.5B 版本。

模型信息

模型

Qwen2.5 Coder 0.5B Instruct GGUF

作者

阿里巴巴

架构

qwen

参数

0.5B

格式

gguf

磁盘占用空间

大约 397.81 MB

下载并运行Qwen2.5 Coder 0.5B Instruct GGUF

在 LM Studio 中打开以查看下载选项

从终端下载 lmstudio-community/qwen2.5-coder-0.5b-instruct-gguf

使用 lms — LM Studio 的开发者 CLI 下载模型。

lms get lmstudio-community/qwen2.5-coder-0.5b-instruct-gguf

从你的代码中调用 lmstudio-community/qwen2.5-coder-0.5b-instruct-gguf

curl https://127.0.0.1:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "lmstudio-community/qwen2.5-coder-0.5b-instruct-gguf",
    "messages": [
      { "role": "system", "content": "Always answer in rhymes." },
      { "role": "user", "content": "Introduce yourself." }
    ],
    "temperature": 0.7,
    "max_tokens": -1,
    "stream": true
  }'

下一步:构建! 🔨

了解更多