•
llama
SmolLM 是 HuggingFace 的原创模型，名副其实地体积小巧，几乎可以在任何设备上运行。还有一个稍大的 17 亿参数的版本可供选择。
模型信息
模型
SmolLM 360M v0.2
作者
HuggingFace
架构
llama
参数
360M
格式
gguf
磁盘大小
约 386.41 MB
使用 lms — LM Studio 的开发者 CLI 下载模型。
lms get smollm-360m
curl https://127.0.0.1:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "smollm-360m",
"messages": [
{ "role": "system", "content": "Always answer in rhymes." },
{ "role": "user", "content": "Introduce yourself." }
],
"temperature": 0.7,
"max_tokens": -1,
"stream": true
}'
lms log stream 以查看你的提示如何发送到 LLM。lmstudio.js - LM Studio SDK 文档 (TypeScript)lms log stream - 流式传输服务器日志lms - LM Studio 的 CLI 文档