文档
本地运行 LLM
用户界面
高级
命令行界面 - lms
API
API 更新日志
为通过 API 请求加载的模型设置 TTL(以秒为单位)(文档文章:空闲 TTL 和自动驱逐)
使用 lms
reasoning_content
对于 DeepSeek R1 模型,在单独的字段中获取推理内容。 请在此处查看更多here。
在应用程序设置 > 开发者中开启此功能。
通过类似 OpenAI 的 API 使用任何支持工具使用和函数调用的 LLM。
文档:工具使用和函数调用。
lms get
:从终端下载模型现在您可以使用关键字直接从终端下载模型
或完整的 Hugging Face URL
要仅过滤 MLX 模型,请将 --mlx
添加到命令。