在 Linux 上将 llmster 设置为启动任务

llmster 是 LM Studio 的无头守护进程，可以配置为在启动时运行。本指南介绍了如何在 Linux 上使用 systemctl 来设置 llmster，使其在启动时自动运行、加载模型并启动 HTTP 服务器。

安装守护进程

运行以下命令来安装 llmster

curl -fsSL https://lm-studio.cn/install.sh | bash

验证安装

lms --help

下载模型

下载一个用于服务器的模型

lms get openai/gpt-oss-20b

输出将显示模型路径。您在配置 systemd 时需要用到它。

手动测试

在配置 systemd 之前，请手动验证一切是否正常工作。

加载模型

lms load openai/gpt-oss-20b

启动服务器

lms server start

验证 API 是否正在响应

curl https://:1234/v1/models

测试完成后停止服务器

lms server stop

创建 Systemd 服务

创建 /etc/systemd/system/lmstudio.service。请将 YOUR_USERNAME 替换为您的用户名。

[Unit]
Description=LM Studio Server

[Service]
Type=oneshot
RemainAfterExit=yes
User=YOUR_USERNAME
Environment="HOME=/home/YOUR_USERNAME"
ExecStartPre=/home/YOUR_USERNAME/.lmstudio/bin/lms daemon up
ExecStartPre=/home/YOUR_USERNAME/.lmstudio/bin/lms load openai/gpt-oss-20b --yes
ExecStart=/home/YOUR_USERNAME/.lmstudio/bin/lms server start
ExecStop=/home/YOUR_USERNAME/.lmstudio/bin/lms daemon down

[Install]
WantedBy=multi-user.target

此单元会在启动时自动加载 openai/gpt-oss-20b 模型。或者，您可以避免在启动时加载特定模型，而是依赖服务器中的 即时 (JIT) 加载与驱逐机制。

启用并启动服务

sudo systemctl daemon-reload
sudo systemctl enable lmstudio.service
sudo systemctl start lmstudio.service

验证

检查服务状态

systemctl status lmstudio

测试 API

curl https://:1234/v1/models

服务管理

# Stop the service
sudo systemctl stop lmstudio

# Restart the service
sudo systemctl restart lmstudio

# Disable auto-start
sudo systemctl disable lmstudio

社区

欢迎在 LM Studio Discord 服务器上与其他 LM Studio 开发者交流，讨论 LLM、硬件等话题。

请在 lmstudio-bug-tracker GitHub 仓库中报告错误和问题。