文档

本地运行 LLM

用户界面

高级

命令行界面 - lms

API

关于 LM Studio

LM Studio 是一款桌面应用程序,用于在您的计算机本地开发和实验 LLM。

主要功能

  • 用于运行本地 LLM 的桌面应用程序
  • 熟悉的用户聊天界面
  • 搜索和下载功能 (通过 Hugging Face 🤗)
  • 可以监听类似 OpenAI 端点的本地服务器
  • 用于管理本地模型和配置的系统

如何安装 LM Studio?

前往下载页面,下载适用于您操作系统的安装程序。

LM Studio 适用于 macOS、Windows 和 Linux。


系统要求

LM Studio 通常支持 Apple Silicon Mac、x64/ARM64 Windows PC 和 x64 Linux PC。

请查阅系统要求页面以获取更详细的信息。


运行 llama.cpp (GGUF) 或 MLX 模型

LM Studio 支持在 Mac、Windows 和 Linux 上使用 llama.cpp 运行 LLM。

在 Apple Silicon Mac 上,LM Studio 也支持使用 Apple 的 MLX 运行 LLM。

要安装或管理 LM 运行时,请在 Mac 上按 Shift R 或在 Windows/Linux 上按 Ctrl Shift R


在您的计算机上运行类似 LlamaPhiDeepSeek R1 的 LLM

要在您的计算机上运行 LLM,您首先需要下载模型权重。

您可以在 LM Studio 内完成此操作!请参阅下载 LLM以获取指导。


完全离线地在您的计算机上与文档聊天

您可以将文档附加到您的聊天消息中,并完全离线地与之交互,这也称为“RAG”。

阅读与文档聊天指南,了解如何使用此功能的更多信息。

从您自己的应用程序和脚本中使用 LM Studio 的 API

LM Studio 提供了一个 REST API,您可以使用它从您自己的应用程序和脚本与本地模型进行交互。


社区

加入 Discord 上的 LM Studio 社区,提出问题、分享知识,并从其他用户和 LM Studio 团队获得帮助。