文档

入门

欢迎来到 LM Studio 文档!


什么是 LM Studio?

LM Studio 是一款桌面应用程序,用于在您的计算机上开发和试验 LLMs。

关键功能

  • 运行本地 LLMs 的桌面应用程序
  • 熟悉的聊天界面
  • 搜索和下载功能(通过 Hugging Face 🤗)
  • 可以侦听类似 OpenAI 端点的本地服务器
  • 用于管理本地模型和配置的系统

如何安装 LM Studio?

前往 下载页面 并下载适合您操作系统的安装程序。

LM Studio 可用于 macOS、Windows 和 Linux。


系统要求

LM Studio 通常支持 Apple Silicon Mac、x64/ARM64 Windows 电脑和 x64 Linux 电脑。

请参阅 系统要求 页面以获取更详细的信息。


运行 llama.cpp (GGUF) 或 MLX 模型

LM Studio 支持使用 llama.cpp 在 Mac、Windows 和 Linux 上运行 LLMs。

在 Apple Silicon Mac 上,LM Studio 还支持使用 Apple 的 MLX 运行 LLMs。

要安装或管理 LM 运行时,请在 Mac 上按 Shift R,或在 Windows/Linux 上按 Ctrl Shift R


在您的计算机上运行像 Llama 3.2 这样的 LLM

要在您的计算机上运行 LLM,您首先需要获取模型文件。

您可以直接在 LM Studio 中下载模型。请参阅 基础知识 > 下载 LLMs 获取指导。


开始实验吧!

LLMs 还是一个非常新的工程和实践领域。专家相对较少,实践经验非常宝贵。通过使用来建立直觉的实验是可行的途径。