文档

入门

下载大型语言模型 (LLM)

在 LM Studio 中发现和下载支持的 LLM

LM Studio 内置模型下载器,可让您从 Hugging Face 下载任何支持的模型。

undefined

从 LM Studio 的“发现”选项卡下载模型


搜索模型

您可以按关键词(例如 llamagemmalmstudio)搜索模型,或通过提供特定的 用户/模型 字符串搜索。您甚至可以将完整的 Hugging Face URL 插入搜索栏!

专业提示:在 Mac 上按 + 2,或在 Windows / Linux 上按 ctrl + 2,可以从任何地方跳转到“发现”选项卡。

选择哪个下载选项?

您通常会看到针对给定模型的几个选项,名称类似于 Q3_K_SQ_8 等。这些都是同一模型的副本,以不同的保真度提供。Q 代表一种称为“量化”的技术,大致意思是压缩模型文件的大小,同时牺牲一定程度的质量。

如果您的机器能够运行,请选择 4 位或更高的选项。

undefined

LM Studio 中的 Hugging Face 搜索结果


高级

更改模型目录

您可以通过前往“我的模型”来更改模型目录。

undefined

在“我的模型”选项卡中管理您的模型目录


社区

LM Studio Discord 服务器上与其他 LM Studio 用户聊天,讨论大型语言模型、硬件等。

此页面的源文件可在 GitHub 上获取