文档

下载大型语言模型

LM Studio 附带一个内置的模型下载器,让您可以从 Hugging Face 下载任何支持的模型。

undefined

从 LM Studio 的“发现”选项卡下载模型


搜索模型

您可以按关键词(例如 llamagemmalmstudio)搜索模型,或者提供特定的 user/model 字符串。您甚至可以将完整的 Hugging Face URL 插入到搜索栏中!

专业提示:您可以通过在 Mac 上按下 + 2,或在 Windows / Linux 上按下 ctrl + 2,从任何地方跳转到“发现”选项卡。

选择哪个下载选项?

您通常会看到某个给定模型的多种选项,名称可能类似 Q3_K_SQ_8 等。这些都是同一模型的副本,以不同程度的保真度提供。Q 代表一种名为“量化”(Quantization)的技术,它大致意味着在牺牲一定质量的同时,压缩模型文件的大小。

如果您的机器性能足够,请选择 4 比特或更高的选项。

undefined

LM Studio 中的 Hugging Face 搜索结果


高级

更改模型目录

您可以通过前往“我的模型”来更改模型目录

undefined

在“我的模型”选项卡中管理您的模型目录


社区

LM Studio Discord 服务器上与其他 LM Studio 用户聊天,讨论大型语言模型、硬件等。