文档
入门
下载大型语言模型 (LLM)
在 LM Studio 中发现和下载支持的 LLM
LM Studio 内置模型下载器,可让您从 Hugging Face 下载任何支持的模型。
从 LM Studio 的“发现”选项卡下载模型
您可以按关键词(例如 llama
、gemma
、lmstudio
)搜索模型,或通过提供特定的 用户/模型
字符串搜索。您甚至可以将完整的 Hugging Face URL 插入搜索栏!
⌘
+ 2
,或在 Windows / Linux 上按 ctrl
+ 2
,可以从任何地方跳转到“发现”选项卡。您通常会看到针对给定模型的几个选项,名称类似于 Q3_K_S
、Q_8
等。这些都是同一模型的副本,以不同的保真度提供。Q
代表一种称为“量化”的技术,大致意思是压缩模型文件的大小,同时牺牲一定程度的质量。
如果您的机器能够运行,请选择 4 位或更高的选项。
LM Studio 中的 Hugging Face 搜索结果
高级
您可以通过前往“我的模型”来更改模型目录。
在“我的模型”选项卡中管理您的模型目录
在 LM Studio Discord 服务器上与其他 LM Studio 用户聊天,讨论大型语言模型、硬件等。
此页面的源文件可在 GitHub 上获取