文档
下载大型语言模型
LM Studio 附带一个内置的模型下载器,让您可以从 Hugging Face 下载任何支持的模型。
从 LM Studio 的“发现”选项卡下载模型
您可以按关键词(例如 llama
、gemma
、lmstudio
)搜索模型,或者提供特定的 user/model
字符串。您甚至可以将完整的 Hugging Face URL 插入到搜索栏中!
⌘
+ 2
,或在 Windows / Linux 上按下 ctrl
+ 2
,从任何地方跳转到“发现”选项卡。您通常会看到某个给定模型的多种选项,名称可能类似 Q3_K_S
、Q_8
等。这些都是同一模型的副本,以不同程度的保真度提供。Q
代表一种名为“量化”(Quantization)的技术,它大致意味着在牺牲一定质量的同时,压缩模型文件的大小。
如果您的机器性能足够,请选择 4 比特或更高的选项。
LM Studio 中的 Hugging Face 搜索结果
高级
您可以通过前往“我的模型”来更改模型目录
在“我的模型”选项卡中管理您的模型目录
在 LM Studio Discord 服务器上与其他 LM Studio 用户聊天,讨论大型语言模型、硬件等。
本页内容
搜索模型
选择哪个下载选项?
更改模型目录
社区