文档
下载LLM
LM Studio 内置模型下载器,允许您从Hugging Face下载任何受支持的模型。
从 LM Studio 的“发现”选项卡下载模型
您可以按关键词(例如 llama
、gemma
、lmstudio
)搜索模型,也可以提供特定的 user/model
字符串。您甚至可以将完整的 Hugging Face URL 粘贴到搜索栏中!
⌘
+ 2
或 Windows/Linux 上的 ctrl
+ 2
从任何位置跳转到“发现”选项卡。您通常会看到任何给定模型的几个选项,例如 Q3_K_S
、Q_8
等。这些都是同一模型的副本,以不同程度的保真度提供。Q
代表一种称为“量化”的技术,大致意味着压缩模型文件的大小,同时牺牲一定程度的质量。
如果您的机器能够运行,请选择 4 位或更高的选项。
LM Studio 中的 Hugging Face 搜索结果
高级
您可以通过转到“我的模型”来更改模型目录。
在“我的模型”选项卡中管理您的模型目录
在LM Studio Discord 服务器上与其他 LM Studio 用户聊天,讨论 LLM、硬件等。