文档

入门

下载 LLM

在 LM Studio 中发现并下载支持的 LLM

LM Studio 内置了一个模型下载器,允许你从 Hugging Face 下载任何受支持的模型。

undefined

在 LM Studio 的“发现”(Discover)标签页下载模型


搜索模型

你可以通过关键词(例如 llama, gemma, lmstudio)或提供特定的 用户/模型 字符串来搜索模型。你甚至可以将完整的 Hugging Face URL 粘贴到搜索栏中!

小贴士:无论在什么页面,你都可以通过按下 + 2 (Mac) 或 ctrl + 2 (Windows / Linux) 来快速跳转到“发现”标签页。

如何选择下载选项?

对于任何给定的模型,你通常会看到几个选项,名称类似于 Q3_K_S, Q_8 等。这些都是同一个模型的副本,提供了不同程度的保真度。Q 代表一种称为“量化”(Quantization)的技术,大致意思是压缩模型文件的大小,但会损失一些质量。

如果你的机器性能足够运行,请选择 4-bit 或更高的选项。

undefined

LM Studio 中的 Hugging Face 搜索结果


高级

更改模型目录

你可以通过前往“我的模型”(My Models)来更改模型目录

undefined

在“我的模型”标签页中管理你的模型目录


社区...

LM Studio Discord 服务器上与其他 LM Studio 用户聊天,讨论大型语言模型、硬件等。

本页面的源码可在 GitHub 上获取