侧载模型

高级

您可以将从 LM Studio 外部下载的兼容模型放置到预期的目录结构中来使用。

概述

只需在 Finder 或文件资源管理器中打开LM Studio 的模型目录，创建几个新文件夹，并将模型文件移动到正确的位置。请参见下面的预期目录结构。

LM Studio 预期的模型目录结构

LM Studio 旨在保留从 Hugging Face 下载的模型的目录结构。预期的目录结构如下所示

~/.cache/lm-studio/models/
└── publisher/
    └── model/
        └── model-file.gguf

例如，如果您有一个名为ocelot-v1的模型，由infra-ai发布，则结构如下所示

~/.cache/lm-studio/models/
└── infra-ai/
    └── ocelot-v1/
        └── ocelot-v1-instruct-q4_0.gguf

LM Studio 的模型目录

在“我的模型”选项卡中管理您的模型目录

默认情况下，LM Studio 将模型下载到以下位置。

macOS 或 Linux

~/.cache/lm-studio/models

Windows

%USERPROFILE%\.cache\lm-studio\models

社区

在LM Studio Discord 服务器上与其他 LM Studio 用户聊天，讨论大型语言模型、硬件等。