文档

每个模型的默认设置

高级 - 高级用户

您可以为 LM Studio 中的每个模型设置默认加载设置。

当模型在应用程序中的任何位置加载时(包括通过 lms load),将使用这些设置。


为模型设置默认参数

转到“我的模型”选项卡,然后单击齿轮⚙️图标以编辑模型的默认参数。

undefined

单击齿轮图标以编辑模型的默认加载设置。

这将打开一个对话框,您可以在其中设置模型的默认参数。

您可以在此对话框中设置模型的默认参数。

下次加载模型时,将使用这些设置。

专业提示

设置默认加载参数的原因(非必需,完全可选)

  • 为给定模型设置特定的 GPU 卸载设置
  • 为给定模型设置特定的上下文大小
  • 是否为给定模型使用 Flash Attention

高级主题

加载模型之前更改加载设置

加载模型时,您可以选择更改默认加载设置。

undefined

您可以在加载模型之前更改加载设置。

将更改保存为模型的默认设置

如果在加载模型时对加载设置进行了更改,则可以将其保存为该模型的默认设置。

undefined

如果在加载模型时对加载设置进行了更改,则可以将其保存为该模型的默认设置。


社区

LM Studio Discord 服务器 上与其他 LM Studio 高级用户聊天,讨论配置、模型、硬件等。