文档

模型信息

获取加载配置

获取模型的加载配置

所需 Python SDK 版本: 1.2.0

LM Studio 允许您在加载模型时通过服务器 UI通过 API 配置某些参数。

您可以使用 SDK 检索给定模型加载时所用的配置。

在以下示例中,LLM 引用可以替换为嵌入模型引用,而无需进行任何其他更改。

专家提示

上下文长度是一个特殊情况,有其自己的方法

import lmstudio as lms

model = lms.llm()

print(model.get_load_config())

本页的源代码可在 GitHub 上获取。