文档
管理模型
列出已加载模型
管理模型
列出已加载模型
查询当前已加载的模型
您可以使用以下功能和方法迭代内存中已加载的模型。
结果是完整的 SDK 模型句柄，允许访问所有模型功能。
列出当前加载到内存中的模型
这将为您提供与在 CLI 中使用 lms ps 相同的结果。
import lmstudio as lms
all_loaded_models = lms.list_loaded_models()
llm_only = lms.list_loaded_models("llm")
embedding_only = lms.list_loaded_models("embedding")
print(all_loaded_models)
此页面的源代码可在 GitHub 上获取