文档

快速入门

使用大型语言模型(LLM)进行预测

代理流程

文本嵌入

分词

模型信息

列出已下载模型

您可以使用已下载的模型列表方法来遍历本地可用的模型。

列出结果提供了 .model().load_new_instance() 方法,这些方法可以将已下载的模型引用转换为已加载模型的完整 SDK 句柄。

LM Studio 服务器上可用的模型

import lmstudio as lms

downloaded = lms.list_downloaded_models()
llm_only = lms.list_downloaded_models("llm")
embedding_only = lms.list_downloaded_models("embedding")

for model in downloaded:
    print(model)

这将提供与在 CLI 中使用 lms ls 相同的结果。

示例输出:

DownloadedLlm(model_key='qwen2.5-7b-instruct-1m', display_name='Qwen2.5 7B Instruct 1M', architecture='qwen2', vision=False)
DownloadedEmbeddingModel(model_key='text-embedding-nomic-embed-text-v1.5', display_name='Nomic Embed Text v1.5', architecture='nomic-bert')