文档

管理模型

列出已加载模型

查询当前已加载的模型

您可以使用 listLoaded 方法迭代内存中已加载的模型。此方法位于 LMStudioClient 对象的 llmembedding 命名空间下。

列出当前加载到内存中的模型

这会为您提供与在 CLI 中使用 lms ps 等效的结果。

import { LMStudioClient } from "@lmstudio/sdk";

const client = new LMStudioClient();

const llmOnly = await client.llm.listLoaded();
const embeddingOnly = await client.embedding.listLoaded();

此页面的源代码可在 GitHub 上获取