文档

使用 LLM 进行预测

代理流程

文本嵌入

分词

管理模型

模型信息

API 参考

列出已加载模型

您可以使用 listLoaded 方法遍历加载到内存中的模型。此方法位于 LMStudioClient 对象的 llm 和 embedding 命名空间下。

列出当前加载到内存中的模型

这会为您提供与在 CLI 中使用 lms ps 等效的结果。

import { LMStudioClient } from "@lmstudio/sdk";

const client = new LMStudioClient();

const llmOnly = await client.llm.listLoaded();
const embeddingOnly = await client.embedding.listLoaded();