文档

使用 LLM 进行预测

Agentic Flows

文本嵌入

分词

管理模型

模型信息

API 参考

已加载模型列表

您可以使用 listLoaded 方法迭代内存中加载的模型。此方法位于 LMStudioClient 对象的 llm 和 embedding 命名空间下。

列出当前加载到内存中的模型

这将为您提供与在 CLI 中使用 lms ps 等效的结果。

import { LMStudioClient } from "@lmstudio/sdk";

const client = new LMStudioClient();

const llmOnly = await client.llm.listLoaded();
const embeddingOnly = await client.embedding.listLoaded();