集成

简介

生成器是本地大型语言模型的替代品。它们充当令牌源。当使用带有生成器的插件时，LM Studio 将不再使用本地模型生成文本。而是使用生成器。

生成器对于实现外部模型的适配器非常有用，例如使用远程 LM Studio 实例或其他在线模型。

如果插件包含生成器，它将不再显示在插件列表中。相反，它将显示在模型下拉列表中并充当模型。如果您的插件包含工具提供程序或提示预处理器，它们将在选择生成器时使用。

示例

以下是一些使用生成器的插件

• lmstudio/remote-lmstudio

  支持使用远程 LM Studio 实例生成文本的基本功能。

• lmstudio/openai-compat-endpoint

  在 LM Studio 中使用任何与 OpenAI 兼容的 API。