LM StudioLM Studio

OpenAI 兼容接口

向 Responses、Chat Completions(文本和图像)、Completions 和 Embeddings 接口发送请求。

支持的端点

端点方法文档
/v1/modelsGET模型
/v1/responsesPOST响应
/v1/chat/completionsPOST对话补全
/v1/embeddingsPOST嵌入 (Embeddings)
/v1/completionsPOST补全 (Completions)

设置 base url 指向 LM Studio

您可以通过将 “base URL” 属性更改为指向您的 LM Studio(而不是 OpenAI 的服务器),来重用现有的 OpenAI 客户端(支持 Python、JS、C# 等)。

注意:以下示例假设服务器端口为 1234

Python 示例

from openai import OpenAI

client = OpenAI(
+    base_url="https://:1234/v1"
)

# ... the rest of your code ...

Typescript 示例

import OpenAI from 'openai';

const client = new OpenAI({
+  baseUrl: "https://:1234/v1"
});

// ... the rest of your code ...

cURL 示例

- curl https://api.openai.com/v1/chat/completions \
+ curl https://:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
-     "model": "gpt-4o-mini",
+     "model": "use the model identifier from LM Studio here",
     "messages": [{"role": "user", "content": "Say this is a test!"}],
     "temperature": 0.7
   }'

在 LM Studio 中使用 Codex

由于 LM Studio 实现了 OpenAI 兼容的 POST /v1/responses 接口,因此支持 Codex。

参阅:在 LM Studio 中使用 Codex响应 (Responses)


其他的 OpenAI 客户端库也应具有类似的设置 base URL 的选项。

如果您遇到困难,请加入我们的 Discord 并进入 #🔨-developers 频道。

© . This site is unofficial and not affiliated with Element Labs, Inc.