聊天补全 (Chat Completions)

• 方法： POST
• 对于聊天优化模型，提示词模板会自动应用。
• 在有效载荷中提供推理参数（temperature、top_p 等）。
• 参阅 OpenAI 文档：https://platform.openai.com/docs/api-reference/chat
• 提示：保持终端打开并运行 lms log stream 以检查模型输入。

Python 示例

from openai import OpenAI
client = OpenAI(base_url="https://:1234/v1", api_key="lm-studio")

completion = client.chat.completions.create(
  model="model-identifier",
  messages=[
    {"role": "system", "content": "Always answer in rhymes."},
    {"role": "user", "content": "Introduce yourself."}
  ],
  temperature=0.7,
)

print(completion.choices[0].message)

支持的有效载荷参数

有关参数语义，请参阅 https://platform.openai.com/docs/api-reference/chat/create。

model
top_p
top_k
messages
temperature
max_tokens
stream
stop
presence_penalty
frequency_penalty
logit_bias
repeat_penalty
seed