文档
在 REPL 中使用 lmstudio-python
为了实现交互式使用，lmstudio-python 提供了一个便捷的 API，它通过 atexit 钩子管理其资源，从而允许在多个交互式命令中使用默认的同步客户端会话。
此便捷 API 在整个文档的示例中以 Python (便捷 API) 标签页（以及 Python (作用域资源 API) 示例）的形式展示，后者使用 with 语句来确保网络通信资源的确定性清理。
便捷 API 允许使用标准的 Python REPL 或更灵活的替代方案（如 Juypter Notebooks）与加载到 LM Studio 中的 AI 模型进行交互。例如
>>> import lmstudio as lms
>>> loaded_models = lms.list_loaded_models()
>>> for idx, model in enumerate(loaded_models):
... print(f"{idx:>3} {model}")
...
0 LLM(identifier='qwen2.5-7b-instruct')
>>> model = loaded_models[0]
>>> chat = lms.Chat("You answer questions concisely")
>>> chat.add_user_message("Tell me three fruits")
ChatMessageDataUser(content=[ChatMessagePartTextData(text='Tell me three fruits')])
>>> print(model.respond(chat, on_message=chat.append))
Banana, apple, orange.
>>> chat.add_user_message("Tell me three more fruits")
ChatMessageDataUser(content=[ChatMessagePartTextData(text='Tell me three more fruits')])
>>> print(model.respond(chat, on_message=chat.append))
Pineapple, avocado, strawberry.
>>> chat.add_user_message("How many fruits have you told me?")
ChatMessageDataUser(content=[ChatMessagePartTextData(text='How many fruits have you told me?')])
>>> print(model.respond(chat, on_message=chat.append))
You asked for three fruits initially, then three more, so I've told you six fruits in total: banana, apple, orange, pineapple, avocado, and strawberry.