LM Studio 0.3.7

2025-01-20

我们很高兴推出 LM Studio 0.3.7,它支持 DeepSeek R1 蒸馏模型和 llama.cpp 模型的 KV 缓存量化。

通过应用内更新或从 https://lm-studio.cn 升级。

DeepSeek R1,有何特别之处?

DeepSeek 备受期待的 R1 模型是一个 SOTA(最先进)开源推理模型,旨在达到与 OpenAI o1 相当的性能。

LM Studio 内提供了多种“蒸馏”模型供下载,包括 1.5B、7B、8B、13B、14B、32B 和 70B 变体。蒸馏模型是通过使用来自更大、更强大模型(在此案例中为 DeepSeek 的完整 R1 模型)的输出来微调较小模型而生成的。如果您好奇,请在此处查看 DeepSeek 的技术报告:此处

如果您使用 DeepSeek R1,您会注意到它会输出其“思考过程”,并用 <think> </think> 标记包围。这些目前像普通响应一样打印到聊天窗口中,使得处理起来很困难。我们正在开发 UI 升级,以便您可以折叠和展开思考过程。敬请期待 0.3.8 更新。

LM Studio 0.3.7 完整更新日志

版本 2

  • 支持 DeepSeek R1。

版本 1

  • 新增:在任务控制中新增硬件选项卡。通过 Cmd/Ctrl + Shift + H 打开。
  • 新增:新增服务器文件日志模式选项,可让您更精细地控制日志文件中记录的内容。
  • 新增:llama.cpp 模型的 KV 缓存量化(需要 llama.cpp/1.9.0+ 运行时)
  • 在兼容 OpenAI 的 API 服务器中增加了对空值的支持。
  • 修复了预测排队功能不工作的问题。(已排队的预测将返回空结果)
  • 仅显示当前正在使用的运行时的更新通知
  • 当 LM Studio 因缺少文件系统访问权限而无法启动时,添加了描述性错误提示。
  • 修复了有时 JIT 模型加载可能导致错误的问题
  • 修复了引擎扩展输出在日志中包含多余换行符的问题
  • 修复了有时新用户会创建两个聊天的问题。

更多