预览版推出:LM Link立即开始

LM Studio 0.3.7

2025年1月20日·

我们很高兴分享 LM Studio 0.3.7,该版本支持 DeepSeek R1 蒸馏模型以及针对 llama.cpp 模型的 KV 缓存量化。

请通过应用内更新,或通过 https://lm-studio.cn 进行升级。

DeepSeek R1 为什么这么重要?

DeepSeek 备受期待的 R1 模型是一款 SOTA(最先进)开源推理模型,旨在实现与 OpenAI o1 相当的性能。

LM Studio 内提供一系列“蒸馏”模型供下载,包括 1.5B、7B、8B、13B、14B、32B 和 70B 变体。蒸馏模型是通过使用更大、更强大的模型(在本例中为 DeepSeek 完整的 R1 模型)的输出来微调较小的模型而制成的。如果你感兴趣,可以查看 DeepSeek 的技术报告 此处

如果您使用 DeepSeek R1,您会注意到它输出的“思考过程”包含在 <think> </think> 标记中。目前这些内容会像普通响应一样打印在聊天窗口中,处理起来不太方便。我们正在进行 UI 升级,以便您可以折叠和展开思考过程。敬请期待 0.3.8 版本的更新。

LM Studio 0.3.7 完整更新日志

版本 2

  • 支持 DeepSeek R1。

版本 1

  • 新增:任务控制中心(Mission Control)中的硬件选项卡。使用 Cmd/Ctrl + Shift + H 打开。
  • 新增:添加了服务器文件日志模式选项,让您能更精细地控制日志文件中记录的内容。
  • 新增:针对 llama.cpp 模型的 KV 缓存量化(需要 llama.cpp/1.9.0+ 运行时)
  • 在 OpenAI 兼容 API 服务器中增加了对 null 的支持。
  • 修复了预测排队不起作用的问题。(排队的预测将返回空结果)
  • 仅显示当前所使用运行时的更新通知
  • 增加了当 LM Studio 因缺乏文件系统访问权限而无法启动时的描述性错误提示。
  • 修复了有时 JIT 模型加载会导致错误的 bug
  • 修复了引擎扩展输出在日志中包含多余换行符的 bug
  • 修复了有时会为新用户创建两个聊天的 bug。

更多内容

© . This site is unofficial and not affiliated with Element Labs, Inc.