LM Studio 0.3.7
我们很高兴分享 LM Studio 0.3.7,该版本支持 DeepSeek R1 蒸馏模型以及针对 llama.cpp 模型的 KV 缓存量化。
请通过应用内更新,或通过 https://lm-studio.cn 进行升级。
DeepSeek R1 为什么这么重要?
DeepSeek 备受期待的 R1 模型是一款 SOTA(最先进)开源推理模型,旨在实现与 OpenAI o1 相当的性能。
LM Studio 内提供一系列“蒸馏”模型供下载,包括 1.5B、7B、8B、13B、14B、32B 和 70B 变体。蒸馏模型是通过使用更大、更强大的模型(在本例中为 DeepSeek 完整的 R1 模型)的输出来微调较小的模型而制成的。如果你感兴趣,可以查看 DeepSeek 的技术报告 此处。
如果您使用 DeepSeek R1,您会注意到它输出的“思考过程”包含在 <think> </think> 标记中。目前这些内容会像普通响应一样打印在聊天窗口中,处理起来不太方便。我们正在进行 UI 升级,以便您可以折叠和展开思考过程。敬请期待 0.3.8 版本的更新。
LM Studio 0.3.7 完整更新日志
版本 2
- 支持 DeepSeek R1。
版本 1
- 新增:任务控制中心(Mission Control)中的硬件选项卡。使用
Cmd/Ctrl + Shift + H打开。 - 新增:添加了服务器文件日志模式选项,让您能更精细地控制日志文件中记录的内容。
- 新增:针对 llama.cpp 模型的 KV 缓存量化(需要 llama.cpp/1.9.0+ 运行时)
- 在 OpenAI 兼容 API 服务器中增加了对 null 的支持。
- 修复了预测排队不起作用的问题。(排队的预测将返回空结果)
- 仅显示当前所使用运行时的更新通知
- 增加了当 LM Studio 因缺乏文件系统访问权限而无法启动时的描述性错误提示。
- 修复了有时 JIT 模型加载会导致错误的 bug
- 修复了引擎扩展输出在日志中包含多余换行符的 bug
- 修复了有时会为新用户创建两个聊天的 bug。
更多内容
- 下载适用于 macOS、Windows 或 Linux 的最新 LM Studio 应用程序。
- 如果您想在工作单位或组织中使用 LM Studio,请与我们联系:LM Studio 商用
- 要参与讨论和社区交流,请加入我们的 Discord 服务器。
- 刚开始接触 LM Studio?前往查看相关文档:文档:LM Studio 入门指南。