← 返回博客

LM Studio 0.3.3

作者

•

2024-09-30

LM Studio 0.3.3 版本的新功能

配置预设

  • 将您的系统提示、推理参数保存为命名的 Preset。
  • 每个聊天可以关联一个预设。

将参数集合保存为预设，以便轻松重用。

从 LM Studio 0.2.* 版本预设迁移

  • 您在 LM Studio 0.2.* 版本中保存的预设在 0.3.3 版本中自动可读，无需迁移步骤。
  • 如果您在旧版预设中保存新更改，它将在保存时复制到新格式。
    • 旧文件不会被删除。
  • 显著差异：加载参数不包含在新预设格式中。
    • 建议在“我的模型”中编辑模型的默认配置。请参阅此处了解操作方法。

预设的使用场景

您可以使用预设构建自己的提示库。除了系统提示之外，高级配置侧边栏下的每个参数也可以记录在预设中。

例如，您可能希望始终为特定用例使用特定的温度、Top P 或最大令牌数。您可以将这些设置保存为预设（无论是否带有系统提示），并在不同的聊天中轻松切换。

保存、重置和取消选择预设

以下是设置侧边栏中预设管理器的结构。


undefined

设置侧边栏中预设管理器的结构。

阅读文档以了解有关预设的更多信息。

0.3.3 版本的其他新功能

  • 使用所选模型的 tokenizer 显示 user input 的实时令牌计数
  • 使用所选模型的 tokenizer 显示 system prompt 的实时令牌计数
  • 聊天顶部的新按钮：清除所有消息、克隆聊天
  • 输入框下方的统计信息：显示上下文饱满度百分比
    • 单击标签以切换到 n_tokens/n_context
  • QoL：聊天自动命名，如果首个令牌时间过长或 tok/秒 过低则跳过
  • 性能：在长聊天之间切换应该更快
  • 首次模型下载建议：对于 VRAM 小于 12GB 的机器，建议使用 Gemma 2B
  • 通过右键单击聊天 UI 中模型加载器旁边的齿轮图标，将调试信息复制到剪贴板
  • 服务器选项卡：代码片段现在有自己的顶级选项卡
  • 右键单击链接会显示一个上下文菜单，其中包含在浏览器中打开或复制链接的选项

新设置

  • 从任意位置使用 [⌘,] 或 [Ctrl + ,] 打开应用程序设置
    • 设置图标现在位于应用程序的右下角，不再在侧边栏中
    • [⌘4] 或 [Ctrl + 4] 现在打开“我的模型”
  • 主题选择器（从任意位置使用 [⌘K ⌘T] 或 [Ctrl + K, Ctrl + T]）
  • 选择应用程序更新频道：稳定版 或 Beta 版
    • 在应用程序设置中选择稳定版和 Beta 版
    • Beta 版本可能与稳定版本具有相同的版本号，但构建号会更高
  • 设置选项，用于禁用双击编辑聊天消息

Bug 修复

  • Bug 修复：[Windows] 修复应用程序关闭/最小化/最大化按钮背景溢出
  • Bug 修复：当第一条消息长于总上下文大小时，提供有用的错误提示
  • Bug 修复：显示/隐藏 RAG 中间步骤的按钮有时不起作用（已修复）
  • Bug 修复：[开发人员] 取消选中时，用于显示调试信息的复选框不起作用（已修复）
  • Bug 修复：打开下载文件夹将打开自定义下载文件夹而不是默认文件夹
  • Bug 修复：更新 Jinja 模板解析器以支持使用更复杂模板的模型
  • Bug 修复：Esc 键无法关闭某些对话框
  • Bug 修复：在首次使用应用程序时，在加载模型之前无法创建聊天
  • Bug 修复：当下载弹出窗口和设置对话框都打开时，下载弹出窗口会覆盖设置对话框
  • Bug 修复：cmd + R / ctrl + R 重新生成有时不起作用

衷心感谢社区本地化贡献者 🙏

为 LM Studio 本地化做贡献

如果您想改进现有翻译或贡献新的翻译，我们非常欢迎您的加入。

LM Studio 字符串在 https://github.com/lmstudio-ai/localization 中维护。

请此处查看贡献说明。

更多内容