LM Studio 0.3.3

2024-09-30

LM Studio 0.3.3 中的新功能

配置预设

  • 将您的系统提示和推理参数保存为命名的 预设
  • 每个聊天都可以与一个预设关联。

将参数集合保存为预设,以便轻松重复使用。

从 LM Studio 0.2.* 预设迁移

  • 您在 LM Studio 0.2.* 中保存的预设可以在 0.3.3 中自动读取,无需迁移步骤。
  • 如果您在 旧版预设 中保存 新更改,它将在保存时 复制 为新格式。
    • 旧文件不会被删除。
  • 显著区别:新预设格式中不包含加载参数。
    • 建议在“我的模型”中编辑模型的默认配置。请参阅此处了解操作方法。

预设的使用场景

您可以使用预设构建自己的提示库。除了系统提示之外,高级配置侧边栏中的所有参数也可以记录在预设中。

例如,您可能希望在特定用例中始终使用特定的温度、Top P 或最大令牌数。您可以将这些设置保存为预设(带或不带系统提示),并在不同的聊天中轻松切换。

保存、重置和取消选择预设

以下是设置侧边栏中预设管理器的结构。


undefined

设置侧边栏中预设管理器的结构。

阅读文档以获取更多关于预设的信息。

0.3.3 中的其他新功能

  • 使用所选模型的tokenizer显示 用户输入 的实时令牌计数
  • 使用所选模型的tokenizer显示 系统提示 的实时令牌计数
  • 聊天顶部的新按钮:清除所有消息,克隆聊天
  • 输入框下方的统计信息:显示上下文填充百分比
    • 点击标签可在 n_tokens/n_context 之间切换
  • QoL:聊天自动命名,如果首次令牌时间高或每秒令牌数低则跳过
  • 性能:在长聊天之间切换应该更快
  • 首次模型下载建议:建议VRAM小于12GB的机器下载Gemma 2B
  • 通过右键点击聊天界面中模型加载器旁边的齿轮图标,将调试信息复制到剪贴板
  • 服务器选项卡:代码片段现在有自己的顶级选项卡
  • 右键点击链接会显示一个上下文菜单,其中包含在浏览器中打开或复制链接的选项

新设置

  • 使用 [⌘,][Ctrl + ,] 从任意位置打开应用程序设置
    • 设置图标现在位于应用程序的右下角,不再位于侧边栏中
    • [⌘4][Ctrl + 4] 现在打开“我的模型”
  • 主题选择器(从任意位置使用 [⌘K ⌘T][Ctrl + K, Ctrl + T]
  • 选择应用程序更新通道:稳定版测试版
    • 在应用程序设置中选择稳定版和测试版
    • 测试版可能与稳定版具有相同的版本号,但构建号会更高
  • 禁用双击编辑聊天消息的设置选项

错误修复

  • 错误修复:[Windows] 修复应用程序关闭/最小化/最大化按钮背景溢出
  • 错误修复:当第一条消息长于总上下文大小时显示有用的错误信息
  • 错误修复:RAG 中显示/隐藏中间步骤的按钮有时不起作用(已修复)
  • 错误修复:[开发者] 显示调试信息的复选框在未选中时不起作用(已修复)
  • 错误修复:打开下载文件夹将打开自定义下载文件夹而不是默认文件夹
  • 错误修复:更新 Jinja 模板解析器以支持使用更复杂模板的模型
  • 错误修复:Esc 键无法关闭某些对话框
  • 错误修复:首次使用应用程序时,在加载模型之前无法创建聊天
  • 错误修复:当下载弹出窗口和设置对话框同时打开时,下载弹出窗口会覆盖设置对话框
  • 错误修复:Cmd + R / Ctrl + R 重新生成有时不起作用

非常感谢社区本地化人员 🙏

为 LM Studio 本地化做贡献

如果您想改进现有翻译或贡献新翻译,我们非常欢迎您的加入。

LM Studio 的字符串维护在 https://github.com/lmstudio-ai/localization

请参阅此处的贡献说明。


更多内容