嵌入

为输入文本生成嵌入。嵌入是捕获语义信息的文本向量表示。嵌入是 RAG (检索增强生成) 和其他基于相似性任务的构建块。

前提条件：获取嵌入模型

如果您还没有嵌入模型，可以使用以下命令下载像 nomic-ai/nomic-embed-text-v1.5 这样的模型

lms get nomic-ai/nomic-embed-text-v1.5

创建嵌入

要将字符串转换为向量表示，请将其传递给相应嵌入模型句柄上的 embed 方法。

import lmstudio as lms

model = lms.embedding_model("nomic-embed-text-v1.5")

embedding = model.embed("Hello, world!")