GGUF
•
gemma
Gemma 2 模型家族中的大型选项。由谷歌构建,使用与创建 Gemini 模型相同的研发和技术。
模型信息
模型
Gemma 2 27B
作者
谷歌
代码库
🤗 lmstudio-community/gemma-2-27b-it-GGUF↗
架构
参数
27B
格式
gguf
磁盘大小
大约 12.45 GB
下载和运行Gemma 2 27B
在 LM Studio 中打开以查看下载选项
在 LM Studio 中使用
使用 lms — LM Studio 的开发者 CLI 下载模型。
lms
lms get gemma-2-27b
npx lmstudio install-cli
curl https://127.0.0.1:1234/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "gemma-2-27b", "messages": [ { "role": "system", "content": "Always answer in rhymes." }, { "role": "user", "content": "Introduce yourself." } ], "temperature": 0.7, "max_tokens": -1, "stream": true }'
lms log stream
lmstudio.js