•
phi
Phi-3-Mini-4K-Instruct 是一个 38 亿参数的轻量级、最先进的开源模型,使用 Phi-3 数据集进行训练,该数据集包括合成数据和经过滤的公开网站数据,重点关注高质量和推理密集型属性
模型信息
模型
Phi 3 mini 4k instruct 4bit
作者
mlx-community
架构
phi
参数
3.8B
格式
safetensors
磁盘占用空间
约 2.15 GB
使用 lms
— LM Studio 的开发者 CLI 下载模型。
lms get phi-3-mini-4k
curl https://127.0.0.1:1234/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "phi-3-mini-4k",
"messages": [
{ "role": "system", "content": "Always answer in rhymes." },
{ "role": "user", "content": "Introduce yourself." }
],
"temperature": 0.7,
"max_tokens": -1,
"stream": true
}'
lms log stream
以查看发送到 LLM 的提示。lmstudio.js
- LM Studio SDK 文档 (TypeScript)lms log stream
- 流式传输服务器日志lms
- LM Studio 的 CLI 文档