通过系统提示在 MLX 引擎上进行推理。强制 GPT-OSS 使用“高”推理能力。

通过系统提示在 MLX 引擎上进行推理。强制 GPT-OSS 使用“中等”推理能力。

通过系统提示在 MLX 引擎上进行推理。强制 GPT-OSS 使用“低”推理能力。

为达到最佳性能，Qwen 推荐以下设置：temperature=0.7 top_p=0.8 top_k=20 repetition_penalty=1.05