gemma 2 9b，由 Google 打造

Gemma 2 拥有与 1.1 版本相同的超大词汇量，这有助于提高多语言和编程能力。

Gemma 2 9B 在 8 万亿个 token 的广泛数据集上进行训练，比 Gemma 1.1 大 30%，使用的数据集包括：

• 网络文档：各种网络文本集合，确保模型接触到广泛的语言风格、主题和词汇。主要为英语内容。
• 代码：将模型暴露于代码有助于它学习编程语言的语法和模式，从而提高其生成代码或理解与代码相关问题的能力。
• 数学：对数学文本进行训练有助于模型学习逻辑推理、符号表示，并解决数学查询。

更多详情请查看他们的博客文章：https://hugging-face.cn/blog/gemma2