microsoft 的 phi 4

支持 16k token 的上下文长度。

在 9.8 万亿 token 上训练。

在合成数据、筛选的公共领域网站、学术书籍和问答数据集的混合上训练。