微软 Phi-2，小语言模型的惊人威力，性能媲美Llama 2 7B

在过去的几个月里，微软研究院的机器学习基础团队发布了一套名为 "Phi "的小型语言模型（SLM），这些模型在各种基准测试中都取得了不俗的成绩。

Phi-2以27亿参数展现卓越的推理和语言理解能力，在小型语言模型中超越Mistral和Llama-2，由于在模型缩放和训练数据整理方面进行了创新，在复杂的基准测试中，Phi-2 的性能可媲美或超过比它大 25 倍的模型。

Phi-2的创新模型扩展和训练数据整理使其成为研究人员理想的实验平台。该团队注重测试模型在具体用例上的性能，不仅在公共基准测试中表现出色，还在微软内部数据集上验证了其卓越性能。

Phi-2在Azure AI Studio模型目录中开放，为语言模型研究和发展提供了新的贡献。

https://www.microsoft.com/en-us/research/blog/phi-2-the-surprising-power-of-small-language-models/