微软发布Phi-3 Mini，性能媲美GPT-3.5、Llama-3，可在手机端运行

前言

微软发布了最新版的Phi系列小型语言模型(SLM) - Phi-3。这个系列包括3个不同参数规模的版本：Phi-3 Mini (38亿参数)、Phi-3 Small (70亿参数)和Phi-3 Medium (140亿参数)。

Phi系列模型是微软研究团队开发的小规模参数语言模型。从第一代Phi-1到第二代Phi-2，参数规模都控制在30亿以内，但在各种评测中都取得了出色的成绩。第三代Phi-3系列进一步扩大了参数规模，以期在性能上更进一步。

• Huggingface模型下载：https://huggingface.co/collections/microsoft/phi-3-6626e15e9585a200d2d761e3

• AI快站模型免费加速下载：https://aifasthub.com/models/microsoft

技术特点

Phi-3系列模型的创新主要体现在两个方面：

• 训练数据集的设计 Phi-3模型是基于一个高达3.3万亿tokens的大规模数据集训练的。这个数据集结合了经过严格过滤的网络数据和高质量的合成数据，使得相对较小的模型也能取得出色的性能。

• 安全性和稳健性的考虑 Phi-3模型经历了周密的安全评估和调整，包括有监督微调、直接偏好优化、自动化测试和红队评估等，确保了模型在安全性和可靠性方面符合微软的要求。

此外