微軟研究院近期公開發(fā)布了Phi-3系列AI模型，該系列包括mini版（38億參數(shù)）、small版（70億參數(shù)）以及medium版（140億參數(shù)）。

微軟稱，帶有38億參數(shù)的phi-3-mini經(jīng)過3.3萬億token的強化學(xué)習(xí)，其基礎(chǔ)表現(xiàn)已經(jīng)超過Mixtral 8x7B及GPT-3.5；此外，該模型可在手機等移動設(shè)備上運行，并在phi-2模型（27億參數(shù)）的基礎(chǔ)上，進一步融合了嚴(yán)格篩選的網(wǎng)絡(luò)數(shù)據(jù)與合成數(shù)據(jù)。

盡管phi-3-mini在語言理解和推理方面已能匹敵大參數(shù)模型，但在TriviaQA等特定任務(wù)中仍受限于模型規(guī)模。

值得注意的是，phi-3-small和phi-3-medium兩款模型在MMLU測試中的得分分別達到了75.3和78.2。