微软发布Phi-3.5最大上下文窗口128K，还包含一个MoE混合专家模型

微软近日发布了最新的Phi-3.5系列模型,其中最引人注目的是首次推出的混合专家(Mixture of Experts, MoE)模型——Phi-3.5-MoE-instruct。这个系列还包括Phi-3.5-mini-instruct和Phi-3.5-vision-instruct,共同构成了一个全面的AI模型家族,涵盖了从轻量级推理到复杂的多模态任务处理。