开源社区

微软开源新版Phi-4:推理效率暴涨10倍笔记本可运行

微软开源新版Phi-4:推理效率暴涨10倍笔记本可运行

  • 发布:
  • 人气: 12
  • 评论: 0
标签:

应用介绍

  据AIGC开放社区,今天凌晨,微软在官网开源了Phi-4家族的最新版本Phi-4-mini-flash-reasoning。mini-flash版延续了Phi-4家族参数小性能强的特点,是专门针对那些受算力、内存和延迟限制场景设计的,单个GPU可运行,适合笔记本、平板电脑等边缘设备。与前一个版本相比,mini-flash使用了微软自研的创新架构SambaY,推理效率暴涨了10倍,延迟平均降低了2—3倍,整体推理性能实现了大幅度提升。

相关应用