マイクロソフトはオープンソースの新バージョンPhi-4を発表しました:推論効率が10倍上昇し、ノートパソコンで実行可能です。
Jin10データ7月10日報告、今朝、マイクロソフトは公式ウェブサイトでPhi-4ファミリーの最新バージョンPhi-4-mini-flash-reasoningをオープンソース化しました。mini-flash版はPhi-4ファミリーのパラメータが小さく性能が強いという特徴を引き継いでおり、コンピューティングパワー、メモリ、レイテンシーに制約のあるシーンに特化して設計されています。単一のGPUで動作し、ノートパソコン、タブレットなどのエッジデバイスに適しています。前のバージョンと比較して、mini-flashはマイクロソフト独自の革新的アーキテクチャSambaYを使用しており、推論効率は10倍に大きな上昇を達成し、レイテンシーは平均で2〜3倍ドロップしました。全体的な推論性能は大幅に向上しました。