Microsoftが2つの新モデルを発表:Phi-4-MultimodalとPhi-4-Mini 192

小编 ·

Microsoftが2つの新モデルを発表:Phi-4-MultimodalとPhi-4-Mini

Microsoftが新たに発表した2つのモデル「Phi-4-Multimodal」と「Phi-4-Mini」について紹介します。

Microsoftが2つの新モデルを発表:Phi-4-MultimodalとPhi-4-Mini

マイクロソフトが最近発表した新モデル2種類は、Phi-4-MultimodalとPhi-4-Miniです。

この2つのモデルは小型に設計されていますが、その機能は侮れません。Phi-4-Multimodalはマイクロソフト初のマルチモーダルモデルで、音声・視覚・テキスト処理などの機能を統合しており、パラメータ数は56億です。Phi-4-Miniはテキストタスクに特化しており、パラメータ数は3.8億です。この2つのモデルは、いずれもデバイス側およびエッジコンピューティングプラットフォームでのパフォーマンス最適化を重視しており、計算コストとレイテンシを効果的に削減できます。

微软推出了两款新模型:Phi-4-Multimodal多模态型和Phi-4-Mini文本模型.webp

Phi-4-Multimodal

Phi-4-Multimodalとは?

Phi-4-Multimodalは、パラメータ数が5.6億のマルチモーダルモデルで、テキスト・視覚・音声/オーディオデータの処理を担当します。LoRA(Low-Rank Adaptation)と呼ばれる革新的な技術と、モダリティ固有のルーターを組み合わせることで、モデル全体の規模を拡大せずに、さまざまなモダリティのデータを効果的に処理・推論できます。

技術的な特徴

Phi-4-MultimodalはSigLIP-400M画像エンコーダーとMLPプロジェクターを使用しており、視覚情報とテキストの表現空間を整合させることができます。また、動的マルチクロップ戦略を採用しているため、解像度を問わずさまざまな画像を良好に処理できます。音声関連タスクにおいては、音声/オーディオモダリティのLoRAコンポーネントの規模は大きくありませんが、OpenASRリーダーボードで単語誤り率(WER)6.14%を達成し、1位となっています。このことから、自動音声認識におけるその performance が非常に優れていることが分かります。

機能の特徴

  • マルチモーダル処理能力:Phi-4-Multimodalは、音声・視覚・テキスト処理を統合したアーキテクチャを備えた、マイクロソフト初のマルチモーダル言語モデルであり、パラメータ数は56億に達します。テキスト、画像、音声など、さまざまな種類のデータを処理し、これらの異なるモダリティの情報を融合して、その関連性を掘り下げることができます。

  • 音声処理:自動音声認識(ASR)および音声翻訳(ST)において、Phi-4-MultimodalはWhisperV3やSeamlessM4T-v2-Largeなどの専門音声モデルを上回り、優れた性能を発揮します。

  • 視覚処理:ドキュメント理解、チャート理解、光学文字認識(OCR)、視覚的科学推論などのタスクにおいて、Phi-4-MultimodalはGemini-2-Flash-lite-previewやClaude-3.5-Sonnetなどの人気モデルに匹敵するか、それを上回ります。

  • テキスト処理:テキスト推論、数学的計算、プログラミング、指示追従、関数呼び出しなどのタスクにおいて、Phi-4-Multimodalは優れた性能を発揮します。

応用領域

Phi-4-Multimodalは視覚および音声タスクだけでなく、音声質問応答、ドキュメント理解、光学文字認識、科学推論などの分野でも高い競争力を有しています。ただし、一部の知識集約型の質問応答では、より大規模なモデルと比較して若干劣る場合があります。

  • スマートアシスタントの分野:スマートホーム制御において、Phi-4-Multimodalはユーザーの音声指示と室内カメラが撮影した画像に基づき、より正確にタスクを実行できます。

  • 教育分野:オンライン教育のマルチメディア学習教材に対して、Phi-4-Multimodalは動画内の画像や解説オーディオに対応するテキストなどを分析し、学生により包括的な学習支援を提供できます。

微软推出了两款新模型:Phi-4-Multimodal多模态型和Phi-4-Mini文本模型.webp

Phi-4-Mini

Phi-4-Miniとは?

Phi-4-Miniは、テキストタスク専用に設計された効率的なモデルで、3.8億のパラメータを有しています。言語理解および生成タスクにおいて、そのパラメータ規模から期待されるよりもはるかに優れた性能を発揮し、一部の面ではより大規模なモデルにも匹敵します。

技術的な特徴

Phi-4-Miniは32層のTransformer構造を採用しており、隠れ状態サイズを3,072に設定し、Group Query Attention(GQA)メカニズムを導入することで、長文コンテキスト情報をより適切に処理できます。また、分数RoPE次元の活用により、長シーケンスの処理効率も向上しています。

機能の特徴

軽量設計:Phi-4-Miniモデルはテキストタスクに特化しており、パラメータ数は38億です。Grouped Query Attentionメカニズム(GQA)と入出力埋め込み共有技術を採用し、長コンテキスト生成時のリソース利用を最適化しています。

効率的なテキスト処理:テキスト推論、数学的計算、プログラミング、指示追従、関数呼び出しなどのタスクにおいて、Phi-4-Miniは優れた性能を発揮し、複数の一般的な大規模言語モデルを上回ります。

応用シナリオ

モバイルアプリ:スマートフォンアプリにおいて、Phi-4-Miniはユーザーに便利な言語対話サービスを提供し、観光名所情報や現地の交通などに関する質問に迅速に回答できます。

IoTデバイス:スマートスピーカーなどのIoTデバイスにとって、Phi-4-Miniはローカルデバイス上で簡単な音声対話処理を行うことができ、クラウドへの依存を減らし、応答速度の向上とユーザーのプライバシー保護を実現します

性能

Phi-4-Miniは規模こそ小さいものの、推論、数学、プログラミングなどのタスクにおいて、同規模の大型モデルよりも優れた性能を示しており、特定のタスクにおけるその高い効率性と正確性が十分に証明されています。

モデルダウンロード:https://huggingface.co/collections/microsoft/phi-4-677e9380e514feb5577a40e4