脚本プランナー▸ 
AIアプリ 
AIニュース Aero-1-Audio：LMMs-Labが開発したコンパクトなオーディオモデル
小编 ·
Aero-1-Audio：LMMs-Labが開発したコンパクトなオーディオモデル
Aero-1-Audioとは？
Aero-1-Audioは、LMMs-Labによって開発されたコンパクトなオーディオモデルで、Qwen-2.5-1.5B言語モデルをベースに構築され、24.2億パラメータを持ち、MITライセンスを採用しています。さまざまなオーディオタスクを効率的に処理でき、モバイルボイスアシスタント、会議の記録・文字起こしシステム、教室でのリアルタイム音声書き起こしなど、リソースが限られている状況で高品質なオーディオ処理機能を展開するシナリオに適しています。
Aero-1-Audioモデルの特徴
高い効率性：Aero-1-AudioはQwen-2.5-1.5Bをベースに構築されており、パラメータ規模は小さいものの、複数のオーディオベンチマークで優れた性能を発揮し、Whisper、Qwen-2-Audio、ElevenLabs/Scribeなど、多くのより大規模なaiモデルをも上回ります。
高い学習効率：Aero-1-Audioモデルは、わずか16基のH100 GPUを使用して1日以内に学習を完了させ、約50億トークン（5万時間のオーディオに相当）の高品質フィルタリングデータを使用しました。
長尺オーディオ処理能力：Aero-1-Audioは、分割することなく最大15分間の連続オーディオ入力を処理できます。これは現在のオーディオモデルとしては比較的珍しい特徴です。
性能評価
音声認識タスク：AMI、LibriSpeech、SPGISpeechなどのデータセットにおいて、Aero-1-Audioの単語誤り率（WER）が最も低くなっています。長尺音声ASRテストでは、性能の低下幅が最も小さくなっています。
オーディオ理解タスク：オーディオ分析と理解、音声指示の追従、オーディオシーン理解など、複数の次元でAero-1-Audioは優れたパフォーマンスを示し、他の大規模モデルよりも優れているか、同等の性能を持っています。
技術的優位性
動的バッチサイズ：Aero-1-Audioは、トークン長に基づく動的バッチ処理戦略を使用し、計算資源の利用率を向上させています。
シーケンスパッキング：シーケンスパッキング技術とLigerカーネルフュージョンを組み合わせることで、平均モデルFLOP利用率（MFU）を0.03から0.34に向上させ、学習効率を高めています。
Aero-1-Audioの応用シナリオ
Aero-1-Audioは、教育、医療、エンターテインメントなどの分野で活用でき、例えば講義ノートの自動生成、医師のカルテ記録の補助、リアルタイムでの動画字幕生成などに応用できます。
Aero-1-Audioの使用方法
依存関係のインストール：特定バージョンのtransformersライブラリをインストールする必要があり、コマンドはpython3 -m pip install transformers@git+https://github.com/huggingface/[email protected]です。
簡単なデモ：関連するライブラリと関数をインポートし、オーディオを読み込み、AutoProcessorとAutoModelForCausalLMクラスを使用して、入力を構築して出力を生成することで、オーディオ処理（音声文字起こしなど）を実現します。
バッチ推論：簡単なデモと同様に、複数のオーディオを処理でき、入力データの形式とパラメータ設定（パディング方向の設定など）を調整する必要があります。
よくある質問
質問：Aero-1-Audioは他の大規模オーディオモデルと比較して、どのような優位性がありますか？
回答：Aero-1-Audioはパラメータの使用効率が高く、学習データ量はQwen-OmniやPhi-4などのモデルより100倍以上少ないですが、性能は依然として競争力を持っています。また、最大15分間の連続オーディオ入力を正確に処理できますが、これは他のモデルではあまり見られない特徴です。
質問：Aero-1-Audioモデルを使用して推論する前に、どのような準備が必要ですか？
回答：特定バージョンのtransformersライブラリをインストールする必要があり、コマンドはpython3 -m pip install transformers@git+https://github.com/huggingface/[email protected]です。性能を向上させたい場合はflash-attnをインストールでき、コマンドはpip install --no-build-isolation flash-attnです。flash attnを使用したくない場合は、sdpaまたはeagerを選択することもできます。
質問：Aero-1-Audioの学習データにはどのような特徴がありますか？
回答：学習データは20以上の公開データセットから取得され、約50億トークン、約5万時間のオーディオデータに対応しています。他のモデルと比較して、学習データ量は少ないもののサンプル効率が高く、少ないデータ量で競争力のある性能を達成できます。
HuggingFace：https://huggingface.co/lmms-lab/Aero-1-Audio
