ZeroSearch:Alibabaがオープンソース化した新しいLLM検索エンジンフレームワーク 68

小编 ·

ZeroSearch:Alibabaがオープンソース化した新しいLLM検索エンジンフレームワーク

2025年5月8日、AlibabaはZeroSearchをオープンソース化しました。ZeroSearchはAlibaba通義实验室がオープンソース化した新しいLLM検索エンジンフレームワークであり、本質的には独自のアーキテクチャによる強化学習フレームワークです。従来型の実際の検索エンジンとインタラクションする必要がなく、LLM自身が持つ検索能力を十分に引き出すことができます。

ZeroSearch:Alibabaがオープンソース化した新しいLLM検索エンジンフレームワーク

2025年5月8日、アリババはZeroSearch大規模モデル検索エンジンをオープンソース化しました。ZeroSearchはアリババTongyi Labがオープンソース化した革新的な大規模モデル検索エンジンフレームワークであり、本質的には独自の高強化学習フレームワークです。従来型の実際の検索エンジンとインタラクションを行うことなく、大規模モデル自身が秘めている検索能力を十分に引き出すことが可能です。

ZeroSearch:アリババがオープンソース化した革新的な大規模モデル検索エンジンフレームワーク.jpg

ZeroSearchの主な機能

  • 実際の検索エンジンとのインタラクション不要:検索エンジンを模擬する方式で、大規模モデルの検索能力を引き出し、Googleなどの実検索エンジンとのインタラクションを回避することで、コストと制御不能性を低減します。

  • ドキュメント品質の動的制御:関連性のあるドキュメントやノイズを含むドキュメントの生成をサポートし、プロンプト内のキーワード調整に基づいて生成されるドキュメントの品質を柔軟に制御することで、訓練に多様な検索シナリオを提供します。

  • 複数のモデルとアルゴリズムをサポート:異なるパラメータ規模の大規模モデル(3B、7B、14Bなど)に対応し、PPO、GRPOなど複数の強化学習アルゴリズムをサポートします。

ZeroSearchの中核技術

  • 実際の検索エンジンとのインタラクション不要:ZeroSearchは強化学習フレームワークを通じて、Googleなどの実検索エンジンとインタラクションすることなく、大規模モデルの検索能力を引き出します。大規模モデルが大規模事前学習の過程で蓄積した知識に基づき、それを検索モジュールに変換し、クエリに応じて関連コンテンツを生成します。

  • ドキュメント品質の動的制御:このフレームワークは生成されるドキュメントの品質を動的に制御でき、関連性のあるドキュメントやノイズを含むドキュメントの生成をサポートすることで、訓練に多様な検索シナリオを提供します。プロンプトテンプレートのキーワードを調整することで、モデルに品質の段階分けられた検索を学習させます。

  • 軽量な教師あり微調整:まず大規模モデルを検索モジュールに変換し、高品質または低品質なドキュメントを生成できるようにし、さまざまな訓練ニーズに適応させます。

  • カリキュラム学習メカニズム:訓練中にドキュメントのノイズレベルを徐々に増加させ、モデルが単純なシナリオから始めて、より困難なタスクへと段階的に適応し、推論能力を向上させます。

  • F1スコアに基づく報酬メカニズム:F1スコアを報酬信号として使用し、回答の正確性に焦点を当てます。

  • 複数ターンインタラクションテンプレート:明確な推論、検索、回答のフェーズを設計し、モデルが段階的にタスクを完了するよう導きます。

性能とコスト面での優位性

  • 性能パフォーマンス:研究者はNQ、TriviaQAなど7つの主要なQAデータセットでテストを実施し、70億パラメータの教師あり微調整モデルの検索能力は33.06、140億パラメータのモデルは33.97に達し、Google検索の32.47を上回りました。

  • コスト効率:Google検索で約64,000回の検索クエリによる訓練を行うとコストは約586.70米ドルですが、140億パラメータの大規模モデルを4基のA100 GPUで模擬訓練した場合、コストはわずか70.80米ドルで、コスト削減率は80%を超えます。

ZeroSearch:アリババがオープンソース化した革新的な大規模モデル検索エンジンフレームワーク.webp

ZeroSearchの応用シナリオ

  • スマートQAシステム:ユーザーの質問に迅速かつ正確に回答でき、スマートカスタマーサービスやスマートアシスタントなどのシナリオに適しています。

  • 企業内ナレッジ管理:企業はZeroSearchを活用して効率的なナレッジ検索プラットフォームを構築でき、従業員が必要な情報に迅速にアクセスし、業務効率を向上させることができます。

プロジェクトアドレス

プロジェクト公式サイト:https://alibaba-nlp.github.io/ZeroSearch/

GitHubリポジトリ:https://github.com/Alibaba-nlp/ZeroSearch

HuggingFaceモデルライブラリ:https://huggingface.co/collections/sunhaonlp/zerosearch

arXiv技術論文:https://arxiv.org/pdf/2505.04588