Mercury:初の商用レベル拡散型大規模言語モデル(dLLM) 198

小编 ·

Mercury:初の商用レベル拡散型大規模言語モデル(dLLM)

Mercuryは、スタートアップ企業Inception Labsが発表した初の商用レベル拡散型大規模言語モデル(dLLM)です。Copilot Arenaベンチマークテストにおいて、Mercury Coderは速度面でGPT-4o MiniやClaude 3.5 Haikuを含む複数の既存モデルを上回りました。実際の利用では、Mercury Coderは極めて高速に高品質なコードを生成できます。

Mercury:初の商用レベル拡散型大規模言語モデル(dLLM)

Mercuryとは?

Mercuryは、スタートアップ企業Inception Labsが発表した初の商用レベルの拡散型大規模言語モデル(dLLM)です。Copilot Arenaベンチマークテストにおいて、Mercury CoderはGPT-4o MiniやClaude 3.5 Haikuなど既存の複数のモデルを上回る速度を達成しました。実際の利用において、Mercury Coderは極めて高速に高品質なコードを生成することができます。

技術原理

  • 拡散モデル:Mercuryは拡散モデル技術を採用しており、従来型の自己回帰モデルとは異なり、「粗から細へ」という生成プロセスを通じて、純粋なノイズから始まり、複数のノイズ除去ステップを経て意味のあるテキストを段階的に生成します。

  • 並列生成:GPUの並列生成メカニズムを活用することで、Mercuryはテキスト生成時に複数のトークンを同時に修正することが可能となり、生成速度と効率を大幅に向上させています。

Mercury技术原理.webp

革新ポイント

  • 速度の優位性:MercuryはNVIDIA H100上で毎秒1000トークン以上の速度で動作し、既存の速度最適化されたLLMと比較して5〜10倍高速です。

  • コスト効率:新しい言語生成手法により、Mercuryは推論コストを10倍削減しつつ、最先端モデルに匹敵する性能を維持しています。

  • エラー訂正能力:拡散モデルの特性により、Mercuryは生成プロセス中に出力を継続的に改善し、エラーやハルシネーションを訂正することができます。

Mercuryの機能と特徴

  • 拡散モデル技術:Mercuryは拡散モデルを採用し、「粗から細へ」という生成プロセスを通じて、純粋なノイズから始まり、意味のあるテキストを段階的に生成します。

  • 並列生成:GPUの並列生成メカニズムを活用することで、Mercuryはテキスト生成時に複数のトークンを同時に修正することが可能となり、生成速度と効率を大幅に向上させます。

  • 速度の優位性:NVIDIA H100上で毎秒1000トークン以上の速度で動作し、既存の速度最適化されたLLMと比較して5〜10倍高速です。

  • コスト効率:新しい言語生成手法により、Mercuryは推論コストを10倍削減しつつ、最先端モデルに匹敵する性能を維持しています。

  • エラー訂正能力:拡散モデルの特性により、Mercuryは生成プロセス中に出力を継続的に改善し、エラーやハルシネーションを訂正することができます。

Mercury功能.webp

Mercuryの活用例

  • プログラミングとコード生成:Mercury Coderはコード生成専用に最適化されており、標準的なコーディングベンチマークテストで優れた性能を発揮し、速度は従来モデルと比較して10倍以上高速です。

  • Agentアプリケーション:Mercuryの高い速度と効率性により、大量の計画立案や長文生成を必要とするアプリケーション、たとえば intelligent customer service やコードアシスタントなどで優れた性能を発揮します。

  • エッジアプリケーション:その高い効率性により、Mercuryはスマートフォンやノートパソコン上など、リソースが限られた環境でも優れた性能を発揮します。

  • 高度な推論:Mercuryはエラー訂正機能を利用してハルシネーションを修正し、回答品質を向上させることができ、深い推論を必要とするタスクに適しています。

  • 制御可能な生成:Mercuryは出力内容を編集し、任意の順序で単語を生成することができるため、柔軟なコンテンツ生成が必要なシナリオに適しています。

Mercuryの利用方法

インストールと設定:Mercury Coderはすでに公開されており、一般試用が可能です。ユーザーはInception Labsが提供するplaygroundで機能を試すことができるほか、APIや社内デプロイメントサービスを通じてエンタープライズレベルのアプリケーションとして利用することもできます。

体験とテスト:ユーザーはInception Labsの公式サイトでMercury Coderの強力な能力を体験でき、コーディングのニーズを入力すれば、即座に高品質なコードが生成されます。

オンライン体験:https://chat.inceptionlabs.ai/

公式紹介:https://www.inceptionlabs.ai/news