Skywork R1V：昆仑万维が発表した世界初の産業グレード対応オープンソースマルチモーダル推論モデル 198

小编 · 2025-03-18

Skywork R1Vは、昆仑万维が2025年3月18日に正式リリースしたオープンソースのマルチモーダル思考連鎖推論モデルです。

Skywork R1V：昆仑万维が発表した世界初の産業グレード対応オープンソースマルチモーダル推論モデル

Skywork R1Vとは？

Skywork R1Vは、Kunlun Tech（崑崙万維）によってオープンソース化されたマルチモーダル思考連鎖推論モデルであり、2025年3月18日に正式にリリースされました。

Skywork R1Vは、世界初の産業レベルのオープンソースマルチモーダル推論モデルであり、多段階の論理的推論を通じて複雑な視覚タスクを解くことに特化しています。テキスト推論能力を視覚タスクに効率的に転移させ、視覚とテキストモダリティの深い融合を実現しています。Skywork R1Vは画像やテキストを理解できるだけでなく、多段階の論理的推論を行うことも可能であり、特に画像ベースの複雑な問題の処理に優れています。

Skywork R1V：崑崙万維がオープンソース化した世界初の産業レベルオープンソースマルチモーダル推論モデル.jpg

Skywork R1Vの主な特徴

視覚的思考連鎖推論：複雑な視覚タスクに対して多段階の論理的推論を行い、段階的に分析して結論を導き出すことができます。
数学・科学の問題解答：画像内の数学や科学の問題を認識し、推論能力と組み合わせて段階的な解答を提供します。
モダリティ間の融合：視覚情報とテキスト情報を深く融合させ、意味理解能力を向上させます。
高効率な推論最適化：適応的な長さの思考連鎖蒸留により、推論の深さを動的に調整し、計算資源を節約して効率を向上させます。
強力な推論能力と視覚理解能力：複数のベンチマークテストで優れたパフォーマンスを発揮し、論理的推論と視覚理解能力の両方で高いレベルに到達しています。

Skywork R1Vの技術原理

テキスト推論能力のマルチモーダル転移：Visual Projector（視覚プロジェクター）を介して、言語モデルと視覚エンコーダーを再トレーニングすることなく、テキスト推論能力を視覚タスクに転移します。
マルチモーダル混合トレーニング（Iterative SFT + GRPO）：Iterative SFT（反復教師あり微調整）とGRPO（Group Relative Policy Optimization）強化学習を組み合わせ、視覚とテキストの表現を段階的に整合させ、クロスモーダルタスクにおけるモデルのパフォーマンスを向上させます。
適応的な長さの思考連鎖蒸留：視覚-テキストの複雑さに基づく適応的な推論連鎖長制御メカニズムを導入し、モデルの推論プロセスを動的に最適化し、「過剰思考」を回避して推論効率と品質を向上させます。
三段階トレーニング手法：

初期整合：軽量な視覚アダプター（MLP）を使用して視覚エンコーダーと言語モデルを接続し、通常のマルチモーダルデータでトレーニングして、視覚と言語の表現を予備的に整合させます。
推論能力の転移：トレーニングされたアダプターを強力な推論言語モデルに接続して視覚推論モデルを形成し、モデルに初期の視覚推論能力を付与します。
精密な整合：ハイブリッド最適化フレームワーク（Iterative SFT + GRPO）に基づいて視覚モダリティと言語モダリティをさらに精密に整合させ、マルチモーダル推論能力を向上させます。