Orion Starry Sky 大規模言語モデル

Orion Starry Sky 大規模言語モデル 111

140億パラメータを持つ多言語大規模モデルで、中国語、英語、日本語、韓国語など2.5兆トークンの多様なデータセットで学習されています。

#Ai工具箱 #Ai平台模型

Orion Starry Sky 大規模言語モデル紹介

Orion-14B-Baseは、140億パラメータを持つ多言語大規模モデルであり、2.5兆トークンを含む多様なデータセットで訓練されており、中国語、英語、日本語、韓国語など複数の言語をカバーしています。多言語環境における一連のタスクで卓越した性能を発揮しています。主流の公開ベンチマーク評価において、Orion-14Bシリーズモデルは優れた性能を示し、多くの指標が同等のパラメータ規模を持つ他のモデルを大きく上回っています。

Orion_README_zh.MD-at-master-·-OrionStarAI_Orion-·-GitHub---github.jpg

オープンソースアドレス:

https://github.com/OrionStarai/Orion

https://huggingface.co/OrionStarAI

Orion-14Bシリーズ大規模モデルには以下の特徴があります:

  • 20Bパラメータ規模のベースモデルとして、総合評価で優れた性能を発揮

  • 多言語能力が高く、日本語・韓国語のテストセットで顕著にリード

  • ファインチューニングモデルの適応性が高く、人間のアノテーターによるブラインドテストで優れたパフォーマンスを発揮

  • 長コンテキストバージョンは超長文テキストをサポートし、200kトークン長で優れた効果を発揮し、最大320kまで対応可能

  • 量子化バージョンではモデルサイズが70%削減され、推論速度が30%向上、性能損失は1%未満

具体的には、Orion-14Bシリーズ大規模言語モデルには以下が含まれます:

  • Orion-14B-Base:2.5兆トークンの多様なデータセットに基づいて訓練された、140億パラメータ規模の多言語ベースモデル。

  • Orion-14B-Chat:高品質なコーパスでファインチューニングされた対話モデルであり、大規模モデルコミュニティにより優れたユーザーインタラクション体験を提供することを目的としています。

  • Orion-14B-LongChat:200kトークン長で優れた効果を発揮し、最大320kまで対応可能で、長文評価セットにおいて専有モデルに匹敵する性能を発揮します。

  • Orion-14B-Chat-RAG:カスタマイズされた検索拡張生成データセットでファインチューニングされたチャットモデルであり、検索拡張生成タスクにおいて卓越した性能を達成しています。

  • Orion-14B-Chat-Plugin:プラグインおよび関数呼び出しタスク専用にカスタマイズされたチャットモデルであり、大規模言語モデルがプラグインおよび関数呼び出しシステムとして機能する、エージェント関連のシナリオに非常に適しています。

  • Orion-14B-Base-Int4:int4で量子化されたベースモデルです。モデルサイズを70%削減しつつ、推論速度を30%向上させ、性能損失はわずか1%です。

  • Orion-14B-Chat-Int4:int4で量子化された対話モデルです。

OrionStar(猎户星空)は、2016年9月に設立された、世界をリードするサービスロボットソリューション企業です。OrionStarは、人工知能技術に基づき、次世代の革新的ロボットの構築に取り組んでおり、人々が繰り返しの肉体労働から解放され、人間の仕事と生活がよりスマートで面白くなるよう、技術を通じて社会と世界をより良くすることを目指しています。

OrionStarは、音声対話や視覚ナビゲーションなど、完全自社開発のエンドツーエンドの人工知能技術を保有しています。製品開発能力と技術応用能力を統合しています。Orionロボットアームプラットフォームに基づき、ORION STAR AIロボットグリーティング、AIロボットグリーティングミニ、Lucki、コーヒーMasterなどの製品を展開し、OrionロボットのオープンプラットフォームOrionOSを構築してきました。「本当に役に立つロボットのために」という理念の実践を通じて、AI技術によってより多くの人々に力を与えています。

7年間のAI経験の蓄積により、OrionStarは大規模モデルの深い応用である「聚言(ジュヤン)」を立ち上げ、業界顧客向けにカスタマイズされたAI大規模モデルのコンサルティングとサービスソリューションを順次提供しており、顧客が経営効率で同業をリードする実現を真に支援しています。

OrionStarは、エンドツーエンドの大規模モデル応用能力を中核的な優位性として備えており、大量データ処理、大規模モデルの事前トレーニング、二次事前トレーニング、ファインチューニング(Fine-tune)、Prompt Engineering、Agent開発までの全工程にわたる能力と経験の蓄積を持っています。体系的なデータ処理フローと数百枚のGPUによる並列モデルトレーニング能力を含む、完全なエンドツーエンドのモデルトレーニング能力を保有しており、政務、クラウドサービス、海外向けEC、Fast-Moving Consumer Goods(FMCG)など、複数の業界シナリオで導入されています。

Orion Starry Sky 大規模言語モデル に関連するツール