Grand modèle Orion Starry Sky
Grand modèle Orion Starry SkyIntroduction
Le grand modèle Orion-14B-Base d'Orion Star est un grand modèle multilingue doté de 14 milliards de paramètres. Ce modèle a été entraîné sur un ensemble de données diversifié contenant 2,5 billions de tokens, couvrant plusieurs langues telles que le chinois, l'anglais, le japonais et le coréen. Il offre d'excellentes performances dans une série de tâches en environnement multilingue. Dans les principales évaluations de benchmarks publics, la série de modèles Orion-14B obtient d'excellents résultats, avec plusieurs indicateurs surpassant nettement les autres modèles de même niveau de paramètres.

Adresse open source :
https://github.com/OrionStarai/Orion
https://huggingface.co/OrionStarAI
La série de grands modèles Orion-14B d'Orion Star présente les caractéristiques suivantes :
Performances d'évaluation globales remarquables pour un grand modèle de base d'environ 20B paramètres
Solides capacités multilingues, avec une avance significative sur les ensembles de tests en japonais et en coréen
Grande adaptabilité du modèle ajusté, avec des performances remarquables lors de tests à l'aveugle annotés par des humains
La version à contexte étendu prend en charge les textes très longs, avec d'excellentes performances sur une longueur de 200k tokens, et peut aller jusqu'à 320k
La version quantifiée réduit la taille du modèle de 70 %, augmente la vitesse d'inférence de 30 %, avec une perte de performance inférieure à 1 %
Plus précisément, la série de grands modèles de langage Orion-14B d'Orion Star comprend :
Orion-14B-Base : un modèle de base multilingue de l'ordre de 14 milliards de paramètres entraîné sur un ensemble de données diversifié de 2,5 billions de tokens.
Orion-14B-Chat : un modèle de dialogue ajusté sur un corpus de haute qualité, conçu pour offrir à la communauté des grands modèles une meilleure expérience d'interaction utilisateur.
Orion-14B-LongChat : performances remarquables sur une longueur de 200k tokens, avec un support pouvant aller jusqu'à 320k ; ses performances sur les ensembles d'évaluation de textes longs sont comparables à celles des modèles propriétaires.
Orion-14B-Chat-RAG : un modèle de dialogue ajusté sur un ensemble de données personnalisé de génération augmentée par la recherche (RAG), qui obtient d'excellentes performances dans les tâches de génération augmentée par la recherche.
Orion-14B-Chat-Plugin : un modèle de dialogue spécialement conçu pour les tâches de plugins et d'appels de fonctions, particulièrement adapté aux scénarios utilisant des agents, dans lesquels le grand modèle de langage joue le rôle de système de plugins et d'appels de fonctions.
Orion-14B-Base-Int4 : un modèle de base quantifié avec int4. Il réduit significativement la taille du modèle de 70 %, tout en augmentant la vitesse d'inférence de 30 %, avec une perte de performance minimale de seulement 1 %.
Orion-14B-Chat-Int4 : un modèle de dialogue quantifié avec int4.
Orion Star (OrionStar) est une entreprise leader mondial spécialisée dans les solutions de robots de service, fondée en septembre 2016. Orion Star se consacre à la création de la prochaine génération de robots révolutionnaires basés sur la technologie de l'intelligence artificielle, afin de permettre aux personnes de se libérer des tâches physiques répétitives et de rendre le travail et la vie des êtres humains plus intelligents et plus intéressants, en rendant la société et le monde meilleurs grâce à la technologie.
Orion Star maîtrise pleinement toute la chaîne de technologies d'intelligence artificielle développées de manière autonome, telles que l'interaction vocale et la navigation visuelle. Elle intègre des capacités de développement de produits et d'application technologique. Basée sur la plateforme de bras robotique Orion, elle a lancé des produits tels que ORION STAR AI Robot Greeter, AI Robot Greeter Mini, Lucki, Café Master, et a établi OrionOS, la plateforme ouverte des robots Orion. À travers la philosophie « Né pour être un robot véritablement utile », elle permet à davantage de personnes grâce à la technologie de l'IA.
Fort de 7 ans d'accumulation d'expérience en IA, Orion Star a lancé « Juyan », une application approfondie de grand modèle, et fournit progressivement à ses clients industriels des solutions personnalisées de conseil et de service en grands modèles d'IA, aidant réellement les clients à atteindre leurs objectifs d'efficacité opérationnelle en devançant leurs pairs.
Orion Star dispose d'un avantage essentiel en termes de capacité d'application de grands modèles sur l'ensemble de la chaîne, incluant l'accumulation de capacités et d'expérience sur toute la chaîne : traitement de données massives, pré-entraînement de grands modèles, pré-entraînement secondaire, ajustement fin (Fine-tune), Prompt Engineering, développement d'Agent. Elle possède une capacité complète d'entraînement de modèles de bout en bout, comprenant un flux systématique de traitement des données et une capacité d'entraînement parallèle de modèles sur des centaines de GPU. Elle est désormais déployée dans plusieurs scénarios sectoriels tels que l'administration publique, le cloud computing, le commerce électronique à l'international et la grande consommation.
Assistant scénario▸
Apps AI
Actualités AI