Wuwen Xinqiong : solutions de calcul pour bâtir l’infrastructure de l’AGI 111

无问芯穹 se consacre à fournir des solutions de calcul AGI (Intelligence Artificielle Générale) d'excellence, en plaçant son kit d'outils d'optimisation de l'efficacité énergétique des grands modèles au cœur de son activité. Elle collabore en aval avec plusieurs fabricants chinois de puces et propose en amont, via des services cloud de calcul intelligent et des appliances intégrées, des solutions destinées aux entreprises spécialisées dans les algorithmes de grands modèles. En coordonnant la puissance de calcul, les algorithmes et l'écosystème, elle favorise le déploiement efficace de grands modèles sectoriels et construit l'infrastructure dédiée aux grands modèles à l'ère de l'AGI.

Site officiel de 无问芯穹 :https://www.infini-ai.com

Produits phares de 无问芯穹 :

Basée sur le kit d'outils d'optimisation de l'efficacité énergétique des grands modèles 无穹, la plateforme intègre les capacités de calcul des puces chinoises pour bâtir une infrastructure de calcul unifiée. Elle propose des services cloud de calcul accéléré prenant en charge NVIDIA, AMD, 海光 (Hygon), 天数 (Tianshu) et bien d'autres, masquant les différences matérielles pour une utilisation immédiate.

Destinée aux scénarios de déploiement privé de grands modèles, elle intègre des cartes d'accélération de calcul, des IP développées en interne, des kits d'outils d'optimisation et des grands modèles sectoriels pour construire une appliance intégrée de grand modèle, maximisant ainsi le ROI du déploiement de grands modèles.

Solutions de 无问芯穹 :

无问芯穹 offre des services de formation de bout en bout, de l'installation à l'utilisation, ainsi que des services de personnalisation de modèles, réduisant ainsi la barrière à l'entrée pour l'utilisation des grands modèles. Des solutions personnalisées sont élaborées en fonction de vos besoins.

1. Service cloud de calcul intelligent

• Instances accélérées par GPU

• Prêtes à l'emploi, accélération unifiée, optimisation approfondie des performances, compatibilité open source

• Prise en charge de puces chinoises multi-sources

• Service d'accélération de l'entraînement de grands modèles

• Service d'accélération de l'inférence de grands modèles

2. Appliance intégrée de calcul intelligent

• Collaboration approfondie entre logiciel et matériel

• IP de cartes d'accélération développée en interne

• Valorisation des grands modèles sectoriels

3. Kit d'outils d'optimisation de l'efficacité énergétique des grands modèles

• Bibliothèque d'opérateurs haute performance multi-backend développée en interne

• Bibliothèque de quantification et de compression de modèles

• Bibliothèque d'accélération de l'entraînement distribué

• Moteur d'inférence de modèles multi-backend

4. Grands modèles sectoriels développés en interne

• Grand modèle pour l'administration publique

• Grand modèle pour le domaine juridique

• Grand modèle pour le secteur boursier

5. Chaîne d'outils de développement d'applications basées sur les grands modèles

• Moteur multi-agents

• Service de réglage fin de modèles

• Kit d'outils RAG

• Outil d'évaluation des performances

6. Applications d'agents intelligents sectoriels basées sur les grands modèles

• Assistant d'investissement

• Assistant algorithmique

Membres de l'équipe 无问芯穹 :

Les membres fondateurs de l'équipe sont issus du Département d'électronique de l'Université Tsinghua ainsi que d'entreprises leaders dans l'Internet et l'IA. Ils possèdent une riche expérience industrielle et un parcours entrepreneurial couronné de succès, avec une solide accumulation technique et académique. Ils ont publié plus de 200 articles académiques de haut niveau dans le domaine de l'optimisation des systèmes d'intelligence artificielle.

Les réalisations associées comprennent : (1) une bibliothèque d'opérateurs GPU haute performance surpassant les bibliothèques commerciales NVIDIA, offrant sur des GPU de milieu de gamme des performances supérieures à celles des logiciels commerciaux sur GPU haut de gamme ; (2) une architecture d'accélération d'inférence clairsemée de grands modèles, améliorant la vitesse de calcul des réseaux neuronaux clairsemés, des réseaux neuronaux graphiques, etc. d'un à trois ordres de grandeur. L'équipe a déjà permis de réduire de 50 % la latence des grands modèles de langage sur les GPU NVIDIA, et prévoit d'aller plus loin en combinant optimisation des opérateurs bas niveau, accélération clairsemée,感知 des caractéristiques matérielles et interconnexion haute performance, pour porter le facteur d'accélération global à 10x.