SiliconFlow : plateforme d'infrastructure informatique pour l'IA générative 135

SiliconFlow est une startup spécialisée dans le domaine des infrastructures d'IA (AI Infra), fondée en août 2023. L'entreprise s'engage à créer une plateforme d'IA évolutive, standardisée et hautement performante, offrant une grande variété de services de modèles d'IA, afin d'aider les développeurs et les entreprises à se concentrer sur l'innovation produit. SiliconFlow a collaboré avec Huawei Cloud pour lancer un service d'inférence DeepSeek basé sur Ascend Cloud, avec des performances comparables à celles des modèles déployés sur les GPU haut de gamme mondiaux. Le fondateur, Yuan Jinhui, est l'ancien fondateur et PDG de OneFlow, et SiliconFlow a obtenu près de 100 millions de yuans de financement en série d'amorçage+.

Produits et services :

• DeepSeek R1/V3 service d'inférence : lancé en collaboration avec Huawei Cloud, le service d'inférence DeepSeek R1/V3 basé sur les services Ascend Cloud offre des performances comparables à celles des modèles déployés sur les GPU haut de gamme mondiaux, tout en fournissant un service d'inférence stable de niveau production.

• Plateforme cloud SiliconCloud : une plateforme cloud tout-en-un lancée par SiliconFlow, regroupant les principaux grands modèles open source et offrant des services de grands modèles d'IA performants et économiques.

Avantages techniques :

• Moteur d'accélération d'inférence développé en interne : grâce à son moteur d'accélération d'inférence propriétaire, SiliconFlow atteint des performances comparables à celles des modèles déployés sur les GPU haut de gamme mondiaux tout en réduisant les coûts de déploiement et d'inférence des grands modèles.

• Inférence multimodale : dans le domaine de l'inférence multimodale, le moteur d'accélération d'inférence open source OneDiff offre des performances jusqu'à 3 fois supérieures à celles des produits open source similaires, atteignant une vitesse de génération d'images de bout en bout de l'ordre de la centaine de millisecondes.

Quels problèmes SiliconFlow résout-il ?

• Déploiement et inférence efficaces des grands modèles d'IA : grâce à son moteur d'accélération d'inférence propriétaire et à sa collaboration avec Huawei Cloud, SiliconFlow fournit des services de grands modèles d'IA performants et économiques, résolvant ainsi les problèmes de faible efficacité et de coût élevé de l'entraînement et de l'inférence des grands modèles.

• Problème d'interruption de service de DeepSeek : DeepSeek a connu de fréquentes interruptions de service en raison de l'explosion du trafic et d'attaques malveillantes. SiliconFlow a collaboré avec Huawei Cloud pour lancer les services d'inférence DeepSeek R1 et V3 basés sur Ascend Cloud, ce qui a soulagé la pression sur les serveurs et fourni un service plus stable.

• Réduction des barrières à l'utilisation de la technologie IA : SiliconFlow offre des quotas d'API gratuits et des tarifs préférentiels, permettant aux développeurs de bénéficier d'une « liberté de tokens », réduisant ainsi les coûts de calcul pour les entreprises et les développeurs individuels et favorisant la diffusion et l'application de la technologie IA.

• Amélioration des performances des applications d'IA multimodales : le moteur d'inférence multimodale OneDiff de SiliconFlow offre des performances jusqu'à 3 fois supérieures, prend en charge la génération d'images de bout en bout en une centaine de millisecondes, et améliore les performances de l'IA dans les applications multimodales telles que l'image et la vidéo.

• Promotion du développement de l'écosystème IA national : la collaboration entre SiliconFlow et Huawei Cloud marque l'essor de l'écosystème IA national, offrant une solution d'IA entièrement nationalisée, réduisant la dépendance aux technologies étrangères et renforçant la compétitivité du pays dans le domaine de l'IA.

Récemment, SiliconFlow a annoncé le lancement des modèles DeepSeek-V3/R1, attirant plus de 3 millions de développeurs dès la première semaine. En collaboration avec Huawei Cloud, SiliconFlow a lancé un service d'inférence basé sur Ascend Cloud, atteignant des performances d'inférence haut de gamme comparables aux meilleures normes internationales.

SiliconFlow s'engage à construire une plateforme d'infrastructure de calcul d'IA générative évolutive, standardisée et hautement performante, en proposant des produits tels que la plateforme cloud de modèles SiliconCloud, le moteur d'inférence de grands modèles de langage SiiconLLM, et la bibliothèque d'accélération haute performance texte-vers-image/vidéo OneDif, aidant ainsi les entreprises et les particuliers à déployer des modèles d'IA de manière efficace et économique.