讯飞星辰 MaaS : plateforme de contenu AIGC tout-en-un 138

Qu'est-ce que 讯飞星辰MaaS ?

讯飞星辰MaaS est une plateforme d'exploitation de contenu aiGC tout-en-un développée par iFlytek (科大讯飞), principalement destinée aux développeurs. Elle offre des services de personnalisation et d'entraînement de grands modèles, rassemble de nombreux modèles de qualité supérieure et propose une gestion complète du cycle de vie des grands modèles. Elle se distingue par ses solides capacités d'ingénierie des données et son expérience de fine-tuning fluide, et est compatible avec le protocole OpenAI, couvrant de nombreux scénarios tels que la création de contenu, le code et le raisonnement logique.

La plateforme 讯飞星辰 MaaS couvre de nombreuses fonctionnalités, notamment la création de modèles, la place de marché de modèles, le centre d'expérience et les solutions. En matière de traitement des modèles, elle prend en charge l'inférence en ligne, l'inférence par lots, le fine-tuning de modèles, la distillation de modèles, l'hébergement de modèles, l'évaluation de modèles et la gestion de modèles. Elle inclut également un module de gestion des données couvrant les jeux de données et l'augmentation de données, ainsi que des fonctionnalités telles que l'ingénierie de prompts, la configuration système et la gestion de la facturation.

Fonctionnalités et caractéristiques de 讯飞星辰MaaS

• Modèles riches : elle rassemble plus de 20 modèles reconnus du secteur, tels que 讯飞星火, Llama3 et SD-XL. Elle intègre également de nouveaux modèles développés en interne par Spark, dont Spark Max, Spark Mini et Spark Tiny, ainsi que les versions affinées de plusieurs modèles open source comme la série Shusheng (书生) et la série Qwen2.5, répondant ainsi à divers scénarios métiers.

• Solides capacités d'ingénierie des données : à partir de dimensions telles que l'extraction de questions-réponses, l'augmentation de données et l'ingénierie de prompts, elle construit des capacités d'ingénierie des données à 360°. Elle prend en charge la génération de texte courant, la compréhension sémantique et la généralisation des données de questions-réponses, étend la quantité de jeux de données, prend en charge l'entraînement mixte et assure la prise en charge de presque tous les formats de jeux de données courants du secteur, tels que les formats ShareGPT et Alpaca.

• Excellente expérience de fine-tuning : elle fournit une chaîne d'outils full-stack flexible et exploitable, prend en charge la séparation d'une certaine proportion du jeu d'entraînement pour la validation, et permet à jusqu'à 10 modèles d'effectuer simultanément une inférence par lots en ligne, améliorant considérablement l'efficacité du traitement des données.

• Compatible avec le protocole OpenAI : elle facilite la migration des compétences pour les développeurs. Les utilisateurs qui employaient auparavant les capacités d'OpenAI peuvent basculer en un clic vers les capacités de Spark, permettant une « migration en douceur ».

• Prise en charge de l'entraînement fine-tuning function_call : permet au modèle de comprendre quand il doit appeler une fonction, quelle fonction appeler et comment transmettre correctement les paramètres à la fonction, renforçant ainsi le caractère pratique du modèle dans les applications réelles et lui permettant de mieux interagir avec des outils ou systèmes externes.

• Évaluation aisée des performances des modèles : elle prend en charge l'affichage des courbes de Loss et la comparaison d'évaluation des effets entre modèles « juges ». Pendant le processus d'entraînement en fine-tuning multimodal, elle permet d'ajuster finement les proportions de données et de procéder à des ajustements dynamiques, améliorant les capacités dans le domaine cible tout en évitant au maximum l'oubli catastrophique et en préservant la performance globale du modèle.

Scénarios d'application de 讯飞星辰MaaS

• Création de contenu : pour des scénarios tels que la création de contenu haut de gamme ou les services de connaissances spécialisés, le modèle Spark Max peut être utilisé.

• Service client en ligne : pour le système de service client en ligne d'une petite startup, le modèle Spark Tiny peut être utilisé, répondant aux exigences de performance tout en économisant les coûts.

• Personnalisation sectorielle : pour des secteurs et scénarios spécifiques, en « nourrissant » le grand modèle généraliste avec des données dédiées, on peut conserver les avantages « généralistes » tout en affinant le grand modèle afin qu'il intègre facilement les avantages « spécialistes » du secteur, répondant ainsi aux besoins spécifiques de l'industrie.

Comment utiliser 讯飞星辰MaaS

1. Inscription et connexion : accédez au site officiel de 讯飞星辰MaaS, créez un compte ou connectez-vous avec un compte existant.

2. Choix du modèle : sélectionnez le modèle pré-entraîné adapté en fonction des besoins métiers.

3. Préparation des données : préparez ou choisissez un jeu de données adapté pour le fine-tuning ; la plateforme prend en charge plusieurs formats de jeux de données.

4. Fine-tuning du modèle : utilisez les outils fournis par la plateforme pour affiner le modèle sélectionné, y compris le téléchargement du jeu de données, la configuration des paramètres de fine-tuning, etc.

5. Évaluation du modèle : utilisez les outils d'évaluation pour évaluer les performances du modèle après fine-tuning.

6. Déploiement du modèle : déployez le modèle entraîné dans une application réelle.

7. Appels d'API : effectuez des appels de modèles à partir de l'API fournie par 讯飞星辰 afin d'intégrer les services du modèle.

Public cible de 讯飞星辰MaaS

• Développeurs en IA : développeurs ayant besoin d'entraîner des modèles d'apprentissage profond.

• Chercheurs en IA : chercheurs ayant besoin d'un entraînement personnalisé de modèles.

• Utilisateurs professionnels : entreprises ayant besoin de grands modèles personnalisés pour répondre à des besoins métiers spécifiques.