Grok de Musk passe en open source : liens de téléchargement et code source GitHub 243

Le modèle de langage de grande taille Grok-1, développé par xAI, la société d'IA de Musk, a été officiellement open source le 18 mars 2024 après plusieurs mois d'entraînement et de préparation. Grok-1 possède jusqu'à 314 milliards de paramètres, dépassant le modèle GPT-3.5 d'OpenAI, ce qui en fait le plus grand modèle de langage open source à ce jour. Cette initiative est conforme à la licence Apache 2.0, ce qui signifie que les développeurs peuvent librement télécharger, utiliser, modifier et distribuer les poids et l'architecture du modèle Grok-1.

Site officiel de Grok :https://grok.x.ai/

Adresse de téléchargement du code source Grok open source sur GitHub :https://github.com/xai-org/grok-1

Grok-1 est un modèle de base entraîné sur de grandes quantités de données textuelles, non ajusté pour une tâche spécifique. Il adopte une architecture à mélange d'experts (Mixture-of-Experts, MOE), une méthode d'apprentissage automatique qui combine les sorties de plusieurs sous-modèles (experts) pour améliorer l'efficacité du traitement des tâches par le modèle. La taille des poids source de Grok-1 est d'environ 300 Go, et il est open source sur GitHub.

Pourquoi Musk a-t-il open sourcé Grok ?

Cette décision de Musk intervient dans un contexte de tensions avec OpenAI et d'actions en justice contre cette dernière. Musk entretient une rivalité de longue date avec le cofondateur d'OpenAI, Altman. Il a critiqué publiquement OpenAI pour avoir trahi sa vocation originelle d'open source, transformant une organisation initialement conçue pour rivaliser avec Google en une entité à but lucratif collaborant avec Microsoft. Ainsi, Musk a décidé de montrer son engagement envers le partage ouvert dans le domaine de l'IA en open sourçant Grok-1.

De plus, à travers l'open source, Musk espère attirer davantage de développeurs et d'utilisateurs, étendre son influence, et également apporter à xAI plus de ressources en données pour l'aider à améliorer et optimiser continuellement sa technologie.

La signification de l'open source de Grok par Musk

L'open source de Grok-1 contribuera directement à faire progresser le développement de la technologie de l'IA et à promouvoir la concurrence et la diversité. Il apporte un nouvel élan au domaine de l'IA et pourrait déclencher une nouvelle révolution technologique. Parallèlement, cela constitue aussi un défi aux stratégies de commercialisation existantes dans le domaine de l'IA. Musk tente, par le biais de l'open source, de modifier l'orientation de la technologie de l'IA pour qu'elle corresponde davantage à sa vision personnelle.