Modèle Darwin : un grand modèle pour la science des matériaux, la chimie et la physique 110

Le modèle Darwin est un grand modèle de langage (LLM) spécialement conçu pour le domaine des sciences naturelles (en particulier la physique, la chimie et la science des matériaux), qui améliore l'efficacité des modèles de langage dans la recherche scientifique en intégrant des connaissances scientifiques structurées et non structurées.

Fonctionnalités de Darwin :

• Conception de matériaux : Le modèle Darwin est capable de concevoir de nouveaux matériaux de manière autonome. En analysant les propriétés et les performances des matériaux, il peut prédire leur comportement dans différentes conditions, accélérant ainsi la découverte et le développement de matériaux.

• Questions-réponses scientifiques : Le modèle intègre une grande quantité de données de questions-réponses scientifiques et peut fournir des informations et des réponses précises dans la recherche scientifique, aidant les chercheurs à obtenir rapidement les connaissances dont ils ont besoin.

• Analyse de données : Le modèle Darwin peut traiter et analyser des données scientifiques complexes, identifier des modèles et des tendances dans les données, et soutenir le processus de décision dans la recherche scientifique.

• Recherche interdisciplinaire : Grâce à sa puissante capacité de traitement du langage, le modèle Darwin peut favoriser la collaboration entre différentes disciplines et faire progresser la recherche multidisciplinaire.

Caractéristiques techniques :

• Fusion multidisciplinaire : Darwin intègre des connaissances issues de plusieurs domaines tels que la physique, la chimie et la science des matériaux, et est capable de traiter des tâches complexes interdisciplinaires.

• Génération d'instructions scientifiques (SIG) : En automatisant la génération de données d'instructions pour les textes scientifiques, la dépendance à l'annotation humaine et aux graphes de connaissances du domaine est réduite, améliorant ainsi significativement l'efficacité et la précision du modèle.

• Apprentissage multi-tâches : Darwin adopte une stratégie d'entraînement multi-tâches qui révèle les liens intrinsèques entre les tâches scientifiques, améliorant ainsi la capacité de généralisation et les performances du modèle.

• Open source et évolutivité : Darwin est basé sur le modèle open source LLaMA, prend en charge les contributions et les extensions de la communauté, et peut à l'avenir intégrer de manière flexible de nouveaux modules de connaissances.

Performances du modèle :

• Surpasse GPT-4 : Dans les tâches de questions-réponses scientifiques et de résolution de problèmes chimiques, le modèle Darwin 7B surpasse GPT-4 et GPT-3.5 affiné.

• Résultats SOTA : Dans les tâches de science des matériaux de MatBench, Darwin a obtenu des résultats de pointe (SOTA) dans les tâches de prédiction de la bande interdite expérimentale et de classification des métaux, surpassant les modèles d'apprentissage automatique spécialisés.

• Stratégie d'entraînement en deux étapes : Darwin 1.5 améliore considérablement les performances du modèle dans les tâches de prédiction des propriétés des matériaux grâce à un affinage QA et à l'apprentissage multi-tâches, avec une amélioration pouvant atteindre 60 %.

Scénarios d'application :

• Revue et analyse de la littérature : Aide les chercheurs à passer rapidement en revue de vastes quantités de littérature scientifique et à extraire les informations clés.

• Optimisation de la conception expérimentale : Fournit des suggestions d'optimisation des paramètres expérimentaux en analysant les données expérimentales historiques.

• Conception et prédiction de matériaux : Prend en charge la prédiction, la classification et la conception inverse des propriétés des matériaux, accélérant la découverte de nouveaux matériaux.

• Aide à l'éducation : En tant qu'assistant intelligent pour l'enseignement scientifique, il fournit un accompagnement pédagogique personnalisé et répond aux questions.

La dernière version du modèle Darwin, Darwin 1.5, renforce encore ses capacités d'application dans le domaine de la science des matériaux. Cette version intègre des données de questions-réponses scientifiques et des tâches de science des matériaux plus riches, améliorant la précision et l'efficacité du modèle dans la prédiction et la découverte des propriétés des matériaux. De plus, Darwin 1.5 adopte le cadre de réglage fin par interface linguistique (LIFT), ce qui rend le modèle plus efficace et plus flexible dans le traitement de problèmes scientifiques complexes.

Dans les applications pratiques, le modèle Darwin ne se limite pas à la conception de matériaux : il peut également être utilisé dans des domaines biomédicaux tels que la découverte de médicaments et le diagnostic de maladies, démontrant ainsi son potentiel interdisciplinaire. Grâce à une intégration approfondie avec la littérature et les jeux de données scientifiques, le modèle Darwin peut fournir un soutien scientifique plus précis aux chercheurs et faire progresser le processus de découverte scientifique.

Le modèle Darwin a été développé conjointement par l'Université de Nouvelle-Galles du Sud (UNSW) ai4Science et GreenDynamics AI. Il s'agit d'un projet open source axé sur le pré-entraînement et le réglage fin du modèle LLaMA afin d'améliorer ses performances dans le domaine scientifique. Son objectif principal est d'accélérer le processus de découverte scientifique grâce à des méthodes automatisées pilotées par l'intelligence artificielle, et de réduire la dépendance aux modèles d'IA fermés.

Dépôt Darwin :https://github.com/masterai-eam/darwin