Asistente de guiones▸ 
Apps AI 
Noticias AI Mercury: el primer modelo de lenguaje grande de difusión (dLLM) de nivel comercial
小编 ·
Mercury: el primer modelo de lenguaje grande de difusión (dLLM) de nivel comercial
¿Qué es Mercury?
Mercury es el primer modelo de lenguaje grande de difusión (dLLM) de nivel comercial lanzado por la startup Inception Labs. En el benchmark Copilot Arena, Mercury Coder supera en velocidad a varios modelos existentes, entre ellos GPT-4o Mini y Claude 3.5 Haiku. En aplicaciones prácticas, Mercury Coder puede generar código de alta calidad a una velocidad extremadamente rápida.
Principio técnico
Modelo de difusión: Mercury adopta la tecnología de modelo de difusión, que a diferencia de los modelos autorregresivos tradicionales, utiliza un proceso de generación "de grueso a fino", partiendo de ruido puro y generando texto significativo gradualmente a través de múltiples pasos de eliminación de ruido.
Generación en paralelo: Aprovechando el mecanismo de generación en paralelo de la GPU, Mercury puede modificar múltiples tokens simultáneamente al generar texto, mejorando significativamente la velocidad y la eficiencia de generación.
Innovaciones
Ventaja de velocidad: Mercury puede funcionar a una velocidad de más de 1000 tokens por segundo en NVIDIA H100, de 5 a 10 veces más rápido que los LLM optimizados en velocidad existentes.
Eficiencia de costes: Gracias a un nuevo método de generación de lenguaje, Mercury reduce el coste de inferencia en 10 veces, manteniendo al mismo tiempo un rendimiento comparable al de los modelos de vanguardia.
Capacidad de corrección de errores: Las características del modelo de difusión permiten a Mercury mejorar continuamente su salida durante el proceso de generación, corrigiendo errores y alucinaciones.
Características y funciones de Mercury
Tecnología de modelo de difusión: Mercury adopta el modelo de difusión, a través de un proceso de generación "de grueso a fino", partiendo de ruido puro y generando texto significativo gradualmente.
Generación en paralelo: Aprovechando el mecanismo de generación en paralelo de la GPU, Mercury puede modificar múltiples tokens simultáneamente al generar texto, mejorando significativamente la velocidad y la eficiencia de generación.
Ventaja de velocidad: Capaz de funcionar a más de 1000 tokens por segundo en NVIDIA H100, de 5 a 10 veces más rápido que los LLM optimizados en velocidad existentes.
Eficiencia de costes: Gracias a un nuevo método de generación de lenguaje, Mercury reduce el coste de inferencia en 10 veces, manteniendo al mismo tiempo un rendimiento comparable al de los modelos de vanguardia.
Capacidad de corrección de errores: Las características del modelo de difusión permiten a Mercury mejorar continuamente su salida durante el proceso de generación, corrigiendo errores y alucinaciones.
Aplicaciones de Mercury
Programación y generación de código: Mercury Coder está específicamente optimizado para la generación de código, con un excelente desempeño en pruebas de referencia de codificación estándar, siendo más de 10 veces más rápido que los modelos tradicionales.
Aplicaciones de agentes: La alta velocidad y eficiencia de Mercury lo hacen destacar en aplicaciones que requieren mucha planificación y generación extensa, como atención al cliente inteligente, asistentes de código, etc.
Aplicaciones en el edge: Gracias a su alta eficiencia, Mercury también se destaca en entornos con recursos limitados, como aplicaciones en teléfonos móviles o portátiles.
Razonamiento avanzado: Mercury puede aprovechar la corrección de errores para reparar alucinaciones y mejorar la calidad de las respuestas, siendo adecuado para tareas que requieren razonamiento profundo.
Generación controlable: Mercury puede editar el contenido de salida y generar palabras en cualquier orden, siendo adecuado para escenarios que requieren generación flexible de contenido.
¿Cómo usar Mercury?
Instalación y configuración: Mercury Coder ya está disponible y se puede probar públicamente. Los usuarios pueden experimentar sus funciones a través del playground proporcionado por Inception Labs, o mediante API y servicios de implementación interna para aplicaciones empresariales.
Experiencia y pruebas: Los usuarios pueden experimentar las potentes capacidades de Mercury Coder en el sitio web oficial de Inception Labs, introduciendo requisitos de código y generando código de alta calidad al instante.
Experiencia en línea:https://chat.inceptionlabs.ai/
Introducción oficial:https://www.inceptionlabs.ai/news
