Mercury: 최초 상용급 확산 대형 언어 모델(dLLM) 201

小编 · 2025-02-28

Mercury는 스타트업 Inception Labs가 출시한 최초의 상용급 확산 대형 언어 모델(dLLM)입니다. Copilot Arena 벤치마크 테스트에서 Mercury Coder는 속도 면에서 GPT-4o Mini 및 Claude 3.5 Haiku 등 여러 기존 모델을 능가했습니다. 실제 응용에서 Mercury Coder는 매우 빠른 속도로 고품질 코드를 생성할 수 있습니다.

Mercury: 최초 상용급 확산 대형 언어 모델(dLLM)

Mercury란 무엇인가?

Mercury는 스타트업 Inception Labs에서 출시한 최초의 상용급 확산 대형 언어 모델(dLLM)입니다. Copilot Arena 벤치마크 테스트에서 Mercury Coder는 GPT-4o Mini 및 Claude 3.5 Haiku를 포함한 여러 기존 모델보다 더 빠른 속도를 보여주었습니다. 실제 응용에서 Mercury Coder는 매우 빠른 속도로 고품질의 코드를 생성할 수 있습니다.

기술 원리

확산 모델: Mercury는 확산 모델 기술을 채택하며, 기존의 자기회귀 모델과 달리 "거친 것에서 미세한 것으로" 생성 과정을 통해 순수한 노이즈에서 시작하여 여러 디노이징 단계를 거쳐 점진적으로 의미 있는 텍스트를 생성합니다.
병렬 생성: GPU의 병렬 생성 메커니즘을 활용하여, Mercury는 텍스트를 생성할 때 여러 토큰을 동시에 수정할 수 있어 생성 속도와 효율성을 크게 향상시킵니다.

Mercury技术原理.webp

혁신 포인트

속도优势: Mercury는 NVIDIA H100에서 초당 1000개 이상의 토큰 속도로 작동하며, 이는 기존 속도 최적화된 LLM보다 5배에서 10배 더 빠릅니다.
비용 효율성: 새로운 언어 생성 방법을 통해 Mercury는 추론 비용을 10배 낮추면서 최첨단 모델에 상응하는 성능을 유지합니다.
오류 수정 능력: 확산 모델의 특성 덕분에 Mercury는 생성 과정에서 지속적으로 출력을 개선하여 오류와 환각을 교정할 수 있습니다.

Mercury 기능 특징

확산 모델 기술: Mercury는 확산 모델을 채택하여 "거친 것에서 미세한 것으로" 생성 과정을 통해 순수한 노이즈에서 시작하여 점진적으로 의미 있는 텍스트를 생성합니다.
병렬 생성: GPU의 병렬 생성 메커니즘을 활용하여, Mercury는 텍스트를 생성할 때 여러 토큰을 동시에 수정할 수 있어 생성 속도와 효율성을 크게 향상시킵니다.
속도优势: NVIDIA H100에서 초당 1000개 이상의 토큰 속도로 작동하며, 이는 기존 속도 최적화된 LLM보다 5배에서 10배 더 빠릅니다.
비용 효율성: 새로운 언어 생성 방법을 통해 Mercury는 추론 비용을 10배 낮추면서 최첨단 모델에 상응하는 성능을 유지합니다.
오류 수정 능력: 확산 모델의 특성 덕분에 Mercury는 생성 과정에서 지속적으로 출력을 개선하여 오류와 환각을 교정할 수 있습니다.

Mercury功能.webp

Mercury 응용

프로그래밍 및 코드 생성: Mercury Coder는 코드 생성에 특화되어 최적화되었으며, 표준 코딩 벤치마크 테스트에서 우수한 성능을 보이고 속도는 기존 모델보다 10배 이상 빠릅니다.
Agent 응용: Mercury의 높은 속도와 효율성은 지능형 고객 서비스, 코드 비서 등 대량의 계획과 긴 생성이 필요한 응용에서 뛰어난 성능을 보입니다.
엣지 응용: 높은 효율성 덕분에 Mercury는 스마트폰이나 노트북의 앱과 같이 자원이 제한된 환경에서도 뛰어난 성능을 발휘합니다.
고급 추론: Mercury는 환각을 교정하고 답변 품질을 향상시키기 위해 오류 수정을 활용할 수 있어, 심층 추론이 필요한 작업에 적합합니다.
제어 가능한 생성: Mercury는 출력 내용을 편집하고 임의의 순서로 단어를 생성할 수 있어, 유연한 콘텐츠 생성이 필요한 시나리오에 적합합니다.