DeepSeek-V3/R1-671B: руководство по полнопараметрической дообучке и инструкция 133

Что такое руководство по полной тонкой настройке DeepSeek-V3/R1-671B?

DeepSeek-V3/R1-671B Полное руководство по тонкой настройке — это открытое руководство по полной тонкой настройке моделей DeepSeek-V3/R1-671B, совместно выпущенное Институтом автоматизации Китайской академии наук и компанией Zhongke Wenge. Проект предоставляет полный набор кода и скриптов от обучения до инференса, а также обобщает опыт и решения проблем, возникающих в процессе обучения и развертывания.

Функциональные особенности

• Поддержка полной тонкой настройки: предоставляет полный набор кода и скриптов от обучения до инференса, поддерживает параллелизм данных и параллелизм последовательностей.

• Оптимизация оборудования: предоставляет подробные рекомендации по конфигурации оборудования и результаты экспериментов, помогая эффективно использовать вычислительные ресурсы.

• Адаптация формата данных: поддерживает стандартный формат данных Openai и расширяет совместимость с данными типа reasoning.

• Развертывание инференса: поддерживает преобразование весов модели в формат Hugging Face и развертывание инференса с помощью таких фреймворков, как vLLM.

Назначение руководства по полной тонкой настройке DeepSeek-V3/R1-671B

• Обработка естественного языка: подходит для задач генерации текста, машинногоперевода, анализа тональности и других задач.

• Сложные сценарии рассуждений: способен обрабатывать длинные документы и многоотраслевые задачи, такие как вспомогательная медицинская диагностика, финансовый анализ и т. д.

• Научные исследования и технологическое探索: 作为技术试验平台，探索通用人工智能（AGI）的潜在路径。

• Корпоративные приложения: могут использоваться в сценариях интеллектуального обслуживания клиентов, анализа документов и т. д., повышая эффективность и возможности принятия решений предприятий.

Как использовать руководство по полной тонкой настройке DeepSeek-V3/R1-671B

1. Конфигурация оборудования

• Требуется 32 сервера, каждый со следующей конфигурацией:

• 8 x NVIDIA H100 80GB GPU

• 96-ядерный CPU

• 2 ТБ оперативной памяти

• 100 ТБ общего хранилища

• Сеть InfiniBand 400G

2. Настройка среды

conda create -n ds_env python=3.10
conda activate ds_env
pip install -r requirements.txt
cp -r ./code/xtuner /path/to/env/site-packages

3. Подготовка данных

Пример формата данных:

{
"messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "用户问题"},
{"role": "assistant", "content": "思考过程\n最终回答", "loss": true}
]
}

4. Запуск обучения

Для запуска обучения используйте pdsh или slurm:

pdsh -R ssh -w node[0-31] 'bash ./code/scripts/sft_deepseek.sh'

5. Преобразование весов модели

Преобразуйте результаты обучения в формат Hugging Face:

bash ./code/scripts/convert_pth_to_hf.sh

6. Развертывание инференса

Развертывание с использованием vLLM:

# Запуск Ray
pdsh -R ssh -w node0 "conda activate vllm && ray start --head"
pdsh -R ssh -w node1,node2,node3 "conda activate vllm && ray start --address='node0:6379'"
# Запуск vLLM
pdsh -R ssh -w node0 "vllm serve /path/to/model --tensor-parallel-size 8 --pipeline-parallel-size 4"

Репозиторий на GitHub:https://github.com/ScienceOne-AI/DeepSeek-671B-SFT-Guide