대본 기획 도우미▸ 
AI 앱 
AI 뉴스 DeepSeek-V3/R1-671B 전파라미터 파인튜닝 가이드 및 사용 튜토리얼
小编 ·
DeepSeek-V3/R1-671B 전파라미터 파인튜닝 가이드 및 사용 튜토리얼
DeepSeek-V3/R1-671B 전체 파라미터 파인튜닝 가이드란 무엇인가요?
DeepSeek-V3/R1-671B 전체 파라미터 파인튜닝 가이드는 DeepSeek-V3/R1-671B 모델의 전체 파라미터 파인튜닝에 관한 오픈소스 가이드로, 중국과학원 자동화연구소와 Zhongke WenGe(中科闻歌)가 공동으로 내놓았습니다. 이 프로젝트는 학습부터 추론까지의 완전한 코드와 스크립트를 제공하며, 학습 및 배포 과정에서의 경험과 문제 해결 방안을 정리해 놓았습니다.
기능 특징
전체 파라미터 파인튜닝 지원: 학습부터 추론까지의 완전한 코드와 스크립트를 제공하며, 데이터 병렬 처리와 시퀀스 병렬 처리를 지원합니다.
하드웨어 최적화: 상세한 하드웨어 구성 제안과 실험 결과를 제공하여 컴퓨팅 자원을 효율적으로 활용하도록 돕습니다.
데이터 포맷 호환: Openai 표준 데이터 포맷을 지원하며, reasoning 데이터에 대한 호환성도 확장되었습니다.
추론 배포: 모델 가중치를 Hugging Face 포맷으로 변환할 수 있도록 지원하며, vLLM 등 프레임워크를 통한 추론 배포를 지원합니다.
DeepSeek-V3/R1-671B 전체 파라미터 파인튜닝 가이드의 용도
자연어 처리: 텍스트 생성, 기계번역, 감성 분석 등의 작업에 적합합니다.
복잡한 시나리오 추론: 긴 문서와 여러 분야의 작업을 처리할 수 있으며, 예를 들어 의료 보조 진단, 금융 분석 등에 활용됩니다.
연구 및 기술 탐구: 기술 실험 플랫폼으로서 범용인공지능(AGI)의 잠재적 경로를 탐색합니다.
엔터프라이즈급 애플리케이션: 스마트 고객 서비스, 문서 분석 등 시나리오에 활용되어 기업의 효율성과 의사 결정 능력을 향상시킬 수 있습니다.
DeepSeek-V3/R1-671B 전체 파라미터 파인튜닝 가이드 사용 방법
1. 하드웨어 구성
32대의 서버가 필요하며, 각 서버의 구성은 다음과 같습니다:
8 x NVIDIA H100 80GB GPU
96코어 CPU
2TB 메모리
100TB 공유 스토리지
InfiniBand 400G 네트워크
2. 환경 구성
conda create -n ds_env python=3.10 conda activate ds_env pip install -r requirements.txt cp -r ./code/xtuner /path/to/env/site-packages
3. 데이터 준비
데이터 포맷 예시:
{
"messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "사용자 질문"},
{"role": "assistant", "content": "사고 과정\n최종 답변", "loss": true}
]
}4. 학습 시작
pdsh 또는 slurm을 사용하여 학습을 시작합니다:
pdsh -R ssh -w node[0-31] 'bash ./code/scripts/sft_deepseek.sh'
5. 모델 가중치 변환
학습 결과를 Hugging Face 포맷으로 변환합니다:
bash ./code/scripts/convert_pth_to_hf.sh
6. 추론 배포
vLLM을 사용하여 배포합니다:
# Ray 시작 pdsh -R ssh -w node0 "conda activate vllm && ray start --head" pdsh -R ssh -w node1,node2,node3 "conda activate vllm && ray start --address='node0:6379'" # vLLM 시작 pdsh -R ssh -w node0 "vllm serve /path/to/model --tensor-parallel-size 8 --pipeline-parallel-size 4"
GitHub 저장소:https://github.com/ScienceOne-AI/DeepSeek-671B-SFT-Guide
