DeepSeek 공식 업데이트: 추론 없이 바로 출력되는 문제 해결 방법
DeepSeek 공식에서 R1 사용 설명을 업데이트했습니다. 이전에 저희 클러스터에 배포한 deepseek-r1 풀버전은 여러 사용자가 이용하는 동안 모델의 output이 사고 과정을 거치지 않고 곧바로推理结果를 출력하는 상황이 자주 발생했습니다. 이러한 문제를 해결하기 위해 DeepSeek 공식에서 다음과 같은 해결 방안을 제시했습니다:
1. Temperature를 0.5에서 0.7 사이의 범위로 설정해 주십시오(0.6으로 설정하는 것을 권장합니다). 이를 통해 끝없는 반복이나 비연속적인 출력이 발생하는 것을 방지할 수 있습니다.
2. 시스템 프롬프트를 추가하지 마십시오. 모든 지시 사항은 사용자 프롬프트 안에 포함되어야 합니다.
3. 수학 문제의 경우, 프롬프트에 다음과 같은 지시 문장을 추가할 것을 권장합니다: "단계별로 추론한 후 최종 답을 \ boxed {} 안에 넣어 주십시오."
4. 모델 성능을 평가할 때는 여러 차례 테스트를 진행하고 그 결과를 평균 내는 것을 권장합니다.
5. 특정 쿼리에 응답할 때, DeepSeek-R1 시리즈 모델은 심층 사고 모드를 우회하기 쉬운데(즉, ""을(를) 출력함), 이는 모델 성능에 부정적인 영향을 미칠 수 있습니다. 모델이 전반적인 추론을 수행할 수 있도록 보장하기 위해, 공식에서는 각 출력의 시작 부분에서 "을(를) 강제로 실행할 것을 제안합니다.

6. 공식에서 권장하는 검색 및 파일 업로드 프롬프트 템플릿: https://github.com/deepseek-ai/DeepSeek-R1/pull/399/files
7. 모델이 사고 단계를 건너뛰고 곧바로 추론하는 문제를 완화하기 위한 DeepSeek-R1 가이드: https://github.com/deepseek-ai/DeepSeek-R1/commit/7ca5e1e7f75e12a1c561fffaa6aa686708f881ae
DeepSeek 공식에서도 readme를 업데이트했으므로, 공식에서 제공하는 readme에 따라 설정하시면 최상의 사용 경험을 얻으실 수 있습니다.
최신 readme 주소: https://github.com/deepseek-ai/DeepSeek-R1/blob/main/README.md
대본 기획 도우미▸
AI 앱
AI 뉴스 