LLM Course: LLM 강의 컬렉션, 로드맵 및 Colab 노트북 포함 172

LLM 강의 모음집으로, 학습 로드맵과 Colab 노트북이 함께 제공되어 사용자가 기초부터 고급까지 LLM의 지식과 활용법을 단계적으로 익힐 수 있도록 돕습니다.

#Ai工具箱 #Ai学习资源

방문 LLM Course: LLM 강의 컬렉션, 로드맵 및 Colab 노트북 포함

LLM Course: LLM 강의 컬렉션, 로드맵 및 Colab 노트북 포함소개

LLM Course란 무엇인가요?

LLM Course는 LLM에 대한 강의 모음을 제공하며, 학습 로드맵과 Colab 노트북을 포함하여 사용자가 기초부터 고급까지 LLM의 지식과 응용을 단계별로 습득할 수 있도록 도와줍니다. 강의에는 수학, Python 프로그래밍, 신경망, 자연어 처리(NLP), LLM 아키텍처, 사전 학습, 미세 조정, 선호 정렬, 평가, 양자화 및 배포 등의 내용이 포함됩니다.

LLM Course：LLMs课程集合，包括路线图和Colab笔记本.webp

LLM Course 주요 내용

LLM Fundamentals

수학 기초: 선형 대수, 미적분, 확률 및 통계.
Python 프로그래밍: Python 기초, 데이터 과학 라이브러리, 데이터 처리, 머신 러닝 라이브러리.
신경망: 신경망 기초 지식, 학습 및 최적화, 과적합 및 해결 방법.
자연어 처리(NLP): 텍스트 전처리, 특징 추출 기술, 단어 임베딩, 순환 신경망(RNN).

LLM Scientist

LLM 아키텍처: Transformer 아키텍처, 어텐션 메커니즘, 샘플링 전략.
사전 학습 모델: 데이터 준비, 분산 학습, 학습 최적화, 모니터링.
사후 학습 데이터셋: 데이터 구조, 저장 및 채팅 템플릿, 합성 데이터 생성, 데이터 증강, 품질 필터링.
지도 미세 조정(SFT): 학습 기법, 매개변수 설정, 분산 학습, 모니터링.
선호 정렬: 직접 선호 최적화(DPO), 근접 정책 최적화(PPO), 모니터링.
평가: 자동화된 벤치마크 테스트, 인적 평가, 모델 평가, 피드백 신호.
양자화: 기초 기술, GGUF & llama.cpp, GPTQ & AWQ, SmoothQuant & ZeroQuant.
새로운 트렌드: 모델 병합, 멀티모달 모델, 해석 가능성, 테스트 시 컴퓨트.

LLM Engineer

LLM 실행: LLM API, 오픈소스 LLM, 프롬프트 엔지니어링, 구조화된 출력.
벡터 저장소 구축: 문서 로드, 분할, 임베딩 모델, 벡터 데이터베이스.
검색 증강 생성(RAG): 오케스트레이터, 검색기, 메모리, 평가.
고급 RAG: 쿼리 구성, 에이전트 및 도구, 후처리, 프로그래매틱 LLM.
추론 최적화: Flash Attention, 키-값 캐시, 추측 디코딩.
LLM 배포: 로컬 배포, 데모 배포, 서버 배포, 엣지 배포.
LLM 보호: 프롬프트 인젝션, 백도어 공격, 방어 조치.

LLM Course.webp

도구 및 리소스

도구: LLM AutoEval, LazyMergekit, LazyAxolotl, AutoQuant, Model Family Tree, ZeroSpace.
리소스: 3Blue1Brown 동영상, StatQuest 튜토리얼, Khan Academy 강의, Real Python 튜토리얼, freeCodeCamp 동영상 등.