LLM Course：ロードマップとColabノートブックを含むLLMs学習コース 177

LLMsコースのコレクションで、学習ロードマップとColabノートブックを含み、基礎から上級までLLMsの知識とスキルを段階的に習得できます。

#Ai工具箱 #Ai学习资源

アクセス LLM Course：ロードマップとColabノートブックを含むLLMs学習コース

LLM Course：ロードマップとColabノートブックを含むLLMs学習コース紹介

LLM Courseとは？

LLM Courseは、LLMに関する学習ロードマップとColabノートブックを集めた講座コレクションで、基礎から応用まで段階的にLLMの知識と活用方法を習得できます。内容は数学、Pythonプログラミング、ニューラルネットワーク、自然言語処理（NLP）、LLMアーキテクチャ、事前学習、ファインチューニング、選好アライメント、評価、量子化、デプロイなどを網羅しています。

LLM Course：LLMs课程集合，包括路线图和Colab笔记本.webp

LLM Courseの主な内容

LLM Fundamentals

数学の基礎：線形代数、微積分、確率と統計。
Pythonプログラミング：Python基礎、データサイエンスライブラリ、データ処理、機械学習ライブラリ。
ニューラルネットワーク：ニューラルネットワークの基礎知識、学習と最適化、過学習とその解決策。
自然言語処理（NLP）：テキスト前処理、特徴抽出技術、単語埋め込み、再帰型ニューラルネットワーク（RNN）。

LLM Scientist

LLMアーキテクチャ：Transformerアーキテクチャ、注意機構、サンプリング戦略。
事前学習モデル：データ準備、分散学習、学習の最適化、モニタリング。
事後学習用データセット：データ構造、ストレージとチャットテンプレート、合成データ生成、データ拡張、品質フィルタリング。
教師ありファインチューニング（SFT）：学習技術、パラメータ設定、分散学習、モニタリング。
選好アライメント：Direct Preference Optimization（DPO）、Proximal Policy Optimization（PPO）、モニタリング。
評価：自動ベンチマーク、人的評価、モデル評価、フィードバックシグナル。
量子化：基礎技術、GGUF & llama.cpp、GPTQ & AWQ、SmoothQuant & ZeroQuant。
新たなトレンド：モデルマージ、マルチモーダルモデル、解釈可能性、テスト時計算。

LLM Engineer

LLMの実行：LLM API、オープンソースLLM、プロンプトエンジニアリング、構造化出力。
ベクトルストアの構築：ドキュメント読み込み、分割、埋め込みモデル、ベクトルデータベース。
Retrieval Augmented Generation（RAG）：オーケストレーター、リトリーバー、メモリ、評価。
高度なRAG：クエリ構築、エージェントとツール、後処理、プログラム可能なLLM。
推論の最適化：Flash Attention、KVキャッシュ、投機的デコーディング。
LLMのデプロイ：ローカルデプロイ、デモデプロイ、サーバーデプロイ、エッジデプロイ。
LLMの保護：プロンプトインジェクション、バックドア攻撃、防御策。

LLM Course.webp

ツールとリソース

ツール：LLM AutoEval、LazyMergekit、LazyAxolotl、AutoQuant、Model Family Tree、ZeroSpace。
リソース：3Blue1Brownの動画、StatQuestチュートリアル、Khan Academyコース、Real Pythonチュートリアル、freeCodeCampの動画など。