Awesome Chinese LLM：中国語大規模言語モデルに関するリソース集 172

Awesome Chinese LLMとは？

Awesome Chinese LLMは、オープンソースの中国語大規模言語モデル（LLM）を整理したもので、主に小規模でプライベートデプロイが可能、かつトレーニングコストが低いモデルに注目しています。ベースモデル、垂直分野向けのファインチューニングおよびその応用、データセット、チュートリアルなどの内容を網羅しており、現在100以上の関連リソースが収録されています。

Awesome Chinese LLMの主な内容

主要なベースモデルの詳細概要：

• ChatGLM、LLaMA、Baichuan、Qwenなどのモデルのパラメータサイズ、学習トークン数、最大学習長、商用利用の可否などの情報を掲載しています。

モデルの分類：

• テキストLLMモデル：ChatGLM、LLaMAなど。

• マルチモーダルLLMモデル：VisualGLM-6B、CogVLMなど、画像、中国語、英語に対応したマルチモーダル会話をサポート。

• 応用分類：

• 垂直分野のファインチューニング：医療、法律、金融、教育など複数分野をカバー。例としてDoctorGLM（医療）、LawGPT_zh（法律）、Cornucopia（金融）などがあります。

• LangChain応用：langchain-ChatGLMなど、ローカルの知識ベースを利用したQ&A応用。

• その他の応用：wenda（LLM呼び出しプラットフォーム）、JittorLLMs（大規模モデル推論ライブラリ）など。

データセット：

• 事前学習データセット：MNBVC（超大规模中文语料集）、WuDaoCorporaTextなど。

• SFTデータセット：RefGPT（大量的真实和定制的对话数据集を生成）、COIGなど。

• 選好データセット：CValues（価値整合データセット）、GPT-4-LLMなど。

LLMトレーニング・ファインチューニングフレームワーク：

• DeepSpeed Chat（ワンクリックRLHFトレーニングフレームワーク）、LLaMA Efficient Tuning（PEFTベースのLLaMAファインチューニングフレームワーク）など。

LLM推論デプロイフレームワーク：

• vLLM（大量Prompt入力向け）、DeepSpeed-MII（複数マシン間の負荷分散をサポート）など。

• LLM評価：

• FlagEval（大モデル評価体系およびオープープラットフォーム）、C-ｅｖａｌ（中国語大規模モデルの知識評価ベンチマーク）など。

LLMチュートリアル：

• LLM基礎知識：HuggingLLM（ChatGPTの原理、使用、応用を紹介）など。

• プロンプトエンジニアリングチュートリアル：開発者向けLLM入門コース、プロンプトエンジニアリングガイドなど。

• LLM応用チュートリアル：LangChain中文网、OpenAI Cookbookなど。

• LLM実践チュートリアル：LLMs九层妖塔、llm-actionなど。

Awesome Chinese LLMの特徴

• リソースが豊富：モデル、応用からデータセットやチュートリアルまで、あらゆるリソースを網羅。

• 分類が明確：モデルの種類、応用分野、データセットの用途などで分類されており、ユーザーが検索しやすい。

• 実用性が高い：すぐに利用できるオープンソースのモデルや応用が豊富に提供されており、さまざまなニーズを持つユーザーに適している。

• コミュニティの貢献：未収録のオープンソースリソースの貢献を奨励し、プロジェクトを共に充実させる。

Awesome Chinese LLMの対象ユーザー：

研究者：このリポジトリのモデルやデータセットを利用して研究や実験を行うことができます。

開発者：応用例やフレームワークを参考に開発やデプロイを行うことができます。

学習者：チュートリアルやドキュメントを通じて、LLMに関する知識やスキルを学ぶことができます。