datawhalechina

diy-llm

Covers pre-training data, Tokenizer, Transformer, MoE,distributed training, Scaling Laws, inference & alignment .6 progressive code assignments for full-stack LLM learning | 涵盖预训练数据、分词器、Transformer、MoE、分布式训练、缩放定律、推理与对齐,6 项渐进代码作业,掌握 LLM 全栈知识

AILearn中文支持
Stars
2.1k
全站累计
Forks213衍生分支贡献
LanguageJupyter Notebook核心开发语言
Created2025-11-24已运营 0.9 年
Last push2026-10-29最新代码提交

Star history

已连续追踪 69 天每日快照数据

期间增长:+1.8k (622.4%)
2941.2k2.1k2026-04-062026-09-252026-10-29
GitHub 官方 Topics:
#cs336#datawhale#gpu-programming#grpo#llm#nlp#rl#scaling-laws#sft#transformer