datawhalechina

diy-llm

Covers pre-training data, Tokenizer, Transformer, MoE,distributed training, Scaling Laws, inference & alignment .6 progressive code assignments for full-stack LLM learning | 涵盖预训练数据、分词器、Transformer、MoE、分布式训练、缩放定律、推理与对齐,6 项渐进代码作业,掌握 LLM 全栈知识

AI学习资源中文支持
Star
2.1k
全站累计
Fork213衍生分支贡献
语言Jupyter Notebook核心开发语言
创建于2025-11-24已运营 0.9 年
最近推送2026-10-29最新代码提交

Star 走势

已连续追踪 69 天每日快照数据

期间增长:+1.8k (622.4%)
2941.2k2.1k2026-04-062026-09-252026-10-29
GitHub 官方 Topics:
#cs336#datawhale#gpu-programming#grpo#llm#nlp#rl#scaling-laws#sft#transformer