Train LLM From Scratch地址：github.com/FareedKhan-dev/train-llm-from-scratch把 LLM 从预训练一路做到对齐/RL 的教学型最小实现，尽量用原生 PyTorch 把 Transformer、预训练、SFT、Reward Model、DPO、PPO、GRPO 等关键环节自己实现出来。 |llm|预训练|pytorch|transformer|sft|dpo|ppo|grpo

Train LLM From Scratch
地址：github.com/FareedKhan-dev/train-llm-from-scratch
把 LLM 从预训练一路做到对齐/RL 的教学型最小实现，尽量用原生 PyTorch 把 Transformer、预训练、SFT、Reward Model、DPO、PPO、GRPO 等关键环节自己实现出来。

发布于山东