想系统补强化学习和测试时计算,这门课值得排进日程:Sebastian Raschka 的《Building Reasoning Models from the Ground Up》完整视频系列上线了,8 支视频、11 个多小时,全程手写代码。
路线是从一个预训练模型出发(Qwen3 0.6B),用 Python 和 PyTorch 把推理模型从头实现一遍:先搭评测器,在 MATH-500 上测出基线;再做推理时扩展,温度采样、多样性生成、自一致性投票、Best-of-N、自我精修;然后上强化学习,用可验证奖励的 GRPO 训练,最后讲蒸馏。配套代码库和同名书同步更新。
前置要求不高,会 Python 和 PyTorch 就能跟,前面的从零搭大模型系列不是硬性前置。前期文本生成和评测在 CPU 上能跑,后期训练建议有 GPU。想先看概念版,还有一门 90 分钟的 LinkedIn Learning 课做概览。
课程文章地址:https://magazine.sebastianraschka.com/p/building-reasoning-models