想学大模型，公式一堆，看了就晕？对零基础的人来说，只看理论很难真正理解模型是怎么工作的。
NamiGPT 的办法很直接：用 PyTorch 从零手写一个 GPT-2，一行行看懂大模型是怎么工作的。跟着手写一遍，比只看理论扎实得多。
可以先从注意力或词嵌入这类模块入手，逐个把模块拼起来，最后看到一个能跑的模型，之前抽象的公式也就有了落点。
开源项目地址：https://github.com/aa1143/NamiGPT
正文完
想学大模型，公式一堆，看了就晕？对零基础的人来说，只看理论很难真正理解模型是怎么工作的。
NamiGPT 的办法很直接：用 PyTorch 从零手写一个 GPT-2，一行行看懂大模型是怎么工作的。跟着手写一遍，比只看理论扎实得多。
可以先从注意力或词嵌入这类模块入手，逐个把模块拼起来，最后看到一个能跑的模型，之前抽象的公式也就有了落点。
开源项目地址：https://github.com/aa1143/NamiGPT