大模型到底在算什么？这个小工具把一次前向传播拆成一格格矩阵

大模型到底在算什么？看再多文字解释，不如亲手点一次播放。这个小工具叫「矩阵里的大模型」，把一次前向传播拆成一格一格的矩阵运算，算的过程全摆在你面前。

它用「猫 吃 鱼」3 个词、4 维向量做例子：点播放，结果矩阵一格一格填满；点任意一格，会高亮它来自哪一行、哪一列，计算公式和结果直接展示出来。什么时候不想在纸上演算，就打开它随时看一遍。

目前有三套可视化：Transformer，从词嵌入一路算到预测下一个词；LLaMA，RMSNorm、GQA、RoPE、SwiGLU 逐个替换着看；DeepSeek MLA，KV 是怎么压成一个短向量、缓存小一个数量级的。每一套都有对应的详解文章，先看文章、再对照可视化效果，对 LLM 矩阵运算的理解会扎实很多。

工具地址：https://nano-ai.tech/matrix/