开课了！
你用 ChatGPT、DeepSeek 的时候，字都是一个一个蹦出来的。因为它本质上只干一件事：猜下一个字。下面五步，带你看懂大模型。

第一步，把文字切成 token。 模型不认识字，只认识数字。一句话要先切成一小块一小块，每块叫一个 token。中文里常常一个字就是一个，英文长单词会被切成好几段。每个 token 对应一个编号，模型看到的其实只是一串数字。

第二步，猜下一个。 把前面的 token 交给模型，它给词表里每一个 token 都打一个概率，挑一个接到句子后面，再整句喂回去接着猜。还有个参数叫温度：调低，它总挑最稳的；调高，它更敢挑冷门的词。所以同一个问题问两遍，答案往往不一样。

第三步，它是怎么学会的。 先读海量文字，Meta 的 Llama 3 读了超过 15 万亿个 token。训练就是一场超大规模的填空游戏：遮住下一个字让它猜，猜错了，就把内部参数拧一点点。最大的 Llama 3.1 有 4050 亿个参数，它学到的一切最后都变成了这些数字。

第四步，读懂上下文。 2017 年谷歌提出 Transformer，核心叫注意力：每个词都会去看句子里的其他词，判断谁和自己有关。同样是“苹果”，旁边是“吃”，它就是水果；旁边是“发布”和“手机”，它就是那家公司。这样的注意力要叠上几十到上百层。

第五步，教它聊天。 刚训练完的模型只会续写，你问它一个问题，它可能接着编出更多问题。于是再用大量问答示范来教它，让人给回答打分排序，它才成了你每天在用的 AI 助手。

最后要注意一件事：幻觉。 它是在写通顺的下一个字，不是在查资料。你问它“鲁迅和周树人吵过架吗”，它可能一本正经地编出一段论战。可鲁迅就是周树人本人。重要的事实，记得自己再核对一遍。

切成 token，猜下一个，海量填空，注意力，再教它聊天，这就是大模型。 你觉得它算真的懂吗？