大模型是怎么”学会说话”的：从文字接龙到 Chat 伙伴

引子：一个看起来”会聊天”的软件，内部到底在干什么？

很多人第一次和 ChatGPT、豆包、文心一言这类工具对话时，都会产生一种错觉：屏幕后面是不是坐着一个真人？或者一个有自我意识的程序？

答案比想象中朴素得多，也神奇得多。大语言模型（Large Language Model，简称 LLM）在做的事情，本质上只有一件：预测下一个字。

你输入”今天天气真”，模型会根据海量语料中学到的统计规律，判断接下来最可能出现的字是”好”、”不错”、”冷”。然后它把预测出的字接上，再预测再下一个字，一个字一个字地把整段话”接龙”出来。

这个说法听起来有点煞风景——这么高级的东西，居然是在玩文字接龙？但恰恰是这个朴素的机制，在规模足够大之后，涌现出了翻译、写代码、总结摘要、逻辑推理等令人惊讶的能力。本文就来拆解这条从”接龙”到”伙伴”的技术路径。

一、原料：互联网级别的语料海洋

要让模型学会接龙，第一步是给它看足够多的文字。

这些文字被称为”训练语料”，来源包括网页文章、书籍、百科、论坛讨论、开源代码库等等。训练一个现代大模型，通常要处理数万亿个词（token）。所谓 token，可以粗略理解为一个词或一个汉字片段，是模型处理文字的最小单位。

为什么要这么多？打个比方：一个孩子学说话，靠的是几年的沉浸式语言环境；而模型没有”生活”，它对世界的全部理解都来自文字。想让它从文字中还原出常识、逻辑和表达习惯，就必须把人类写过的东西大量地喂给它。

原始语料并不能直接用。工程师要做清洗：去掉重复内容、过滤低质量文本、剔除乱码和广告。语料质量直接决定模型”口味”——吃进去的是精华，吐出来的才可能是干货。

二、骨架：Transformer 与注意力机制

光有原料不够，还需要一台能高效”消化”文字的机器。2017 年，Google 的研究者发表了一篇论文，提出了一种叫 Transformer 的网络结构，这个名字如今已成为整个行业的地基。

Transformer 的核心思想叫”注意力机制”（Attention）。简单说，当模型读到一句话时，它不是逐字平均地看，而是会判断哪些词和哪些词关系更紧密。

比如句子”小明把苹果放进冰箱，因为它太热了”——”它”指的是苹果还是冰箱？人类一眼就懂：苹果。注意力机制让模型也能学会这种”指哪看哪”的能力：在处理”它”这个字时，给”苹果”分配更高的权重。

注意力机制的另一个好处是可以大规模并行计算。传统模型像排队念课文，一个字念完才能念下一个；Transformer 则像全班同时朗读，GPU 显卡可以同时处理成千上万个 token。这正是大模型训练能堆上数千张显卡、跑几个月的基础。

三、第一次学习：预训练——读完图书馆的”自学阶段”

模型的学习分几个阶段，最耗资源的是预训练。

这个阶段的目标很简单：给它看一句话的前半段，让它猜后半段，猜错了就调整内部参数，猜对了就强化。这样的”猜字游戏”要重复几万亿次。

模型内部有数十亿甚至上万亿个参数——可以把它们理解为无数个可调节的旋钮。每猜错一次，算法（通常是梯度下降）就微调一遍这些旋钮。几万亿轮下来，旋钮的位置编码了语言的规律：语法、搭配、事实知识、甚至一定的推理模式。

有趣的是，没有人显式地教模型”北京是中国的首都”这条知识。它只是在无数次读到类似文本、无数次预测下一个词的过程中，把这类事实”压”进了参数里。这也是为什么模型的知识有截止日期——它的世界观凝固在训练完成的那一刻。

四、第二次学习：微调与对齐——从”会说话”到”好好说话”

刚完成预训练的模型其实不太好用。你问它问题，它可能不回答，而是接一句”下一题是……”——因为它学到的是”互联网上的文本长什么样”，而不是”怎么当一个有用的助手”。

于是有了第二阶段：监督微调（SFT）。人类标注员写出大量高质量问答示范——”用户这样问，理想回答应该是这样”——用这些数据教模型进入”助手”这个角色。

第三阶段是对齐训练，常见方法是 RLHF（基于人类反馈的强化学习）。让模型对同一个问题生成多个回答，人类排序打分，再用这个偏好信号训练模型，让它学会倾向于更有用、更诚实、更安全的回答方式。

三个阶段打个比方：预训练像把一个人送进图书馆读十年书（知识广博但不会交流）；微调像送他去服务业培训班（学会待客之道）；对齐像带薪实习（在真实反馈中打磨分寸感）。

五、推理：一个字一个字地”写”出回答

训练完成后，模型进入推理阶段，也就是你日常使用的状态。

当你发送一条消息时，发生了这些事：文字被切成 token → 转换成数字向量 → 经过几十层 Transformer 计算 → 输出下一个 token 的概率分布 → 按一定策略选中一个 → 拼进已生成内容 → 再算下一个……循环往复，直到模型判断”话说完了”。

这就是为什么你在界面上看到文字是一个个蹦出来的——那不是动画效果，模型确实是在逐 token 生成。也解释了为什么同一个问题两次回答不一样：选词策略中带有随机性（温度参数控制这种随机度），温度高则回答更有创意，温度低则更稳定。

六、局限：接龙机制的”先天性格”

理解了原理，模型的几个著名缺点就变得容易理解了。

幻觉：模型的目标是”预测合理的下一个字”，不是”只说真话”。当它没学过某个事实时，它仍会生成一段语法通顺、看起来像回事的话——编造不存在的论文引用就是典型例子。

知识截止：训练结束后的新事件，模型原则上不知道，除非配合联网搜索。

数学与长逻辑：逐 token 接龙的机制在精确计算和多步推理上天然偏弱，这也是为什么新版模型引入了”思维链”（先写推理过程再给答案）和工具调用（让模型调用计算器、搜索引擎）来补短板。

没有真正的”理解”与”意识”：模型操作的是文字的统计结构。它能给出极其像人的回答，但这与拥有主观体验之间，隔着科学尚未回答的鸿沟。

结语：朴素的机制，不朴素的结果

回望整条链路：海量语料 → 注意力机制 → 预训练猜字 → 人类反馈对齐 → 逐字生成。每一步单看都不算石破天惊，但叠加上惊人的规模，就涌现出了今天对话式 AI 的全部能力。

下一次当 AI 流利地回答你的问题时，你不妨想象：屏幕背后不是一个人，而是一个读完了人类图书馆、被反复训练”好好说话”的巨型预测机器。它不懂世界，却精于世界在文字中的投影——这份理解，恰恰是我们判断它输出该信几分、该怎么用的起点。