一句话结论
只要在少样本示例里把「怎么算出来的」写出来,足够大的模型就会在新问题上也写出推理步骤,并且答对得多得多;小模型学不会这一招,这是规模带来的能力。
背景
2022 年初,GPT-3 这类模型已经能靠提示做很多事,但数学应用题、多步常识推理一直是弱项。常见做法是直接给「问题 → 答案」的示例,模型照着给答案,错得很多。大家当时的解释是「模型不会推理」。
做了什么
作者把示例改成「问题 → 一段自然语言的推理过程 → 答案」,其它什么都不改。在 GSM8K 这类小学数学应用题上,540B 参数的 PaLM 从 18% 跳到 57%,一下超过了当时专门微调过的模型。论文还在常识推理和符号操作任务上重复了同样的现象,并做了一个关键观察:模型参数量小于约 100 亿时,思维链几乎没用甚至有害;只有大模型才会从中获益。
证据强度
强。实验覆盖三类任务、多个模型家族与多种规模,现象在一年内被大量独立工作复现并扩展,包括零样本的「Let’s think step by step」(Kojima 等,2022)和自洽性采样(Wang 等,2022)。它的局限也被证实:生成的推理链不一定忠实于模型实际的计算过程。
局限
论文没有解释为什么会这样,只给出了现象;推理链里可以有错误步骤却得到正确答案,反之亦然;思维链让输出变长,成本和延迟随之上升。后来的推理模型把「先想再答」从提示技巧变成训练目标,但把思考过程藏在了输出之外。
值不值得读,看哪一段
值得,而且是读原文的好入门:全文几乎没有公式。看第 3 节的图 1(对照示例)、图 4(规模与效果的关系),以及第 3.4 节的消融,知道「推理步骤必须在答案之前」这个细节就够了。
延伸
- 原文:arXiv 2201.11903 (在新窗口打开)
- 零样本版本:Kojima 等,Large Language Models are Zero-Shot Reasoners(arXiv 2205.11916)
- 本站正典「推理与思维链」主题中的 Let’s Verify Step by Step 与 DeepSeek-R1,是这条线的后续。