研究
推理与 Agent
模型如何从「续写」走到「推理」再到「行动」:思维链、验证、工具使用、评测基准。编码 Agent 的每一个设计选择都能在这里找到出处。
文章
思维链提示:让模型「先想再答」为什么有效S
在示例里写出中间推理步骤,大模型的算术与常识推理成绩就跃升;它确立了「让模型先想再答」的范式,也是推理模型时代的概念起点。
精选ReAct:推理与行动交替,Agent 的最小原型S
让模型在「想一步、做一步、看结果」之间循环,把思维链和工具调用合为一个回路;今天几乎所有 Agent 框架的循环都从这里来。
精选本线正典
- S Chain-of-Thought Prompting Elicits Reasoning in Large Language Models · 2022 · 在示例里写出中间推理步骤,PaLM 540B 的 GSM8K 准确率从 17.9% 升到 56.9%
- S ReAct: Synergizing Reasoning and Acting in Language Models · 2022 · 让模型交替「推理—行动—观察」
- S DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning · 2025 · 仅用强化学习(GRPO + 可验证奖励)就能让基座模型长出长思维链与自我反思
- A On the Measure of Intelligence · 2019 · 主张智能是「技能习得效率」而非技能本身
- A Measuring Massive Multitask Language Understanding · 2020 · MMLU 以 57 个学科的多选题成为 2020–2024 年衡量模型知识广度的通用标尺
- A Evaluating Large Language Models Trained on Code · 2021 · Codex 论文发布 HumanEval 并推广 pass@k,奠定代码能力评测方法
- A STaR: Bootstrapping Reasoning With Reasoning · 2022 · 让模型自己生成推理链、只保留答对的样本再微调
- A Toolformer: Language Models Can Teach Themselves to Use Tools · 2023 · 模型以自监督方式学会在文本中插入 API 调用(计算器、搜索、日历、翻译)
- A Reflexion: Language Agents with Verbal Reinforcement Learning · 2023 · Agent 把自然语言写成的自我反思存进记忆,不更新权重也能越试越好
- A Generative Agents: Interactive Simulacra of Human Behavior · 2023 · 25 个具备记忆、反思与规划的智能体在虚拟小镇里表现出可信的社会行为
- A Let's Verify Step by Step · 2023 · 逐步打分的过程监督比只看结果的监督更可靠
- A Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena · 2023 · 系统验证「用强模型当裁判」的可行性与位置/冗长等偏差
- A SWE-bench: Can Language Models Resolve Real-World GitHub Issues? · 2023 · 用 2294 个真实 GitHub issue 考验模型端到端修 bug
- A SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering · 2024 · 为模型专门设计的文件/搜索/编辑接口远比裸 shell 好用
- A Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters · 2024 · 系统论证「推理时多算一会儿」在很多情形下比把模型做大更划算