奠基论文
- 注意力就是全部:Transformer 如何改写了序列建模
- 规模律:为什么「把模型做大」从信仰变成了工程
- Language Models are Few-Shot Learners · 1750 亿参数的 GPT-3 只靠提示里的几个例子就能学会新任务,无需更新权重
推理与 Agent
- 思维链提示:让模型「先想再答」为什么有效
- ReAct:推理与行动交替,Agent 的最小原型
- DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning · 仅用强化学习(GRPO + 可验证奖励)就能让基座模型长出长思维链与自我反思
对齐与安全
- InstructGPT:用人类反馈把模型调教成助手
- Concrete Problems in AI Safety · 把 AI 安全从哲学讨论拉回五个可实验的工程问题(副作用、奖励黑客、可扩展监督、安全探索、分布偏移)
- Constitutional AI: Harmlessness from AI Feedback · 用一组明文原则(宪法)让模型自我批评与修订
可解释性
- Toy Models of Superposition · 用可控的小模型证明网络会把远多于神经元数量的特征「叠加」存储
- Locating and Editing Factual Associations in GPT · ROME 用因果追踪定位 GPT 中存储事实的中层 MLP
- In-context Learning and Induction Heads · 给出证据:in-context learning 很大程度上由归纳头这一电路实现
最新
注意力就是全部:Transformer 如何改写了序列建模S
它把「按顺序读」换成「同时看全句、按相关性取信息」,让训练可以完全并行;此后所有大模型都长在这副骨架上。
深读思维链提示:让模型「先想再答」为什么有效S
在示例里写出中间推理步骤,大模型的算术与常识推理成绩就跃升;它确立了「让模型先想再答」的范式,也是推理模型时代的概念起点。
精选InstructGPT:用人类反馈把模型调教成助手S
监督微调、奖励模型、强化学习三步,让 13 亿参数的模型在人类偏好上胜过 1750 亿的 GPT-3;这是 ChatGPT 的直接技术蓝本。
精选ReAct:推理与行动交替,Agent 的最小原型S
让模型在「想一步、做一步、看结果」之间循环,把思维链和工具调用合为一个回路;今天几乎所有 Agent 框架的循环都从这里来。
精选规模律:为什么「把模型做大」从信仰变成了工程S
语言模型的损失随参数量、数据量与算力按平滑的幂律下降,三者之间有可预测的最优配比;它让扩大规模成为可以提前算账的决策。
精选