这里的「推理」指 reasoning，即模型分步思考、解决复杂问题的能力，不是指模型部署运行的 inference。
要解决的问题
让模型先写出中间步骤再给答案，可以显著提升数学、逻辑、多步问答等复杂任务的正确率。但推理链越长，延迟和 token 成本越高。实际使用中要回答的问题是：什么时候值得展开推理链，什么时候应该直接作答，也就是如何控制推理的冗长程度与成本。
核心方法
- 思维链提示：在提示中给出带中间步骤的示例，或者直接要求「一步一步思考」，引导模型先推理后作答。
- 多次采样投票：对同一个问题采样多条推理链，取出现最多的答案，用更多计算换更稳定的结果。
- 搜索式推理：把推理过程组织成树，允许模型探索多个分支、评估中间状态并回溯。
- 用强化学习训练推理：不再只靠提示，而是在可自动判分的任务上用强化学习训练模型，让它自己学会生成更长、更有效的推理轨迹。
代表工作
- Chain-of-Thought Prompting（2022）：证明在提示中加入中间推理步骤，能让大模型在复杂推理任务上大幅提升。
- Self-Consistency（2022）：对多条采样得到的推理链做多数投票，进一步提升思维链的效果。
- Tree of Thoughts（2023）：把推理组织成树状搜索，支持分支探索、自我评估和回溯。
- DeepSeek-R1 / R1-Zero（2025）：R1-Zero 从基础模型直接开展强化学习，不先做监督微调；R1 则结合冷启动监督数据、多阶段强化学习和后续监督微调，改善可读性等问题。不能把 R1 简化成「完全不用 SFT、只靠 RL」。论文报告了在数学、代码等基准上的推理能力提升，推理轨迹变长本身不保证答案正确。
实践建议
把推理当成「按需启用」的资源，而不是默认一直打开：简单问题直接作答，复杂问题再展开推理，并给推理设置预算上限。
开放问题
- 如何让模型自己判断问题难度，自适应地决定推理长度。
- 推理链写出来的内容是否真实反映了模型内部的计算过程。
参考资料
相关专题
- 测试时计算扩展：推理时投入更多计算换取更高正确率，是推理模型的核心支撑。
- RLHF、RLAIF与RLVR：可验证奖励的强化学习是训练推理能力的主要手段。
- 智能体的Token效率：简洁推理、思考预算控制等降低推理成本的方法。
- 知识蒸馏与小模型：把大模型的推理方式蒸馏给小模型。