大白话秒懂五论文—AI大模型思维链的进化揭秘

1

手把手教（Few-shot-CoT） 

彬老师

今天我们来探讨大模型的思维链。说到思维链则不得不提起Jason Wei的《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》，该论文奠定了“思维链”技术的基础。

小渣

Jason Wei？是不是先在Google，后去OpenAI的那位天才？

彬老师

对，他在OpenAI负责O1和深度研究工作。实际上，OpenAI的O1、O3推理模型以及DeepSeek-R1的核心思想，都可以追溯到他的这些早期贡献。

弘老师

Jason Wei 的方法简单有效。就是在问模型问题的同时，附上示范问题、示范答案及示范答案的思考过程。这样模型有样学样，就能回答的更好了。这里需要注意的是，仅给示范问题的答案而不给思考过程，效果会很差。

比如论文中给模型一个问题"罗杰有5个网球，他又买了2罐，每罐有3个网球，他现在有多少个网球？"，如果只告诉它答案是11，而未解释原因，模型是无法做到举一反三的。

弘老师

我们让模型回答新问题"食堂有23个苹果，用了20个做午饭，又买了6个，现在还有多少个苹果?"时，模型给出答案为27。

小渣

23-20+6=9，模型居然做错了如此简单的数学。

彬老师

如果之前的示范并非单纯告诉它答案是11，而是这样教它：“罗杰一开始就有5个球，而罗杰又买了2罐，每罐3个网球，这里就有6个网球，所以答案是5+6=11。”  它就明白了，回答新题就不会犯这种低级错误了。

弘老师

是的，有了这种思维过程的示范，模型在回答新问题时，也会自然而然地展现出类似的思考路径——自助餐厅有23个苹果，用20个苹果做了午餐，剩23-20=3个苹果，又买了6个苹果，所以现在有3+6=9个苹果。

大饼

哇！就好像我们小时候学数学，老师不仅告诉我们答案，更重要的是教我们解题思路！

彬老师

是的，Jason Wei把这种方法称为Few-shot Chain-of-Thought，简称Few-shot-CoT。论文中该方法将模型性能从18%提升到57%，效果惊人。

小渣

也就是说，模型其实已经"学会"了思考，只是需要我们给它一个示范，告诉它"该怎么思考"？

彬老师

正是如此。这个发现彻底改变了我们对大模型能力的认识。不过，这种方法也有局限性，人工设计示例对每个问题都写思考引导，有些麻烦。

弘老师

是的，这就引出了我们今天要探讨下一个关键内容，一起来看看第二篇论文。

2

3

双剑合璧(Few-shot-CoT × Zero-shot-CoT）

彬老师

还是Jason Wei他们，在《Large Challenging BIG-Bench tasks and whether chain-of-thought can solve them》论文中，尝试了一个看似简单却极为有效的组合，即同时使用Few-shot-CoT和Zero-shot-CoT。

弘老师

简单来说，就是既提供详细的思考示例，又在最后加上 Let's think step by step 的提示。

小渣

两种方法优势叠加，效果会更好吧？

弘老师

确实如此。论文中测试了一个时间推理问题："今天，蒂芙尼去海滩了。他们可能在什么时间去的?" 如下图所示。

弘老师

首先，提供一个详细的示例，展示如何分析一个人的一天行程，从早上5点起床到最终得出"下午3点到4点去合适，答案为D"的完整推理。然后，在新问题后加上"Let's think step by step"。

彬老师

这种双重加持下，模型对新问题"今天，汉娜去了足球场。他们可能在什么时间去的?"的回答变得异常清晰：详细分析汉娜一天的时间安排，最终准确推断出"汉娜唯一可以去足球场的时间是下午5点到6点，所以答案是(C)"。

大饼

这些方法在简单问题上效果好，那对于复杂任务呢？

弘老师

研究者们在Big-Bench Hard数据集上进行了测试，这是从Big-Bench中精选的23个极具挑战性的任务。结果令人震惊，传统方法在大多数任务上表现不如人类平均水平，但使用CoT后，模型在大部分任务上不仅大幅提升，超越了人类平均表现！

小渣

看似简单的调整，效果居然这么好？

彬老师

更有趣的是，研究发现CoT能力与模型规模密切相关——随着模型参数增加，使用CoT的性能提升幅度远大于不使用CoT的情况，呈现出典型的能力"涌现"特征。

大饼

听起来，有些不可思议！

弘老师

是的，这一系列研究确实改变了我们对模型能力的理解。不过，这些方法本质上都属于提示工程，不改变模型本身。接下来我们要把研究目标转向改变模型本身的领域了，一起看看第四篇论文。

4

5