生成式AI的下一阶段：推理时代的到来

本文整理自红杉资本的《Generative AI’s Act o1》。

在生成式AI革命的两周年之际，我们看到AI领域正在经历从“快速反应”到“深度推理”的转变。这一进展不仅代表着技术的进化，也为我们打开了一个充满潜力的新应用世界。在这篇文章中，我们将探索这一转变背后的深层次变化，以及未来AI应用的巨大机遇。

推理时代的到来

过去两年里，生成式AI的快速发展让人眼花缭乱。从最初的“快速反应”，也就是通过大规模预训练模型进行快速的下一个词预测，到如今逐渐进入“慢思考”阶段——在推理时进行复杂的思维和决策，这一进化正在打开新的可能性。尤其是，新的推理层正在为生成式AI带来更深层次的认知能力和更智能的决策过程。

今天，生成式AI的基础层已经趋于稳定，市场的竞争者和合作伙伴也逐渐明朗：微软/OpenAI、AWS/Anthropic、Meta和谷歌/DeepMind等巨头继续在这一赛道占据主导地位。而且，市场的未来将是关于推理层的竞争，新的认知架构和用户界面正不断塑造着这一未来。

OpenAI的突破：o1模型（原Q star）

2024年，OpenAI发布了革命性的o1模型（原Q*），这被认为是今年最重要的模型更新之一。与传统的预训练模型不同，o1通过推理时间计算，展现了真正的推理能力。换句话说，o1能够在推理时“停下来思考”，这使得它能够进行更复杂的决策，而不仅仅是基于历史数据的模式匹配。

为什么这是个突破？传统的LLM模型主要依赖于大规模数据的预训练，依靠模型预先学到的模式进行快速预测。而o1模型则引入了推理时间计算（inference-time compute），即模型在给出回答前会进行自我推理和深思熟虑。这种方法让模型能够处理更加复杂和开放性的问题，特别是在逻辑推理和数学等领域，表现尤为突出。

AlphaGo与LLM：推理的启示

回顾2016年，AlphaGo与李世石的围棋对决成为了深度学习历史的标志性事件。与以往的AI对战不同，AlphaGo不仅仅是模仿过去的对局，它能够在推理时进行深度思考，评估未来多种可能的局面，最终做出最优决策。这一过程可以类比到生成式AI中的推理层，推理不仅仅是预测，而是更加深刻的认知与问题解决。

与之相比，LLM的推理层面还相对简单，尤其是在开放性问题（例如写作）上仍然表现不佳。但o1模型在某些逻辑和数学领域表现得更为出色，它能够通过反向推理和评估不同思维链条来获得更高的准确性。

从“系统1”到“系统2”：推理的跨越

生成式AI的下一步，正是从预训练模型的“系统1”思维（即快速反应）向“系统2”思维（即深度推理）转变。简单来说，AI不仅仅需要知道某些知识，它需要在复杂情况下进行推理，评估不同的选择，并做出最合适的决策。

系统1：预训练的反应型思维，像是AlphaGo的快速决策或LLM的文本生成，依赖模式匹配。
系统2：深度推理型思维，类似于人类在复杂问题上进行深思熟虑的过程。

当AI能够做到“停下来思考”，它就不仅仅是一个快速的工具，而是能够在更复杂的场景中提供深刻见解和解决方案。这一能力的提升，将推动AI在数学、科学甚至哲学等更具挑战性的问题上的表现。

推理层的下一个竞争领域：推理云

在o1模型的研究中，我们看到了一个全新的计算扩展法则：推理时间的计算。通过增加推理阶段的计算量，AI能够进行更深入的推理，从而提升模型的整体表现。这意味着，未来的AI系统将不仅依赖于基础的训练计算，而是在执行任务时，通过动态调节计算资源来进行更加精细的推理。

这一转变将推动从“大规模预训练”向“推理云”模式的过渡。推理云将根据任务的复杂性，灵活地分配计算资源，进而推动生成式AI的广泛应用。

应用层的崛起：AI的服务化

随着推理能力的增强，生成式AI的应用层也开始迅速发展。从早期的“GPT-3的包装应用”到如今越来越复杂的“认知架构”层，AI应用正在走向更深层次的定制化和智能化。以Sierra为例，Sierra是一款AI客服支持工具，能够自动解决客户问题，并根据结果收费，而不是按座位收费。这种按“工作成果”收费的模式，正是AI向“服务化软件”转型的体现。

AI不再是简单的工具，它正在成为一种能够自动化完成任务的“劳动力”，带来的是数万亿美元级别的市场机会。

随着推理和推理时间计算的不断进化，生成式AI的应用将变得越来越强大。新一代的“智能应用”正在出现，如Harvey（AI律师）、Glean（AI工作助手）、Factory（AI软件工程师）、Abridge（AI医学记录员）等，它们不仅仅是基础模型的简单应用，而是通过自定义认知架构来解决特定任务。

我们相信，随着AI推理能力的提升，未来的应用层将更加智能化，逐渐为各行各业带来前所未有的效率提升和创新机会。

走向AGI的第一步

对于AI行业而言，当前的这一阶段或许只是未来更大变革的序幕。正如AlphaGo在李世石第二局的“第37手”一样，生成式AI的某个时刻可能会给我们带来惊艳的超人类表现，这一时刻也许就是我们迈向AGI的第一步。

未来的AI不仅仅是工具，更是能够进行自主思考和推理的智能体。尽管这一进程可能是渐进的，但它将深刻改变我们的工作和生活方式。

你准备好迎接AI推理时代了吗？

参考文献：

• • OpenAI o1技术报告

• • 生成式AI：创造性的新时代