AI大牛解析o3技术路线！大模型下一步技术路线已现端倪？

2024年12月21日，OpenAI在其为期12天发布会活动的最后一天，正式发布了备受期待的o3系列模型。在外界普遍认为AI发展速度趋缓之际，OpenAI带来了“改变游戏规则”的重大突破，向AGI迈出关键一步。

在被视为通用人工智能(AGI)重要衡量标准的ARC-AGI测试中，o3模型创下新纪录：低算力配置下便以75.7%的得分登顶公共排行榜，而高算力版本更是达到87.5%的惊人成绩，一骑绝尘。

这一成绩远超o1系列，后者在同一测试中的得分仅为25%。

这一突破的意义非同寻常。Keras之父、ARC-AGI测试发起人François Chollet对此评价道：

“这是一个令人惊讶且重要的阶跃式提升，展示了GPT系列模型前所未有的新型任务适应能力。

作为对比，ARC-AGI-1从2020年GPT-3的0%提升到2024年GPT-4o的5%，历时四年。

随着o3的出现，关于人工智能能力的所有既有认知都需要重新评估。”

不过，虽然ARC-AGI测试中表现出色，但这并不意味着o3已达到了AGI水平，因为它仍会在一些非常简单的任务中犯错。

此外，Chollet还表示，在即将发布的新版测试（ARC-AGI-2）中，其表现预计将大幅下降至30%以下，而普通人类仍能保持95%以上的高分。更重要的是，o3仍然依赖人工标注数据，无法像人类那样通过与现实世界的直接互动来学习和适应。

o3来了！

2024年12月21日，OpenAI在其为期12天发布会活动的最后一天，正式发布了备受期待的o3系列模型，包括o3和o3-mini。

• o3 是一个非常强大的模型，在编码、数学以及ARC-AGI基准测试等多个基准上超过了OpenAI此前的o1模型（o1得分25%，o3得分87.5%)。
• o3-mini是o3更经济高效且性能导向的版本，在成本和延迟方面比o1-mini低得多，同时提供类似的功能。

技术路线推演，大模型下一步技术路线已现端倪？

1. 在token空间内进行自然语言程序搜索和执行
2. 使用类似AlphaZero的蒙特卡洛树搜索方法
3. 通过评估器模型引导搜索过程

• 实时生成和执行解决方案程序
• 通过思维链（Chain of Thought）实现知识的动态重组
• 展现出类人的任务适应能力

距离AGI还有多远？

1. 技术层面的局限：

• 仍然依赖自然语言指令而非可执行的符号程序
• 缺乏与现实世界的直接交互能力
• 无法通过直接执行来评估解决方案的有效性

1. 性能层面的局限：

• 在某些基础任务上仍会出现失误
• 在即将发布的ARC-AGI-2测试中，预计其得分可能降至30%以下（而普通人类仍能保持95%以上的得分）
• 依赖专家标注的人工生成数据，缺乏自主学习能力

1. 效率层面的局限：

• 高昂的计算成本
• 大量的计算资源消耗
• 在某些任务上的效率低于人类

结语

“实际上，o3代表了一种深度学习引导的程序搜索形式...

同时，由于推理预算的可变性，效率（如计算成本）已成为评估AI性能时的必要指标。”

觉得好看，请点“在看”