Geek Savvy

今年Agent之年:扯淡!Andrej Karpathy2个半小时深度访谈

Image

今年,大家都觉得是Agent元年。

刚刚花了2个半小时,看完了Andrej Karpathy的最新播客。

看完才知道,不,这并不是。

真正的Agent还有10年。

2个半小时的播客信息量巨大,简单跟大家总结一下重点内容,有时间建议去看看原视频。

image.png

视频地址👉https://www.youtube.com/watch?v=lXUZvyajciY

当所有人都在高喊“Agent之年”的2025年,Karpathy一上来就给直接怼:别喊了,这不是“Agent之年”,这是“Agent的十年”。

这种冷静,不是凭空来的。这是他在特斯拉带队5年,从自动驾驶的“九的进军”(march of nines)里悟出来的。他说,从一个90%可靠的demo,到99%的产品,再到99.9%,每加一个“九”,都要付出恒定的、巨大的代价。

在我看来,这就是一个一线工程师最真诚的反思。

Agent为什么不行?因为它们有“认知缺陷”:它们记不住(continual learning),也看不懂(multimodality),更不会用电脑。每一个,都是好几年的硬仗。

然后,他抛出了一个更“异端”的观点:“强化学习(RL)很糟糕” 。

他说RL就像“通过吸管吸取监督” 。模型瞎试了100次,最后只得到一个“对”或“错”的信号 ,然后把这个信号广播给整个过程,哪怕中间的步骤是错的、只是运气好 。这是没有灵魂的。他说,人类根本不是这么学习的,我们有复杂的审查、反思和归纳 。

image.png

紧接着是全场最深的一个思辨:LLM的超强记忆力,不是一个特征,它是一个Bug。

我们总觉得模型能背下整个互联网很牛。但Karpathy说,正因为它们太会“记忆”,所以它们只会“坍缩” ,只会复述,缺乏多样性 。反而是人类的孩子,他们糟糕的记忆力是一种“特征” 。因为记不住,所以被迫去“见树又见林”,被迫去寻找可泛化的模式 。

这才是智能。

他想要的,是一个剥离了海量知识,只剩下纯粹算法和智能的“认知核心”。

那么,AGI呢?这个让我们如此兴奋又如此焦虑的AGI。他的答案,冷静到近乎平淡:不会有智能爆炸。AGI将像电力、计算机和互联网一样,悄无声息地融入过去250年那条2%的GDP增长曲线里。它不会是“盒中上帝”,它只是又一个强大的工具。

image.png

那么,AI时代,我们人该怎么办?

这大概是整场对话最富技术人文主义色彩的部分。Karpathy说,他最怕的,是《机器人总动员》或《蠢蛋进化论》那样的未来,人类在AI旁边被彻底“剥夺权力”。所以他选择去做教育。

他给出了一个终极的画面:AGI之前的教育,是为了“有用”,为了赚钱 。而在AGI之后,教育的意义将彻底改变。

它会像今天的“健身房”。

我们去健身房,不是为了和起重机比力气,而是为了乐趣、为了健康、为了自我实现 。未来的学习也是一样。那一刻,我们终于可以为了纯粹的“有趣”而去探索知识。


Image

关注公众号,用极客视角洞察未来!