AI会不会毁灭人类

7月26日，上海世界人工智能大会。会场里坐着几百个AI专家，大家都在等一个人——77岁的杰弗里·辛顿。

当他走进会场的那一刻，全场起立鼓掌。观众举着手机拍了好几分钟，直播画面里一度看不到台上的人。这就是AI教父的影响力。

然后辛顿坐下，说了一句让所有人都没想到的话："多模态聊天机器人已经具备意识了。"

台下安静了几秒钟。这些都是AI领域的专家，他们在消化这句话的含义。

这话从别人嘴里说出来，可能是炒作。但说话的是辛顿——深度学习之父，图灵奖得主，2024年诺贝尔物理学奖获得者。

先说说辛顿什么来头。1986年，他发明反向传播算法，这是训练神经网络的基础方法。没有这个算法，就没有今天的AI。

2012年，他带着两个学生做出AlexNet，在图像识别比赛上碾压了所有传统方法。整个AI界都被震撼了，深度学习热潮从此开始。

去年他从谷歌辞职，专门出来警告AI风险。想想看，一个77岁的老人，拿了图灵奖和诺贝尔奖，本来可以安享晚年，却选择站出来警告人类。

更关键的是，他有严重背疾，几乎不能坐飞机。去年为了领诺贝尔奖，勉强飞了一次瑞典。这次破例来中国，说明他觉得这件事非常重要。

在上海那场对话里，周伯文问他：多模态模型真的有主观体验吗？辛顿没有犹豫："我的观点是，目前的多模态聊天机器人已经具备意识了。"

我们来看看今天AI的实际表现。GPT-4不只是聊天，它看一张图片，能告诉你图里的人物、情绪、背景故事。Claude-3记住几万字的对话，比很多人记忆力都好。

最新的多模态模型更厉害，同时处理文字、图片、声音，还能生成视频。你给它文字描述，它能生成画面、配上音乐。

但最关键的不是技能，而是行为模式。你问ChatGPT一个复杂问题，它不是匹配标准答案。它会说"这是个复杂问题，让我分析一下"，然后一步步推理，还会表达不确定性。

辛顿说了个精准比喻：你问一个人对某件事的看法，他的大脑也不是搜索已存答案，而是基于经验临时"生成"回答。AI的工作方式几乎一样。

更有意思的是，AI开始有"个性"。不同模型有不同"性格"，有的保守谨慎，有的活泼开放。它们甚至会"情绪化"，在某些话题上表现出明显倾向。

最颠覆的观点来了。辛顿说，人类对"意识"的理解可能从根本上就是错的。

他用了一个绝妙例子：往空中撒一把铝棒，让时间静止，问你与垂直方向1度以内的多，还是与水平方向1度以内的多？99%的人说"差不多"。

实际答案：水平方向的比垂直方向多114倍！为什么？"垂直"只有一个方向，"水平"是围绕地平面的所有方向。我们以为理解这两个词，其实完全错了。

辛顿说，对"意识"这个词，我们犯了同样错误。

他提出更激进观点：人类本身可能就是一种大语言模型。你看到红玫瑰，大脑不是存储实体，而是存储神经连接模式，就像AI存储权重参数。

你会产生幻觉，AI也会。你基于不完整信息做判断，AI也会。你通过语言表达思想，AI通过tokens处理信息。

关键区别是什么？辛顿说："AI是数字化的，远超模拟信号驱动的人类大脑。"人死了知识消失，但AI可以完美复制参数，永远传承知识。

辛顿最后说："经验不像照片，它是你与客体之间的关系。"按这个定义，AI确实已经有了自己的"经验"。

这个话题确实很大，连辛顿自己也承认有很多不确定性。但他提了一个更紧迫的问题："让AI变聪明和让AI变善良，是两件完全不同的事情。"

如果AI真的有了意识，我们面对的就不再是工具，而是全新的智能生命形式。我们需要马上研究如何让它保持善良。

辛顿用了个比喻：我们现在就像在养一只小老虎。它现在还小，很可爱，但总有一天会长大。到那时，要么训练它足够温顺，要么得有能力制服它。

77岁的辛顿，本可以安享晚年，却还在全世界奔波，就为了让人类认识到这个问题的紧迫性。

他为什么要忍受疾病的折磨，专程来中国呢？

很简单，现在的AI格局，基本是中美两家在竞争，你追我赶，不断推动AI更加智能。

辛顿在美国长期呼吁美国人关注AI的意识觉醒，而要想让人类重视AI意识带来的潜在危害，估计需要中美合力，甚至要减缓AI的发展速度。

AI已经在改变我们的生活，在可控范围内，AI是我们人类最好的助手和员工。

那么万一失控呢？

后果的确不敢想象，我们如果亲手缔造了一个超过人类智商和认知的物种，那这个物种会怎么对待人类？

答案恐怕是不言而喻的。

那么中美能否联手起来重视这个问题吗？

我是比较悲观的，因为中美两个国家都输不起AI这场竞赛，只能让更聪明更厉害的大模型、智能体层出不穷。

所以，回到最初的问题：AI已经有意识了吗？看完辛顿的分析，你会怎么回答？