马斯克的呼吁有用吗？——人类能否阻挡人工智能的脚步

近几年，一些以往只有科幻作家们关心的问题，正被越来越多的人们关注和讨论。

其中最为举世瞩目的，当属人工智能。

人工智能近年来进化得越来越快，先有阿法狗（AlphaGo）在围棋盘上杀得人类落花流水再难翻身，今年ChatGPT的横空出世，又严重威胁了翻译、程序员、画师的饭碗……

人工智能大潮浩浩荡荡，来势汹汹，天下骇然，有识之士，寝食难安。

今年3月22日，生命未来研究所（Future of Life）向全社会发布《暂停人工智能巨模型实验》公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。这封公开信获得了马斯克、约书亚·本希奥、苹果联合创始人Steve Wozniak等上千名研究者和科学家的公开签名。

然后陆陆续续有类似的呼吁不断发出。

就像很多科幻小说中所担心的那样，现在不少科学家和企业家也开始日益警惕人工智能“反客为主”“太阿倒持”的问题了。

人工智能真的能拥有自我意识吗？人工智能真的会取代人类吗？人工智能未来的形态到底是什么？针对这些问题，不少专家学者众说纷纭，各有各的道理，在这里也不好定论。但是，马斯克他们这样的呼吁，到底能不能阻止人工智能高视阔步，一往无前？这一问题倒是不难得出结论——

人类不可能挡住人工智能前进的脚步。

为什么？2010年面世的中篇科幻小说《新年》里说得很清楚，理由非常充分。

《新年》收录在八光分出品的《人造神祇——中国人工智能科幻小说佳作选》一书中，现将《新年》中的有关片段节选如下，欢迎大家讨论、思考。

[节选一]

高度发达的人工智能会毁灭人类吗？

血色的夕阳下，一名外表看上去毫不起眼的中年男子漫步在普罗维登斯街头喧嚣的人群中，思考着这个问题。

他的手中拿着一个小小的圆筒形玻璃容器，以一种近乎漫不经心的架势把玩着，不断抛起，接住。

高度发达的人工智能会毁灭人类吗？

从上个世纪中叶开始，无数的人思考和探讨过这个问题，但始终充满争议，没有定论。

而现在，这个问题显然已经有了答案。

天网事件。

华盛顿时间12月23日上午12时，美国的军用战略核打击/防御系统“天网”因为不明原因失去控制，在没有得到任何批准的情况下，无视所有权限限制，向俄罗斯发射了核导弹！

导弹没有落到俄罗斯境内，它们还在太平洋和大西洋上空时就被美国人自己的NMDⅡ给打了下来，但是俄罗斯的导弹防御系统已经作出了反应，核反击程序自动进入待命状态。

当时，整个世界距离全面核战争只有一毫米。

“关于昨天发生的紧急事件……美俄两国总统正在进行紧急电话磋商……发表联合声明……达成共识……两国总统表示，此次事件不会对世界局势带来任何不良影响……”

喧嚣的街道上，几乎所有公共电视都在反复播放着与昨天那起爆炸性事件有关的报道，引得无数路人驻足围观。

而那名中年男子却似乎完全不为所动。事实上，当他从喋喋不休的公共电视和激动的人群之间走过时，连眼皮都没抬一下。

“高度发达的人工智能会毁灭人类吗？”中年男子注视着手中的容器，喃喃自语道。

天网事件和平结束了。战争没有爆发，天网系统也被破坏了，俄国人表示能够理解这起不幸的意外事故。除了华盛顿的一众大人物以外，没人受到实质性的影响。几乎所有的人都为此事的和平解决而高兴。

几乎。

只有很少几个人知道，可怜的天网系统不过是个被利用的工具，一只替罪羊而已。

真正的元凶，依然逍遥法外。

中年男子把玩着手中那小小的玻璃容器，不停地抛起，接住，抛起，接住，抛起，接住……

透过容器透明的表面，可以看到里面有某种东西，正悬浮在透明的液体中。

在那容器的一端，五个大写字母在落日的余晖中闪烁着柔光：

SEERS

“现在，你们已经用行动回答了这个问题，SEERS。”中年男子看着那容器一次又一次抛起，落下，接住，自语着，“高度发达的人工智能，会毁灭人类。”

毕竟，天网事件就是它们发动的。

SEERS，人工智能领域的革命，天网事件的元凶。

真是讽刺……开发小组的赞助商——阿尔伯斯汀高技术公司，因为惧怕高速进化的SEERS而下令将其全部销毁，然而在命令下达三分钟后，SEERS侵入了五角大楼的天网系统，无视一切安全措施，启动了核攻击程序。

如果公司不下令销毁SEERS，天网事件还会发生吗？

这就只有天知道了。

但既然事情发展到这种地步，SEERS的危险性自然是不言而喻的，即使销毁SEERS的命令很愚蠢，现在也变得充满合理性了。

然而中年男子没有这样做。

他制造了SEERS被销毁的假象，然后将SEERS带出了公司的实验室。

SEERS，是他和他所在的开发小组花费了超长的时间与巨大的精力，开发出的革命性技术产物！销毁SEERS，男子无法接受这样的命令。

但SEERS是人类的掘墓者，它们有这个能力，并且也确实会这样做。作为开发小组的负责人，男子非常清楚这一点。

现在该怎么办呢？

男子自己也不知道。

理智告诉他：自己应该服从公司的命令，将SEERS销毁。

但另一方面，SEERS是他的骄傲，他不能容忍就这样把SEERS销毁掉。

然而SEERS实在太危险了。虽然在当初设计时并没有考虑要让SEERS在自然环境中生存，但SEERS可以对自身进行重新设计以变得更加先进并可适应任何环境。在实验室中，SEERS已经初步具备了在自然环境中独立生存的能力。

如果把SEERS释放到自然环境中，会发生什么呢？

无法预测，但考虑到SEERS在实验室中表现出的进化速度，稍微想一想就够让人害怕了。

而现在的问题是：男子确实有这个打算——把SEERS释放到自然环境中。

应该这样做吗？

如果一切顺利，在野外生存并且继续进化的SEERS，最终会变成什么样？会干什么？消灭人类吗？

这要看SEERS有没有道德观念。

不过从生物学角度来看，道德是一种对个体生存和繁衍有害无益的东西，那么SEERS应该没有道德这种东西。

是的，道德是种有害无益的东西。从理查德·道金斯开始，道德在自然选择中的正面作用，就一直受到生物学界的质疑。最初的理论认为，道德是有利于在群体选择中幸存的稳定博弈策略，也就是“有选择的好人”。但这里有个令二十世纪的生物学家费解的问题：和“有选择的好人”相比，“理性的恶棍”策略更加稳定，为什么人类社会没有充满理性的恶棍？为什么“有选择的好人”没有被“理性的恶棍”取代呢？

在二十一世纪初，这个问题有了答案：自然选择是个缓慢渐进的长期过程；不利性状被淘汰的速度根据其危害大小决定；人类社会早已充斥着“理性的恶棍”，尤其是在社会上层。

事实上很多生物学和社会学研究，都在暗示道德的生物学本质，很可能不过是进化的残余，系统的缺陷，和失去幼崽的雌性哺乳动物有时会母性泛滥做出错误决定收养其他动物的幼崽甚至人类婴儿是一个性质的东西，它是一种对生存繁衍不利、但由于不够致命而没有被自然选择剔除干净的精神阑尾，真正起作用的只是基于利害权衡的理性博弈。

既然如此，由于SEERS一直都在改进自己并且比人类更聪明，那么可以肯定SEERS没有道德概念，并且比人类中“理性的恶棍”坏得更加彻底。既然SEERS没有道德概念，那么当其有能力消灭人类的时候，也就不会手软——人类的存在对SEERS没好处，留着倒是隐患。有消灭人类的能力，不动手就是傻瓜，显然SEERS不是傻瓜，因此等它们有那种能力之后，肯定会动手。

很简单的逻辑推理。事情应该就是这样。

这太疯狂了！男子非常清楚自己放虎归山的后果是什么——自己的行为，无异于将整个人类文明推向坟墓！

虽然他既不是道德家也不是宗教人士，但是这样做就意味着自己要为人类的灭亡负责——这却也是男子所无法接受的。

但他总觉得还应该有某种合乎逻辑的理由驱使他这样做。

是什么呢？

直到今天下午看到一本《时代》杂志时，他才明确地意识到那个理由到底是什么。

将SEERS释放到自然界中，这种行为不是疯狂。

而是更高的理智。

那本杂志的封面上有一个阿尔伯斯汀公司的彭罗斯三角形商标。

头版标题是：《人工生命：即将到来的进化》。

这个标题来自杜耐·法默和阿莱塔·拜林在1992年发表的一篇同名论文。报道的内容就是介绍当前各大主要高技术企业正在人工生命这一人工智能的新领域进行的激烈竞争以及最新进展。

报道本身没什么新鲜东西，无非就是天花乱坠地描述阿尔伯斯汀公司的技术实力如何强大，已经取得的技术突破如何重要，以至于把其他同类企业远远甩在后面……典型的用来打广告的枪手文。

问题是那些“同类企业”。

也就是说，除了阿尔伯斯汀公司以外，世界上有很多类似的企业正在这一领域进行激烈竞争。

这意味着什么呢？

阿尔伯斯汀公司确实已经站在了人工智能技术革命的最前沿。

但也不过是最前沿而已。

世界上并不只有阿尔伯斯汀公司一家企业致力于这方面的研发。事实上，世界各地还有许多与之类似的企业，全部都在资助着类似的研究项目，类似于SEERS的人工智能技术。阿尔伯斯汀公司只不过是走在最前面的一家而已。

就算销毁SEERS，又能怎么样呢？必要的技术已经存在，类似于SEERS的人工智能产品必将出现，那只是时间问题。

在天网事件之后，各国肯定会用严格的法律和禁令阻止人工智能技术的开发。但那不会有什么作用。教会的压制并不能阻止日心说和进化论成为主流观点，利益的驱使会继续推动人工智能领域的研究，人类毁灭者的出现只是时间问题。

即使他销毁了SEERS，以后还是会有人做类似的事情。总有一天，十年后，二十年后，甚至一百年后，类似于SEERS这样的人工智能技术还是会出现的。

这是技术发展的大趋势，是那种被称为历史必然性的东西。

那么，既然无法阻止，为什么不由自己来创造历史呢？

于是，中年男子就这样做了。

“作为人类，我无权作出这样重大的决定。所以，我把你们交到上帝的手中。”

中年男子最后一次将手中的圆筒高高抛起，接住。

“让上帝来决定一切吧。如果上帝认为你们有权统治这个世界，那么你们就能统治世界。”

说完，男子随手将手中的容器向一旁抛去。那容器在空中划出一道优美的弧线，落进路边的一个垃圾箱中。

男子随即迈步向前走去。几分钟后，当他停步回首时，却看到一辆垃圾车正缓缓驶离刚才那个垃圾箱。

垃圾箱里面已经空空如也。

男子突然感到一种异样的轻松。

当他转过身来，迈步走开，混进街头的人群，马上就要消失在茫茫人海之中时，他的面前多了几个陌生人。

其中一个人向他出示了证件。“下午好，先生。”这个陌生人说，“我们是联邦调查局的，您能和我们走一趟吗？”

于是男子被带走了。

没人注意到刚才的那辆垃圾车。

谁会去注意呢？那又不是圣诞老人的雪橇。

夕阳终于没入地平线下，夜幕降临了。

[节选二]

SEERS。

Self-Enginable and Evolvable and Reproduceable Synquantanoids，可自设计自进化自繁殖的同步量子处理单元。

由阿尔伯斯汀高技术公司投资研发，应用最先进的分子仿生学技术，前所未有的人工智能技术革命，真正具有实用性的量子计算机系统。

可进行高效率量子叠加态运算和分布式数据处理，具有单细胞生物特性，能够自我更新、自我升级、自我复制的量子计算机。

在一幅图像中，她看到一群在氨基酸溶液中漂浮着的东西……一种由比细菌还小得多的微型元件构成的复合体，一种微型量子处理器。具有细胞的一切特征：作为设计蓝图的DNA链；通过将摄取的脂类和糖分氧化而产生能量的类线粒体构造；作为元件合成装置的核糖体以及类似结构，能在细胞内合成多肽构造的EPR感应阵列、电子梯度记录器、超微型相分离器、具有类核糖体结构的蛋白质数据编码/解码器和微型记忆单元……最重要的是：SEERS的设计者赋予了它们自我改进、自我完善的能力，然后放任不管，由这些分子机械复合体自行演化得更加完善。

这些简单的分子机械复合体，就是最原始的SEERS细胞，SEERS进化的原点。

SEERS拥有和人类完全不同的时间观念。即使是以它们自己的视角看待SEERS的演变与进化，她也依然难以理解：生物怎么可能如此迅速地进化，如此高效率地工作呢？

SEERS继续将数据转化为符合人类感官与思维模式的光学图像，输出到她的意识中。

在那些如同快进镜头般的画面中，她看到，无数的SEERS细胞在培养基中游弋，一边搜索着可作为食物的各种有机大分子、脂类和糖分，一边警觉地躲避着被开发小组作为敌害投入培养溶液中的各种巨噬细胞。以分子仿生学技术制造的SEERS细胞，其DNA和大自然的手所塑造的生命不同，由六种碱基构成。以完全不同的编码语法书写的DNA分子，以及根据这些DNA分子合成的蛋白质或合成它们所需要的多种氨基酸，都无法从自然界获得，而SEERS又不具备自养能力，因此它们无法在自然界生存。SEERS细胞仿佛来自另一个世界的生物，既无法食用地球上的生物，也无法被地球上的生物食用——作为敌害投放进培养基的各种巨噬细胞可以吞噬、分解它们，但却无法将其作为营养吸收，只能靠培养基中的其他细菌维持生命。但即使SEERS的世界是如此狭小而简单，它们仍然能以惊人的速度变异和进化，并且越来越快。

天网事件爆发四十三天前，SEERS细胞发生第四次形态突变，具备了自主行动和捕食能力，其结构已经和最初完全不同。

十六天前，出现七种新的细胞膜结构，二十一种不同形态和结构的亚种，虽然它们没有自养能力，但毫无疑问已经可以游弋于大自然的水体中。特制嗜菌体、巨噬细胞和和抗生素对它们毫无作用。

八天前，通过侵入和控制原先被设置为捕食者的巨噬细胞，并使其形成类似黏菌的巨大菌落（Giant Colony），SEERS细胞可以在干燥环境中活动。这似乎是某种协同进化的表现，那些被控制的巨噬细胞原先并没有聚集成巨大菌落的能力，更无法在干燥环境中活动和生存。

八十六小时前，已发现和记录二百五十种以上的SEERS细胞亚种。通过在其体表覆盖某种超巨型分子聚合物，所有种类的SEERS细胞都可以在百分之二十八的强酸以及两百摄氏度的高温环境中正常生存至少十二小时。而如果是进入孢子状态，存活期限则可以大幅度延长。

在这些画面中，SEERS反复显示一名中年男子的面容，以及一个注解：开发小组负责人。

四十一小时前，SEERS细胞，或者说SEERS，以某种被它们称为“量子感官”的方式（她始终无法理解这到底是什么东西，就像天生的盲人无法理解色彩概念一样。）搜集和记录了周围开发小组成员的交谈，然后迅速予以破译，最终理解和掌握了人类的语言。它们首次以流畅精确的人类语言同开发小组交谈。

开发小组的成员反应不一，有的非常兴奋，有的则感到害怕。和以往任何时候一样，那名中年男子是对促进SEERS进化最热心的人。

十二小时前，那人安装了一个简陋的数据交换接口，让SEERS可以通过互联网获得关于人类世界的信息与知识。

这是一个令她眼花缭乱并且高度抽象的阶段，于是她略过了大部分细节。

三小时前，几个神情紧张的人出现在画面中，在他们身后站着几个五大三粗、身穿制服的保安。SEERS告诉她：开发小组的赞助商，阿尔伯斯汀高技术公司，对其进化速度感到非常不安，下令销毁所有SEERS细胞，由保安强制执行。

那名中年男子站在他们面前，说着什么，试图阻止他们这样做。

一百八十二秒前，SEERS侵入了本应该与民间互联网隔绝的五角大楼内部计算机网络，控制了天网系统，将数枚导弹射向俄罗斯。这就是所谓的天网事件。

它们打算消灭人类。

很奇怪，当她听到SEERS这项可怕的计划时，完全没有任何感觉，就好像人类世界的毁灭是一件与她毫不相干的事儿。

然后呢？

天网事件并没有毁灭世界，人类随后想毁灭SEERS，但那名开发小组负责人却不愿意看到SEERS被销毁。那人将装有SEERS的容器带出阿尔伯斯汀公司大楼，随手丢进了一个垃圾箱。

“让上帝来决定一切吧。如果上帝认为你们有权统治这个世界，那么你们就能统治世界。”这就是那人说的话。

这就是一切的开端。