正面连接

李喆:为什么说我们认识世界的方式只是一种虚构?

Image
Image

如果“物自体”与人类理性之间存在一条不可跨越的鸿沟,那么,公理与诗究竟谁更真实?

Image

也许很难相信,但我们智人是依靠“虚构”的能力在进化中胜出,并一直如此认识世界的。我们创造概念、讲故事、发明理论,试图理解事物的本质。围棋是一个很好的例子,它变化无限,有着难以穷尽的可能性。人类因此虚构出诸如“厚薄”、“轻重”、“外势”等概念,作为重要的“棋理”,来帮助棋手思考。

然而概念并不意味着世界本体,这些棋理也并不是完全不可错的知识。职业围棋选手李喆认为,这是人类在有限的理性下,为了方便理解而不得不制造的“思维拐杖”。我们虚构,只是因为我们的大脑算力不足,逻辑有限,无法通过计算直抵事物的本质。

当AI出现,这种认知方式就变成了弱点。早在2016年,李世石输给了AlphaGo,不仅如此,棋手们有时甚至无法理解AI落子的理由——长久以来依靠创造出来的概念来理解围棋的人类,很难明白AI的计算逻辑。同时我们也难以探索这个逻辑,因为AI产出结论的过程对我们来说至今是一个“黑箱”。

但李喆对此并不悲观,他提出一个可能性:如果这个黑箱能被破解呢?如果使AI能够理解并模拟人类虚构概念的方式,那么AI就可以把它的思考过程告诉人类。李喆认为,借助这种全新的认知方式,人类或许将迎来一场史无前例的知识爆炸。

很久以前,“虚构”被视为人类的第一次认知革命,现在我们或许正面临第二次认知革命,我们的思想会被嵌入AI制造的认知方式。于是新的问题来了,我们将不得不重新思考人的本质:如果说一条机械手臂并不会改变我们是“人”这个事实,那么嵌入由AI创造的思维方式呢?我们还是同样的“人”吗?“人”到底是什么呢?

Image

畅销书《人类简史》中,尤瓦尔·赫拉利提出过一个存在争议的观点:约7万年到3万年前,智人发展出了语言,尤其是发展出虚构概念和故事的语言,是智人击败尼安德特人的重要原因。赫拉利认为,尽管尼安德特人也有语言,但他们的语言不具备虚构能力,只能描述具体的事物及其位置,最终被能够虚构概念从而传递更多信息的智人淘汰,赫拉利将此称之为“认知革命”。如果将“认知革命”这个同样是虚构的概念附着于我们对人类史的理解之上,那么我们可以讲一个这样的虚构故事:当前人类已来到了“第二次认知革命”的十字路口。

在人类文明史上,认知方式的变化并非匀速前进,而是处于不断加速的进程中。两千多年前的轴心时代开始出现学科分类和逻辑学,经过经验主义与理性主义的对峙,到日心说、近代哲学转向和实验科学的兴起,再到近百多年来的进化论、相对论和量子力学等等,人类对世界的认识更新,伴随着对人类经验直观的超越,也伴随着虚构概念的不断改进与增长。而认知变化的方向及其加速的结果,从历史来看,一直都难以准确预知。AI技术的发展,使人类第一次具有了超越自身理性能力去认知世界的可能性,但是,如果仅仅沿着大语言模型(LLMs)的方向发展,这种可能性的实现将是遥不可及的。

在当前对于AI的众多讨论中,一个关键的区分似乎常被忽略。大语言模型的出现,比以往人类发明的任何技术都更迅速地进入日常生活之中(在商业价值的激励下),于是,近来人们谈论AI时,意识和话语中首先浮现的形象通常就是那些有问必答的模型——在对大语言模型使用感受的基础上,人们分析AI的优缺点与未来方向,对AI发出褒贬评价和各式各样的预言。然而,大语言模型只是AI技术的一种特殊应用,这类以现有语言文字等信息为训练数据的AI很可能只是一种阶段性的工具。

从知识性质的角度,当前阶段的AI们大体可分为两类。一类以LLMs为代表,其特征是以已有的信息为基础进行提炼和交互生成,这些生成式AI大幅提升了人类收集和输出信息的效率,而它所隐含的弊端与危险也正在被广泛讨论(例如:均值输出的平庸化、信息反复压缩的失真、迭代的数据污染等等)。沿着LLMs继续发展,或许能够不断提升信息处理和传递的效率,但因其以人类已有的语言及其所表征的认知为基础,将无法超越人类已有的认知结构。

第二类AI以AlphaGo和AlphaFold为代表,其特征是在某些特定的领域内达到了比人类专家更为专精的水准,但目前这些超越人类能力的精确信息尚无法被转化为融贯的人类知识,或者说,人们可以确知这类AI达到了更好的结果,但无法以人类知识的方式复现其过程。这两类AI在训练方法上固然有很多相近之处,但在知识的性质上存在巨大的差异。围棋是一个精致的有限空间试验场,其规则明确、反馈及时且无法穷尽,十年前的AlphaGo已在其上试验了神经网络算法的有效性,接下来的AI还可在其上验证某种认知革新的有效性。

Image

尽管AlphaGo和AlphaZero已远远超过了人类的围棋水平,但对于如今的棋手而言,如何下好围棋仍然是一件令人困惑的事情。围棋AI给出的是局面的推荐选点与胜率,即关于棋局答案的信息,但目前围棋AI无法用语言告诉人类这些答案的原因,无法将其直接输出为能够被人类掌握的知识。如果我们把棋类游戏想象成一些有标准答案的考卷,当前的围棋AI能告诉我们接近正解的答案,但无法像教科书或学术著作那样告诉我们抵达答案的过程与方法。与之相对,大语言模型虽然可以回答我们所有的问题,但正如人们所指出的,其生成的文本内容里充斥着大量的幻觉和错误,而随着训练水准的提升,幻觉的部分将愈发隐蔽,而检验错误的工作也将成为愈发艰难的挑战。

在这个意义上对两类AI进行对比,大语言模型是“言而不精”,专精类AI是“精而不言”,前者高谈阔论,后者默然不语;前者是对人整体的模拟,后者是对人部分的超越。区别的原因也很清晰,前者是用人类已生成的语料作为训练数据,后者是在给定明确领域和目标的前提下生成训练数据。由于前者的应用已进入人们的日常生活之中,而后者目前还只在一些特定的领域内形成震动,对AI的讨论目前聚焦于LLMs当然并不奇怪。但是,若以LLMs的种种优势和弊端来推测AI未来的发展,或许会偏离靶心。

对于“专精类AI”讨论较少的另一个原因,就是这类AI目前还不具备教育和沟通的功能,这是因为它只能输出结论,而它产生结论的过程难以被人类以逻辑的方式理解吸收,人们称这一部分为“黑箱”。以AlphaZero为例,围棋、国际象棋和日本将棋都是规模有限而规则清晰的游戏,它们棋盘的大小都超过了人类凭逻辑计算达到最优解的限度。如果在一个非常小的棋盘上下棋,人类可以遍历所有的变化,那么AI最多也就是与人类专家在最优解上同步为平手;如果在一个非常大的棋盘上下棋(例如大到人类一生的时间都无法下完这盘棋),那么人类对其的知识也将变得稀少而模糊,因为相应的知识理论很难被结果所检验。流行的棋类项目,尤其是那些不包含随机性的完全信息博弈,其规模大小通常就在这两者之间——既不会被人类完全破解它,也不至于使人类无法完成它。在这样的空间内,人类获取知识的两种基本方式——“逻辑”和“经验”,得以各自发挥作用。能够通过思考和研究获得一些行之有效并可传递的知识,但又始终无法窥其真理之全貌,这正符合人类面对世界的处境。

Image

在AlphaGo出现之前二十年,“深蓝”对决国际象棋冠军的90年代,计算机围棋的研究者们也曾尝试将人类的围棋知识尽可能转化为计算机语言,试图使计算机能够“像人”一样下棋,这些尝试在国际象棋等棋类项目中取得了显著的成果,但在围棋项目上遭遇了瓶颈。和国际象棋里几步将杀的战术类似,围棋局部死活和官子的推理运算并不复杂,问题是那些逻辑推理以外的知识,在围棋中的占比高于其它棋类,这一方面是由于围棋通用19路棋盘的博弈树更为庞大,另一方面,借用康德的话语,是由于人类理性的有限性。

Image

这个话题如果延展开来,用许多具体的例证进行说明,对于非棋类爱好者而言大概会有些枯燥,但这里所涉及的问题不仅仅是博弈游戏及其相关的AI算法,而是与人类认知事物、构建知识的方式,以及AI未来在其它领域可能产生的认知革命直接有关,因此这里尽可能尝试用具有普遍性的语言来说明。

围棋术语主要可分为三类,第一类表征空间位置和行动,主要用于言语交流(例如“飞”、“托退”、“星位”等),第二类用于概括逻辑推理得出的知识(例如“大眼杀小眼”、“七死八活”、“金鸡独立”等),第三类是基于经验归纳的概念与策略(例如概念“厚薄”、“轻重”、“俗手”、策略“围棋十决”等)。

其中,第一类术语的性质近似于日常语言中的动词和名词,主要用于表述和传递信息,与下棋的知识和技术水平并不直接相关(当它们尚未与价值判断相结合时),也是当前的围棋AI很容易增加的功能。

第二类术语代表了围棋知识中的重要部分,即从基础条件或原理出发,使用逻辑推理的方式得到的知识。根据逻辑学的原理,只要条件和推理过程皆正确,则其结论所对应的知识是不可错的。在围棋盘上,推理的基础条件就是围棋的基本规则,例如从“气尽棋亡”正确推理得出的一些关于复杂死活问题的结论,即便在完满的围棋之神面前仍然是正确的,尽管其策略树搜索的规模或许不小(而当前远超人类水平的围棋AI却有可能在同样的问题上犯错)。当然,这类知识更多的部分没有被概括为术语或口诀公式,而是以记忆知识点的方式进入棋手的知识库。

假如在一个很小的棋盘上下棋,人类可以用逻辑的方式达到最优解,那么第三类术语及其蕴含的知识便是多余的;正由于围棋盘的大小超出了人类的逻辑运算能完全覆盖的界限,人们便由经验归纳的方式发明(或引入)了一些模糊的、不可量化的概念。此处以“轻重”为例,围棋中的“轻”和“重”显然并非可测量的棋子重量,也不是从规则推理而来的知识,而是对于棋局中某类状态的感觉,这类感觉是由棋子之间结构的差异及其分类所形成的,借用词语“轻”和“重”的引申义,虚构出一对概念来凝聚这些模糊的感觉(模糊性源于其无法精确测量和比较)。从围棋的规则并不必然产生这样的概念,但这些概念对人而言又是相当实用的,它将我们许多特殊的感觉归属于具有一般性的概念之下,使其成为可被思考和言说的对象。在“强弱”、“轻重”、“厚薄”等等对立的概念之上,人们建立起相应的策略知识与思考路径(例如“彼强自保”、“厚势勿近”等)。又由于这些概念和策略所使用的语词并非专门的围棋术语,而是借用引申于日常语言中已有的词语,使得这些知识具有了与现实世界相连接的普遍性,这便是自古以来有许多人意识到围棋的道理与世间道理相通的根本原因。很有趣的是,在围棋AI面前,当人类需要用到这类知识和概念来思考决策时,恰恰是人类的认知弱点暴露的时刻。

在“深蓝”专家系统的时代,围棋计算机的研究者们也曾尝试将“厚薄”、“轻重”这样的概念转化为计算机能够运算的数据,但显然这样的工作未能成功。AlphaGo完全舍弃了这类方法,甚至在AlphaZero训练之初就去除了所有人类围棋的知识基础,但同时AlphaGo比以往任何软件都更好地模仿了人类下棋时的思维结构,即“直觉——搜索——判断”(对应Policy Network——Tree Search——Value Network)。结构相近而神经网络训练的效用更好,使得AlphaGo在这三个方面都综合地超过了人类棋手的水准,尽管其中已不蕴含人类几千年来发现的具体的围棋知识。但是,那些达到不可错知识所需要的逻辑推理能力,和其它领域的AI一样,目前也仍然是围棋AI的弱项,当然随着AI推理能力的发展与增强,这方面的突破是可以预见的。

以上的信息告诉我们,以围棋为例,人类以往生成知识的方式并不具有必然性和唯一性,尤其是其中依靠经验归纳和概念生成的方式所建构的知识及其延伸。由于人类的理性是有限的,凭自身逻辑推理所能触及的知识存在边界,在那些条件绝对坚实、原理清楚明白的领域(假设其存在),我们用逻辑的方式尽可能得到越来越多的不可错的知识;而在此之外,是人类运用虚构和想象的能力建立起大量的概念,并在其上不断层累叠加的知识。这类知识,既因其模糊无法量化的性质而难以被AI精确把握,又因其偶然性而存在被替换更新的可能。

Image

AlphaGo出现已经十年,“AI的棋很多都看不懂”仍是围棋界的共识,职业高手与业余高手的区别似乎只在开局被AI让两子还是四子。这些让人感到“看不懂”的落子位置和胜率信息,实际上就是人类用“厚薄”、“轻重”、“虚实”等概念及其相应的策略知识无法通达的部分,而当棋局进入到能够被逻辑计算覆盖的阶段,AI的下法和信息就成为完全可以理解的了。

从围棋技术发展史的角度可以看出,虚构概念的更新意味着相应知识的增加,例如“厚薄”的概念在早期的围棋论著中并不存在,而现代的每一位棋手都已习惯了用这样的概念进行思考,概念工具的精细化与有效使用,意味着“棋理”知识和围棋技术的增长。“厚薄”、“轻重”这些词语已经达到虚构概念的极限了吗?显然不是。据说爱斯基摩人对于“雪”的词汇大于五十个,这意味着他们对“雪”有比其他人更精细化的区分和更多的知识。围棋领域现有的虚构概念知识显然并不完美,相反此领域所对应的围棋水准正是人类相对AI较弱的部分,因此也获得了很大的更新空间。

对于当前的LLMs而言,由于它的训练语料来自于人类已有的语言符号和概念,其所生成的内容自然也聚焦于语言符号的组合,很难在非幻觉的意义上生成新的虚构概念。而对于专精类AI而言,其超过了人类专家水准后的所谓“黑箱”过程,也正对应着人类现有的逻辑推理和虚构概念都无法通达的部分。

仍以围棋为例,以往的知识是历代国手们凭逻辑演绎或经验归纳的方式逐步前进,以线性的方式得到一个又一个的新知识点,而如今的棋手们常常是看到AI给出选点与信息,确认其能理解和不能理解的部分,先得到答案再以自身的认知框架来拼接达到答案的过程,由此增加凭自身认知能力达到正确结果的概率,此类获取知识的方式此前仅见于科学领域。

单以人类自身的能力,这种认知的增长效果仍是相当缓慢的,虽然这些年棋手水平增长的速度已远超过去,但更多依赖的是经验性的增长,也就是见过更多的AI下法形成了更好的直觉,但这些经验性的增长尚未转化为围棋知识的大量革新,在概念生成和棋理判断的方面,还有巨大的提升空间。凭借自身的虚构能力不断提出更好的棋理概念,这是人类围棋水平在历史上缓慢进步的方式之一。那么,人类是否能够在AI的帮助下更高效地虚构概念,从而得到各类知识的增长?这个问题正对应着“AI的可解释性”这个业界热门的话题。

对于专精类AI“不可解释,但的确比人干得更好”这样的“黑箱”,其实质是对应着人类逻辑推理和虚构概念均未能通达的知识。那么,在专精类AI输出信息的精准度已经超越人类的前提下,如果使AI能够理解并模拟人类虚构概念知识的方式,则不仅黑箱将被打破,转译可以实现,且AI将能够帮助人类在诸多领域更新概念,从而得到很可能是爆炸式的知识增长。

Image

假如在围棋中验证了在AI的帮助下能够生成出比“厚薄”、“轻重”等概念和“围棋十决”等策略更为精细有效的思维锚点,从而使人类对围棋的认识可以大幅提升,并且使AI能够更直接地参与知识生产与传递,那么,我们似乎也没有理由认为这种全新的认知方式不能够推及各类知识领域。这是否意味着,我们已来到了第二次认知革命的前夜?

如果说数万年前语言符号和虚构能力的出现是人类的第一次认知革命,文字与印刷术的发明则使信息和知识得到了加速传播,那么,互联网和智能手机进一步加快了信息传播的速度,而理想前景中的AI也将帮助人类走向第二次认知革命。破除“可解释性”难题的虚构能力的突破,也意味着AI前沿所关注的当前“智能体”向未来“创新体”的转变。AI的创造力是什么?在图灵奖和诺贝尔物理学奖得主Geoffrey Hinton的回答中,AI的创造力就是对结构的洞察与呈现,而虚构概念的能力正对应着洞察结构并使其呈现。

围棋作为一个人类积累了千年知识、规则清晰、目标明确的有限领域,不仅使AlphaGo完美地呈现出深度学习算法的优美与能力,也可能负有历史责任地验证AI虚构概念的创新能力。Hinton讨论AI创造力时所举的一个例子,正是AlphaGo与李世石对决第二局的第37手——那是一个超越但沉默的时刻,而未来的AI或许将能够以全新且可被理解的概念语词向人类解释它。

从“人是万物的尺度”到“人为自然立法”再到“不可言说之处,人必须沉默”,两千多年来,许多人都在尝试理解人的认知与世界本体之间的深层关联。如果“物自体”与人类理性之间存在一条不可跨越的鸿沟,那么,公理与诗究竟谁更真实?随着科学的加速发展,反直觉、反传统的知识版图不断扩大,现实、观察与模型之间的关系也变得更加微妙。AI将带来的认知变革,会使我们重新理解自身吗?比如,什么是人——20万年前和今天的人,在什么意义上还是“同类”的人?如果我们惯性地认为安装大量嵌合体不会改变人的本质,那么,当人的思想也以嵌合体的方式出现——不仅以脑机接口的方式,还以AI革新概念知识和语言的方式——我们又将如何理解人的本质?

如今的世界面临着全球化退潮、民粹主义兴起、气候变暖加剧等多重危机,AI作为人类发明的最强工具,其被以恶劣方式使用的概率在持续增长。但与此同时,如果AI“点亮世界”的潜力被充分发挥出来,诸多固有认知被颠覆,大量全新的虚构概念与故事塑造出具有新意识的人类,未来世界究竟会迎来死寂还是诗歌,尚未可知。

Image

Image

作者———李喆

编辑——于蒙   顾问—王天挺
视觉——pandanap

插画——Matt Chinworth 

运营——杏子   版式——日月
创意—Vicson 
出品人/监制——曾鸣
图片

我们持续招募最好的

作者、编辑、实习生,请联系 

[email protected]

Image

延伸阅读

Image
Image
Image
Image