大问题Dialectic

大问题:AI的使用会让人变蠢吗?

Image

本期要探讨的大问题是:AI的普及会让人变聪明还是变笨?

最近这些年最火的科技发展就是大语言模型的发展。现在市面上的大语言模型越来越聪明,不像前两年,怎么向AI问问她还有讲究,当时一度流行提示语工程(Prompt Engineering),也就是咒语学。但现在的AI,你拿起手机直接用中文口语跟它说,它都能秒懂你的意思。

那么现在问题来了,我们的工作和生活的各个方面都可以问AI要答案,这会不会造成我们开始依赖AI,以至于我们自己开始放弃主动思考了?我们现在在工作生活中无论遇到什么问题,都直接甩给AI,那么长此以往,我们大部分人会不会思考能力退化,变成饭来张口、衣来伸手的傻瓜?AI在给我们的生活带来极大便利的同时,是让我们变得更聪明了,还是变笨了?

关于这个大问题,本期节目将会介绍三个派别对此的回答,它们分别是主张AI会为人赋能的支持派,主张AI会让人变笨的反对派,以及主张AI与人共生的开放派。本期节目将会分别介绍这三个派别对这个大问题的看法,最终需要你来评一评,哪个派别的看法更有道理?

一、支持派:AI为人赋能

1.提高工作效率和质量

支持派认为,AI能为各行各业的人赋能,著名的未来学家雷·库兹韦尔表示,随着AI算力的快速增长,人类社会将迎来一个技术爆炸性进步的时期,因为AI能为各行各业的技术发展赋能。库兹韦尔在他2005年出版的《奇点临近》一书中预测,AI将会在2029年通过图灵测试,将会在2045年迎来奇点,那时候人工智能将达到人类智能的水平,也就是我们现在说的,出现了通用人工智能AGI。

库兹韦尔当年的预言在今天看基本上都算保守的了,现在我们已经深切感受到AI对人的赋能了,AI能承接原本我们要做的一些重复性的、操作性的工作,从而能把我们人解放出来,去专注于更具有创造性的工作,从而提升我们的工作效率和工作质量。

比如设计师,如果要设计什么海报或者Logo之类的,设计师如果一时没什么灵感,想不出来什么设计方案的话,设计师就可以把自己一些零星的想法告诉给AI,让AI先画出好多套备选方案,然后根据AI画的图再不断反馈给AI进行优化改进。

同理,程序员编程也是这样,比如利用AI编程助手,帮助程序员自动写出一些函数,进行代码补全,并且进行错误修复。编程工作因此变得轻松愉快,程序员的头发也就保住了。

再拿我自己的工作来说,我是做哲学视频的,别看我这又是拍又是剪的,搞得花里胡哨的,其实最难、最耗时的部分是写稿,哲学稿十分难写,还得把它翻译成大白话,还得通俗易懂,还又得有戏剧性,得幽默诙谐,这太难了。

首先,确定选题以后,我得搜集资料去阅读,因为我不可能对各个方面的哲学相关选题都了解,对于不那么了解的,我得自己先查资料学习,我学懂了以后才能讲给你们听。在以前,你要去查找什么资料,你得去图书馆,一本一本书地去读,等你读完这些书籍和期刊杂志以后,黄花菜都凉了。

而现在有了AI的帮忙,哪怕是我相对不那么熟悉的领域,我可以通过向大语言模型提问,在较短时间内搜集到相关资料,并且是它帮我读完,整理成摘要,我只需要读这些摘要就能快速了解这个选题领域的概况。如果对于其中哪些部分需要深入了解的话,我再细问就能得到更深入的细节。

这说的是写作前的调研,那在节目脚本的写作方面,AI也能帮我省不少事儿。要知道,一个人坐在电脑前,打开一个空白文档,让你去从无到有地去生写出节目稿——「欢迎收看大问题节目,本期要探讨的大问题是……」,然后要先开题,先说明题目,调动起大家的兴趣,然后又有起承转合,又要通俗易懂,诙谐幽默——太难了!经常是我一个人枯坐在电脑前好几个小时,都憋不出来几行字。

但是,现在我就可以先和AI聊一聊,我先跟AI对话,让它做我的苏格拉底,就在那儿问我、采访我,然后我一步一步地回答出我关于这期节目想要表达的意思,AI也在其中提出它的内容建议,然后,再让AI把我们探讨的内容整理成稿件,然后我基于这个稿件,再做充实、调整和润色。再加一些段子,举两个例子,那按照这样的流程写一篇节目稿就非常高效了。

有了AI帮忙,我就可以更新更多节目,要知道,每更新一期节目,不仅是让观众学到了新知识,对我自己每做一期节目也是一个学习的过程。我做的节目越多,我自己学习到的知识也越多,这完全就说明,AI的使用对我、对观众而言,都是让我们变得更聪明了。

内容行业是如此,其他什么医疗领域,金融领域,市场分析,体育行业等等,各行各业的从业人员,都可以得到AI的赋能,从而提高自己的工作效率和工作质量。

2.直接向AI学习

此外,AI不仅仅可以做我们的得力助手,AI更可以做我们的军师甚至导师或者教练,我们可以直接向AI学习,从而提升自己的知识和能力。

比如现在职业棋手提高棋艺的方式,不再是和人对弈,而是直接和AI对弈。棋手不仅可以和AI磨炼自己的技巧和策略,AI还能在事后帮助棋手复盘分析,从而帮助棋手改进策略。

另外一个更常见的例子就是学外语,如果我们不是要学哑巴外语的话,是需要反复练习口语和听力的,以前你非得找个外国人或者口音标准的老师来和你练习,这费时又费钱,现在你直接和AI进行外语对话,它还能实时纠正发音和语法错误,这外语就学得太方便了。

3.教育平等

我们能直接向AI学习,进一步造成了一个好处,那就是促进教育资源的平等。就像我们刚刚举的学外语的例子,以前偏远地区的孩子学外语,就很困难,他们找不到外教,但是现在你只要有个手机,再偏远地方的孩子都能和AI学习标准的外语口语。随着AI的算力越来越便宜,这会促成,无论贫富,每个学生都能获得「一对一」的优质教学。这就说明,AI是一种促进平等的力量。

最后总结一下支持派的看法,AI能为人赋能,它体现在,第一,AI能提升人的工作效率和质量;第二,我们可以直接向AI学习。第三,AI是一种促成教育平等的力量。基于这些好处,AI能为人类赋能,能让人变得更聪明,这就是支持派的看法。

介绍完支持派的看法,接下来有请反对派出场。

二、反对派:AI让人变蠢

1.放弃主动思考

反对派有好些个代表人物,我们先来说第一个。现在还在世的语言学家和哲学家诺姆·乔姆斯基2023年在《纽约时报》发表了一篇专栏文章,名为《ChatGPT的虚假承诺》,乔姆斯基指出,对诸如ChatGPT这类大语言模型的使用,本质上就是一种高科技抄袭,以及一种逃避学习的方式。也就是现在的人越来越依赖AI,什么事情,自己想都不想。现在的学生,老师布置的作业,都直接甩给AI,直接问AI要答案。这种把AI当做人脑外挂的方式,会使得人丧失主动思考的能力。

要知道,AI说的并不是全都是对的,AI也会产生幻觉,它也会胡说,但是这些习惯依赖AI的人,可能已经丧失了批判性思维,丧失了辨别AI给出的答案是否正确的能力了。微软研究院和卡内基梅隆大学的团队调查了319位经常在工作中使用AI的人,职业包括程序员、教师、护士、设计师等等。调研数据显示,只要一个人对AI的信任和依赖提高1分,他的批判性思维能力就会下降一半。换句话说,越相信AI做得好,人就越不会自己动脑筋去分析和判断。

Image

要知道,我们人类对于一些框架性的知识,是必须自己去学习,去掌握的。一个简单的例子,现在打开手机就有计算器,但是我们依然要背九九乘法表,一个会九九乘法表的人,和一个不会九九乘法表的人,哪怕他们手中都有计算器,他们对于算术的理解是完全不一样的。

另一个例子,比如学习唐诗宋词,也许你小时候不知道这些唐诗宋词是什么意思,但你长大以后触景生情,你就会懂得小时候学到那些诗句是什么意思了。但如果从一开始就不去学古诗词,你脑子里面就根本没有这根弦。

如果你脑子里面不存储知识,把一切知识都挂在AI这个人脑外挂那里,那么到头来,你碰到问题,你甚至都不知道该向AI问什么。这就同理于,有人以为一切知识都可以在搜索引擎上搜到,于是他觉得自己什么都不用学,碰到问题就直接搜答案就好,但是等真碰到问题,他连该搜什么关键词都不知道。

2.丧失学习能力

要知道,我们人类学习知识,并不不单单是让我们学到了什么具体的答案或解决方案,我们学习是为了提升自己的学习能力,但是我们必须在真的学习中去提升自己的学习能力。而随着现在的人对AI越来越依赖,一碰到什么事儿动不动就去问AI要答案,这使得我们很多人放弃去学习了,人们已经丧失了主动思考去寻求解决方案的能力。

其实早在上世纪80年代,传播学家尼尔·波兹曼就提出过,哪怕是几乎一样的内容,看电视学到的知识,和自己主动去读书学到的知识,就是不一样。因为电视是灌输给你的,你是被动接受知识,而读书是你主动去探索、去思考、去联结,这样学到的知识才能锻炼一个人的批判性思维的能力,才算是真正学到了知识。而现在的AI比看电视更是有过之而无不及,AI都直接给你答案了,你甚至都不用思考,长此以往,人类就会成为被AI豢养着的,丧失思考能力、饭来张口衣来伸手的人,这样的人可以称之为「无用之人」。

3.两极分化

历史学家尤瓦尔·赫拉利提出,由于AI变得无所不能,未来社会将会迎来「无用阶级」(Useless Class)的出现,也就是说,大部分人由于过度依赖AI,完全把自己的生活决策交给AI,自己已经丧失了主动思考的能力,甚至都不需要去工作,完全沦为被豢养着的、对这个社会发展毫无用处的阶级。

确实,正如之前支持派所言的那样,AI给人赋能了,但是只是给那些已经很聪明,并且没有放弃主动思考,善于进行批判性思维的人赋能。但是,对于剩下的大部分思维懒惰的人,AI的普及会让他们成为无用阶级。因此,AI的普及非但不能促成支持派所言的平等,反而是拉大了社会的两极分化。少部分精英利用AI的赋能,无论是在财富上还是在认知上,会和大部分无用阶级之间的差距越来越大。

这就是反对派的观点,AI只会赋能小部分精英,但会让大部分人变蠢。介绍完反对派的看法,接下来有请开放派出场。

三、开放派:AI与人共生

在开放派看来,说AI的普及会让人变聪明,抑或是变笨。就是支持派和反对派这两派,其实已经预设了一个前提,那就是人类的思维是有一个固定不变的本质的。然后符合这个本质的就是好的、就会让人变聪明;而不符合这个本质的,就是坏的、就会让人变傻。但是,开放派与前两派都不同,开放派认为,人类思维哪有什么固定不变的本质?人类的思维方式一直是在演化之中的。

1.麦克卢汉:媒介即信息

著名的传播学家和哲学家,马歇尔·麦克卢汉提出过著名的媒介即信息(Medium is the Message)的主张,他认为人类的认知是不断地在技术工具的使用过程中共同演化的。我们塑造了各种工具,工具也会反过来塑造着我们。

比如说,在文字发明之前,人类的交流都是通过口语来交流,通过口语来交流,就比较直观。相应的,口语交流就不适合进行比较抽象的逻辑推理,我们总说「我说话的时候不过脑子就说出来了」。但是,文字这种新媒介,也就是一种新工具的出现,就改变了我们的认知方式,文字相比于口语,就天然地更善于抽象的逻辑推理,口语只能让你顺着思考,但你写文章的时候,可以把很多观点都写出来,然后再思考整理,就很容易把逻辑捋顺,文字的使用使得人类开始更多进行抽象的逻辑推理,这就是媒介塑造认知的例子。

顺便提一下,这个传播学家麦克卢汉,就是此前提到的反对派中的传播学家尼尔·波兹曼的老师,其实,媒介或者工具也会反过来塑造着我们的认知,麦克卢汉和波兹曼这师徒俩对此是持一样看法的,但是,师徒俩的区别是,徒弟波兹曼对技术塑造认知这事儿持悲观态度,所以他一直反对电视,后来又反对互联网,如果他活到今天,肯定也会反对AI。

但是,这师父麦克卢汉则认为技术的发展不是一件坏事儿,因为人类的认知本来就一直被媒介、被技术的塑造着。文字的发明会塑造我们的认知,电话的发明会塑造我们的认知,互联网的出现会塑造我们的认知,同理,AI的使用自然也就会塑造我们的认知。

2.克拉克:具身认知与延展心智

⑴具身认知

要知道,人类的思维、认知,根本就没有一种特定的固有本质的。但是,过往的哲学家和科学家一度都以为,人类的思维就是人脑这个特定的器官在思维,好像所有人的想法、思考,都只是出于人脑这个特定的器官,有哲学家就做过缸中之脑(Brain in a Vat)这个思想实验,我们这个节目也反复提过,就是把你的大脑取出来泡在一个盛满营养液的缸里面,然后通过电极和一台超级计算机相连接,然后这个超级计算机就会给你的大脑模拟出非常逼真的体验,让你以为你真的就活在真实的世界中一样。缸中之脑这个思想实验的前提就是,人类的所有思考和感受仅仅是出于人的大脑。

Image

但是,人所有的思考和感受,真的就只是出于大脑这唯一的器官吗?并不是这样的,当代哲学家和认知科学家安迪·克拉克把传统的这种认为人类的思考只是大脑在思考的这种观点叫做大脑中心主义(Brainbound)。克拉克反对这种大脑中心主义,克拉克认为,人类的认知并不仅仅是大脑的任务,而是整个身体与外部环境共同作用的结果。由此,克拉克主张一种具身认知理论(Embodied Cognition)。这就是说,我们的感官、动作和与世界的互动都在塑造我们的思维。

我们举一些生活中的例子你就知道什么是具身认知了:比如,你一边手舞足蹈,一边描述自己的想法,你会不自觉地就感到自己这时候的想法会更积极更正能量一些。再比如,如果今天是晴天,你发现自己的想法文思如泉涌,如果今天是个阴天,你发现你大脑里面一片空白。这就是说,我们的思考并不仅仅是出于我们的大脑,而是包括了我们的身体动作,以及周遭环境等等因素,这些共同塑造了我们的思维。

克拉克认为,没有一种单一的东西,叫做纯然的人类心智,或者纯然的人类思维,我们进行思考的时候,并不是像提出「我思故我在」的笛卡尔那样,就搁那儿两眼一抹黑地思考。我们思考,总是通过什么东西来思考。比如,我们通过语言来思考,得说出来才能思考;我们通过纸笔来思考,得写写画画才能思考;我们通过计算器来思考,得算一算才能思考;同样,我们也通过AI来思考,我们会和AI交流、和AI探讨,通过AI延展我们的思考。

⑵延展心智

据此,安迪·克拉克与我们这个节目经常出现的当代哲学家和认知科学家大卫·查尔默斯,共同提出了延展心智(Extended Mind)理论。延展心智理论就是具身认知理论的一种自然的发展,从具身认知到延展心智,也就是说,既然人的认知是具身的,那这个具身就不单单局限于我们的身体和环境,而可以延展到我的手机。

我的思考,我的心智系统并不仅仅局限于我的大脑,它是具身的,是延展开来的,它可以延展到我的身体,延展到我的环境,也可以延展到我所使用的工具。手机就是我们心智的延展,就是我们心智系统的一部分。在这个意义上,我的手机并不只是我的工具,人剑合一,它就是我的一部分,it’s not just my tool, it’s part of me.

既然我的手机就是我的心智系统的一部分,那么自然地,我手机里面的AI应用就是我的一部分,我无论在工作中查资料还是写稿,我碰上什么问题,就和AI讨论讨论,说道说道,帮助我把思路捋清楚,就像我们通过纸笔来进行逻辑推导,通过计算器来让心中有个数,我们也通过AI来把思维捋清楚。

确实,随着我们和AI的交互变多,我们就会依赖AI,但是,我们人类的心智,能够通过不依赖任何工具而思考吗?克拉克认为,人的心智本身就是和技术工具共同演化的,人类的心智并没有什么固定不变的本质,如果非要问人类心智的本质是什么,克拉克认为,人类心智的本质就是可塑性。

⑶天生赛博格

在此基础上,克拉克提出,人类就是一种天生的赛博格,这个赛博格就是科幻小说里面说的那种人机结合体,克拉克有一本书的书名就叫做《天生赛博格》(Natural-Born Cyborgs)。

Image

什么是天生赛博格?就是我们总说「人是会使用工具的动物」,这意思就是说,当我们的祖先开始使用工具的那一天起,工具就是我们身体的一部分,我们就是天生的赛博格。

克拉克认为,AI技术和生物技术正以前所未有的速度发展。当我们步入可穿戴计算机、无线设备、智能环境、思维控制假肢以及快速信息检索的时代,用户与其工具之间的界限日渐模糊。克拉克这话的意思就是说,当有一天,我们可以把AI植入到我们的身体里的时候,AI的思考就是我们的思考的自然延展。

那有人可能就说,这也太科幻了吧!人是人,赛博格是赛博格,人怎么就是天生赛博格了?你要这么说的话,那我问你,你说我脸上戴的这幅眼镜,是不是我的一部分?我没了这幅眼镜我也看不清楚,这幅眼镜就是我的一部分,我就是天生赛博格。

总有人批评说,如果过度依赖像AI这种工具的人,等有一天,万一AI失灵了,人类不就没法活了。说这种话,就像说现在人类都用电来取暖了,万一哪天停电了,人该怎么活?可是为什么要停电?咱做好电力供应让它不停电好不好。人本来就是天生赛博格,这些AI、电力、眼镜,本来就是我们身体和大脑的延伸,你说没了电我们没法生活,就像说我没了眼镜我就没法生活了,可是,咱能不让咱的眼镜丢了好不好,丢了再配一副呗。

这就是开放派的观点,人类的心智并没有固定不变的本质,我们创造着工具,工具也反过来塑造着我们的认知,我们人类心智一直都是延展着的,我们人类本来就是天生赛博格。

会议总结

AI让人变聪明还是变笨?

支持派:1.提高工作效率和质量,2.直接向AI学习,3.教育平等

反对派:1.放弃主动思考,2.丧失学习能力,3.两极分化

开放派:1.人类心智演化,2.延展心智,3.天生赛博格

我们今天探讨的AI是让人变聪明,还是让人变笨的问题,其实也是让我们重新审视自己,在这个时代,AI变得越来越聪明,人也越来越频繁地使用AI,在这个机器越来越像人,人越来越像机器的时代,我们通过审视AI,也就是在审视自己。当有一天AI能像人类一样做出决策、解决问题,还有什么是我们人类独有的特质呢?我们的思维、感知和行为,是否需要重新定义呢?欢迎你也同哲学家们一起参与到这个大问题的讨论之中,他们的看法发表完了,现在轮到你来发言了,请在评论里,投出你的一篇,并发表你的看法!

对本期内容,如果想要进一步了解详情的话,可以参考:

●雷·库兹韦尔 著,《奇点更近》,芦义译,湛庐文化丨中国财政经济出版社,2024年。

●Chomsky, N. (2023). Noam Chomsky: The False Promise of CHATGPT. The New York Times.

●Lee, H. P. H., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers.

●尼尔·波兹曼 著,《娱乐至死》,章艳译,三辉图书丨中信出版社,2015年。

●尤瓦尔·赫拉利 著,《未来简史:从智人到智神》,林俊宏译,中信出版社,2016年。

●马歇尔·麦克卢汉 著,《理解媒介:论人的延伸》,何道宽译,译林出版社,2019年。

●安迪·克拉克 著,《放大心灵:具身、行为与认知延展》,李艳鸽/胡水周译,商务印书馆,2022年。

●Clark, A. (2004). Natural Born Cyborgs: Minds, Technologies, and the Future of Human Intelligence. Oxford University Press

投票

欢迎加夏先生微信讨论本期大问题↓

Image

点击↓阅读原文

收看本期研讨会的视频版