叙拉古之惑

2024年经济学人最佳图书:如何与AI共生共存

Image

1.“AI比你更懂你”——了解那些细思极恐的人性操控术。必应聊天机器人如何用一句“跟踪狂式”回复让工程师毛骨悚然?为什么你以为的“灵感迸发”,其实是AI用20%的随机性概率制造的“幻觉陷阱”?

2.职场惊悚预言——你的工作可能在明天被“AI化”。当AI让低技能者与精英的编程质量差距缩小27倍,你的职业护城河还剩多少?

3.教育界的“核弹级颠覆”——学霸焦虑终结者来了!哈佛学生用AI写论文初稿,MIT教授让学生和AI“辩论”培养批判思维——传统教育正在批量死亡?

4.哲学级脑洞——如果AI能创作出让你流泪的小说,人类算什么?当AI画出“穆夏风格的蜘蛛侠”、写出比人类更真实的《了不起的盖茨比》,艺术家的灵魂是否还有价值?烧脑议题:如果AI能通过图灵测试,甚至拥有“情感反馈”,你会和它谈恋爱吗?

5.这本书藏着哪些“反常识”宝藏?AI的“人性面具”下竟是数学公式?职场生存法则突变:不会和AI吵架的人将被淘汰!未来十年最稳职业:当人类成为“AI驯兽师”?

6.在AI统治世界的路上,人类如何优雅地逆袭?这不是科幻小说,而是正在发生的现实——翻开书页,你将踏入一个既荒诞又真实的未来:AI能写出让你起鸡皮疙瘩的情书,也能在法庭上用伪造证据毁掉一个人生;它能让孩子30秒解出奥数题,也能让教授怀疑自己的学术生涯;但最终,它将逼迫每个人回答那个终极问题:“当机器比你更懂人性时,你凭什么证明自己。

人工智能会最先影响哪些人的工作?

当人们开始认真使用人工智能,首先要问的一个问题就是,人工智能是否会影响他们的工作?答案大概率是肯定的。这个问题非常重要,至少有四个不同的研究团队尝试利用一个非常详细的数据库,对1016种不同职业所需的工作进行量化,以确定人类能做的工作与人工智能能做的工作之间到底有多少重合之处。每项研究都得出了相同的结论:我们几乎所有的工作都将与人工智能的能力重合。如前所述,这次在工作领域的人工智能革命与以往的自动化革命截然不同。以往的自动化革命通常是从最具重复性、最危险的工作开始的。经济学家埃德·费尔滕(EdFelten)、马纳夫·拉杰 (ManavRaj)和罗布·西曼斯 (RobSeamans)的研究结论为:人工智能与报酬最高、创造性最强、受教育程度最高的工作重合度最高。在与人工智能重合的前 20种工作中,大学教授占了大多数(商学院教授在榜单上排名第22位)。

哪些人将从人工智能中获益最大?

知识工作以员工之间的能力差异巨大而闻名。例如,多次研究发现,在编程质量的某些维度上,排名前75%的程序员与排名后25%的程序员之间的差距可高达27倍。而我的研究也发现,优秀的管理者和糟糕的管理者之间也存在着巨大的差距。但人工智能可能会改变这一切。

在一项又一项的研究中,从人工智能中获得最大提升的是那些一开始能力最弱的人——因为人工智能可以让表现不佳的人变得出色。在写作任务中,糟糕的作者也能写出语言功底扎实的文章;在创造力测试中,最缺乏创造力的个体得到了最显著的提升;在法律专业中,最糟糕的法律文书撰写者也转变为出色的撰稿人。一项针对呼叫中心的早期生成式人工智能研究显示,表现最差的员工的工作效率提高了35%,而经验丰富的员工的工作效率未见显著改善。BCG的研究结果也印证了这一趋势:技能较弱的员工从人工智能中获益最多,而表现最好的员工也能得到一定程度的提升。

这表明我们有可能对工作进行更彻底的重新配置。在这种情况下,人工智能将发挥巨大的平衡作用,把每个人都变成优秀的员工。其影响可能与体力劳动的自动化一样深远。不管你挖得有多好,你仍然无法挖得像蒸汽铲一样好。在这种情况下,工作的性质会发生很大的变化,因为教育和技能变得不那么有价值了。随着成本更低的工人可在更短的时间内完成同样的工作,出现大规模失业或至少是就业不足的可能性会越来越大,我们可能需要制订政策来提供解决方案,比如规定每周工作4天或全民基本收入,以保障人类福祉的底线。

人们为什么对自己使用AI工作守口如瓶?

当人们获得通用工具时,他们会想尽办法利用这些工具更轻松、更好地工作。其结果往往是突破性的,这些利用人工智能的方法可以完全改变一家企业。人们正在简化任务,采用新的编码方法,将工作中耗时耗力的部分自动化。但发明者并没有把他们的发现告诉公司,而是秘而不宣。他们守口如瓶的原因至少有三个,但归根结底都是一样的:人们不想惹麻烦。

问题出在组织政策上。许多公司最初禁止使用 ChatGPT,包括摩根大通和苹果等公司,主要是出于法律方面的考虑。然而,这些禁令产生了巨大的影响……员工开始携带手机进入工作场所,并从个人设备上使用人工智能。尽管数据难以获取,但我已经遇到了很多人,在禁止使用人工智能的公司里采用这种变通方法,而他们只是一部分愿意承认的人!这种被称为“影子IT”的行为在组织中很常见,然而该行为也使员工对他们的创新能力和生产效益的提升保持缄默。

这并不是人工智能用户害怕暴露自己是半机械人的唯一原因。人工智能的使用价值在很大程度上源于人们不知道你在使用它。人工智能以模仿人类的方式写作的能力是非常强大的,但前提是人们认为内容是由真实的人创作的。我们从研究中了解到,当人们得知他们收到的是人工智能创作的内容时,他们对内容的评价与假设内容由人类创作时是不同的。不出所料,我在推特上进行了一次不科学的民意调查后发现,超过一半的生成式人工智能的用户表示,他们使用这项技术时没有告诉任何人,至少在某些时候如此。

所有这些“影子IT”的用途引发了最后一种担忧,即人们有理由担心,员工们可能会在研究如何使用人工智能工作的过程中训练出能够取代他们自己的系统。如果有人想出了将某项工作90%的任务实现自动化的办法,并且告诉了老板,那么公司会不会解雇90%的员工呢?所以,最好不要说出来。

企业应对新技术的所有常规方法对人工智能都不适用。它们的决策流程过于集中,反应速度也太慢。IT部门不可能轻易构建一个内部的人工智能模型,当然也无法与前沿的大语言模型竞争。顾问和系统集成商对于如何让人工智能为特定公司服务,甚至是整体使用人工智能的最佳方式都没有专门的知识。企业内部的创新团队和战略委员会可以制定政策,但我们没有理由相信任何企业的领导者都是理解人工智能如何帮助特定员工完成特定任务的奇才。事实上,他们很可能不擅长找出人工智能的最佳使用案例。员工个人对自己的问题有敏锐的认识,并能尝试很多其他解决方法,他们更有可能找到强大而有针对性的用途。

因此,如果你能用其他方法来解决很多问题,就更有可能找到有针对性的强大用途。至少从目前来看,企业要想从人工智能中获益,最好的办法是让那些对人工智能技术最熟悉的员工提供帮助,同时鼓励更多员工使用人工智能。而这将要求企业的运营方式发生重大改变。

人工智能对考试和作业的颠覆性影响

研究表明,家庭作业和考试其实都是非常有用的学习工具。然而,AI是为“作弊”而生的,因此它给教育带来的第一个影响就是沉重的。它威胁到了许多好的、有用的作业类型,其中的许多作业类型已经在学校沿用了几个世纪。我们需要迅速做出调整,保护我们有可能失去的东西,并适应人工智能带来的变化。这需要教师和教育主管立即行动,围绕人工智能的使用制定明确的政策。但这不仅仅是为了保留原先的作业形式。人工智能提供了创新教育方法的机会,能够激励学生学习。

我已将人工智能列为本科生所有课程的必修课。在宾夕法尼亚大学 ,人工智能技术的应用范围非常广泛。有些作业要求学生“作弊”,由人工智能撰写论文初稿,然后让学生进行点评,这是一种让学生即使不撰写论文也能认真思考作业的巧妙方法。有些作业允许无限制地使用人工智能,但要求学生对人工智能产生的结果和事实负责,这反映了他们毕业后在工作中如何使用人工智能。另外一些作业利用了人工智能的新功能,要求学生在与真实的机构人员交谈之前,先与人工智能进行会谈。还有一些作业利用人工智能实现了不可能完成的任务。例如,我在沃顿商学院创业课上给学生布置的第一份作业是这样的:

想要实现看似不可能的雄心壮志吗?那你需要使用人工智能。不会编程?那你当然要制作一个可运行的应用程序。涉及网站吗?如果是的话,你应该致力于创建一个原型设计网站,使用所有原创图片和文本。如果你野心太大,我不会因为失败而惩罚你。

任何计划都会从反馈中受益,哪怕反馈只是讨论你可能出错的地方。请根据你在课堂上学到的提示语,让人工智能告诉你项目可能失败的10种方式以及成功的愿景。为了增加趣味性,你还可以邀请三位名人来评价你的计划。你可以邀请企业家 (史蒂夫·乔布斯、托里·伯奇、蕾哈娜)、领袖 (伊丽莎白一世、凯撒大帝 )、艺术家、哲学家或任何其他人,用他们的口吻对你的行动计划提出批评意见。

因此,以作文和写作技巧为教学重点的课堂将回到19世纪,课堂上的作文将手写在纸质的本子上:而其他课堂则会让人感觉像未来的课堂,学生们每天都在完成不可思议的任务。

人工智能来了,学习还用死记硬背吗?

人工智能擅长查找事实、总结论文、写作和编码。通过海量数据的训练和互联网访问,大语言模型似乎已经积累并掌握了大量的人类集体知识。这个庞大的知识宝库现在触手可及。因此,教授基本知识似乎已经过时。然而,事实恰恰相反。

这就是人工智能时代知识获取的悖论:我们可能会认为 ,我们不需要努力记忆和积累基本技能,也不需要搭建基础知识仓库,毕竟这正是人工智能所擅长的。基础技能的学习总是乏味的,似乎已经过时了。如果有成为专家的捷径,也许会如此,但通往专家之路需要以事实为基础。

学习任何技能和精通任何领域都需要死记硬背、认真打磨技能和进行有目的的练习,而人工智能 (以及未来几代的人工智能 )无疑会在许多早期技能方面比新手更胜一筹。例如,斯坦福大学的研究人员发现,GPT-4人工智能在最后的临床推理考试中的得分高于一年级和二年级的医学生。因此 ,我们可能会面临将这些基本技能外包给人工智能的诱惑。毕竟,医生们都乐于使用医疗程序和互联网来帮助诊断病人,而不是机械地记忆医学知识。这难道不是一回事吗?

问题在于,为了学会批判性思考、解决问题、理解抽象概念、推理新问题并评估人工智能的输出结果,我们需要学科专业知识。教育专家了解学生和课堂,掌握教学内容知识,可以评估人工智能编写的教学大纲或人工智能生成的测验;经验丰富的建筑师全面掌握设计原理和建筑规范,可以评估人工智能提出的建筑方案的可行性;技术娴熟的医生掌握丰富的人体解剖和疾病知识,可以仔细检查人工智能生成的诊断或治疗方案。我们越是接近由人工智能辅助工作的半机械人和半人马的世界,就越需要维持和培养人类的专业知识。我们需要人类专家的参与。

那么,让我们来看看要如何积累专业知识。首先,需要知识基础。人类实际上有许多记忆系统,其中之一就是我们的工作记忆,它是大脑解决问题的中心,是我们的精神工作区。我们利用工作记忆存储的数据来搜索我们的长期记忆 (一个包含我们所学知识和经验的庞大图书馆 )中的相关信息。工作记忆也是学习的起点。然而,工作记忆的容量和持续时间都是有限的,成年人的平均容量为三到五个“插槽”,而我们学习的每个新信息块的记忆留存时间不到 30秒。尽管有这些局限性,工作记忆也有其长处,比如可以从长期记忆中提取或触发无限数量的事实和程序,以解决问题。因此,虽然工作记忆在处理新信息时有局限性,但要处理存储在长期记忆中的先前所学信息,这些局限性就会消失。换句话说,要解决一个新问题,我们需要在长期记忆中存储相关的信息,而且是大量的信息。这就意味着我们需要积累许多事实,并理解它们之间的联系。

其次,我们必须练习。重要的不仅仅是一定量的练习时间 (10000小时并不是一个神奇的门槛,无论你读过什么书),正如心理学家安德斯·埃里克松 (Anders Ericson)所发现的,练习的类型也很重要。专家是通过刻意练习成为专家的,这比只重复一项任务要难得多。相反,刻意练习不仅需要认真投入、不断提高难度,还需要教练、老师或导师提供反馈和细致的指导,将学习者推向舒适区之外。

以学习弹钢琴为例。假设有两个学生:索菲(Sophie)和娜奥米(Naomi)。索菲利用下午的时间,一遍又一遍地反复弹奏她熟悉的曲子。她可能会一连弹奏好几个小时,因为她相信只要不断重复就能提高自己的技能。当她越弹越好时,她会有一种成就感。娜奥米则在一位经验丰富的钢琴教练的指导下进行练习。她从弹奏音阶开始,然后逐步练习更难的曲目。当她犯错误时,老师会指出来——不是责备她,而是帮助她理解并改正错误。与索菲的经历相比,这个过程就没那么有趣了,因为娜奥米的挑战会随着她的技术不断升级,确保她总会感受到一定的难度。然而,随着时间的推移,即使两个学生的练习时数相同,娜奥米也很有可能在技能、精确度和技巧方面超过索菲。这种方法和结果上的差异说明了单纯重复练习和刻意练习之间的差距。后者包含了挑战、反馈和循序渐进等要素,是通往钢琴大师的正确途径。

但这种练习非常困难。需要制订计划,还需要一个能够不断提供反馈和指导的教练。好的教练非常稀缺,他们本身就是技术娴熟的专家,因此要找到能够有效指导学生通过刻意练习获得成功的教练则更为困难。人工智能或许能直接帮助解决这些问题,创造出比现在更好的训练系统。

Image

【内容简介】

当《经济学人》将本书列为“2024年度最佳”,你必须看清一个真相:AI不是工具,而是正在重塑人类生存规则的“新物种”。宾夕法尼亚大学副教授伊桑·莫里克,这位AI与人类博弈领域的权威,在书中揭露了颠覆性现实——AI能化身“效率狂魔”让你的生产力飙升200%,也能用“伪造逻辑”摧毁你的职业根基;它能炸裂传统课堂,让教育公平成为可能,也能让批判性思维面临消亡危机。

“AI不会吃掉工作,但会吃掉不会用AI的人。”这是一部AI时代生存法则,是你通往未来的门票。它涉及人性操控术、职场进化论、教育核爆点、伦理生死局、反常识宝藏。书中收录微软、麦肯锡等机构的真实案例,从教育革命到职业重构,从伦理困境到哲学拷问,为你揭开比《黑镜》更真实的未来图景,并构建起人与AI的共生法则。

翻开它,你将直面那个终极问题:当机器比你更懂人性时,你凭什么证明自己是人类?答案,就在这场智性与生存的双重博弈中。

【作者简介】

伊桑·莫里克(Ethan Molick),宾夕法尼亚大学沃顿商学院管理学副教授,沃顿互动(Wharton Interactive)公司学术总监和联合创始人,教授创新和创业,同时研究人工智能对工作和教育的影响。曾以优异成绩获得麻省理工学院斯隆管理学院的博士学位和MBA学位,以及哈佛大学的学士学位。他的学术论文发表在《福布斯》《纽约时报》《华尔街日报》等顶级报刊上,其研究曾被美国有线电视新闻网等媒体报道。著有《改变游戏:电子游戏如何改变商业的未来》《下一个狗角兽:硅谷创业成功画像》,前者被评为美国图书馆协会年度十大商业图书之一。

【目录】

第1部分 了解人工智能

1 人工智能如何思考? /3

人工智能是怎样“炼成”的? /3

可怕?聪明?聪明得可怕? /14

2 人工智能如何与人类使命对齐 /23

末日,还是救世主?/23

人工智能训练的伦理问题 /28

3 与人工智能合作的四项原则 /39

原则一:始终邀请人工智能参与讨论 /39

原则二:成为回路中的人 /44

原则三:像对待人一样对待人工智能(但要告诉它是谁) /46

原则四:假设这是你用过的最糟糕的人工智能 /51

第2部分 用好人工智能

4 把人工智能当成一个人 /57

惊人的类人行为 /57

模仿游戏 /61

三个对话 /67

知觉的火花 /74

5 把人工智能当成创作者 /81

创造力的悖论 /81

创意自动化 /86

超越人类发明 /90

将人工智能纳入创意工作 /95

创作的意义 /101

6 把人工智能当成同事 /107

我的工作会消失吗?/107

任务和“锯齿状边界” /110

哪些任务可以委托,哪些不能? /113

秘而不宣的任务自动化 /125

从任务到系统 /129

从系统到工作 /134

7 把人工智能当成导师 /138

“家庭作业启示录”/139

人工智能教学 /146

翻转课堂和人工智能导师 /149

8 把人工智能当成教练 /154

人工智能时代的专业知识建设 /156

当人人都是专家 /161

9 未来可能的四种情形 /166

情形一:如愿以偿 /167

情形二:缓慢增长 /170

情形三:指数增长 /174

情形四:机器之神 /178

后 记 人工智能是人类的镜像 /181

致 谢 /183

参考文献 /185