赛先生

袁亚湘:为什么计算是第三种科学方法

图片

Image

图源:Pixabay

图片

导读:

今年国际数学日的主题为“数学与希望”。数学是人类认知世界、破解难题的底层逻辑,更是照亮探索之路的希望之光,而计算数学正是数学最具实践性的核心分支,是让抽象数学智慧落地为现实力量的关键桥梁。从远古骨刻计数的文明萌芽,到超级计算机的算力突破,从经典算法的逻辑推演,到人工智能的模型训练,计算作为与实验、理论并列的第三种科学方法,让数学的力量渗透到航空航天、气象预报、生物医药、工程建设等各个领域,将数学的逻辑之美转化为解决实际问题的具体能力,成为“数学与希望”最生动的实践诠释。

    值此国际数学日,特别分享这篇题为《计算:第三种科学方法》的报告,与大家一同感受数学的力量,探寻计算为人类发展注入的无限希望与可能。

袁亚湘 | 报告

张婷婷 | 整理

在人工智能浪潮席卷全球、科技创新成为国家发展核心驱动力的当下,计算早已超越单纯的数字运算,成为人类探索自然、认知世界的核心力量。从远古的骨刻计数到如今的超级计算机,从古巴比伦泥板的演算到现代人工智能的算法支撑,计算一步步从科学研究的“隐形助手”,成为与实验、理论并列的第三种科学方法,重塑着科学研究的整体范式。

谈到科学方法,从事科学研究的人,无外乎从观察入手——无论是观察纷繁复杂的自然现象,还是审视已有的理论成果,最终都是为了摸清规律、解决问题。毛主席早就讲过一个最根本的道理,就是“从实践中来到实践中去”,这正是科学研究的核心遵循。所有科学研究的基本路径皆是如此:先从实践中获取认知素材,再基于素材提出问题、作出合理假定,最后通过严谨论证把假定变成可靠结论。而在这一过程中,计算始终贯穿其中,只是在不同时代以不同形式存在。今天,我们循着计算的发展脉络,来探寻第三种科学方法的前世今生与核心价值。

SAIXIANSHENG
科学研究的核心逻辑与三大方法

科学研究始终遵循观察→提问→假设→验证→结论的严谨逻辑,数百年间,实验与理论成为支撑科学发展的两大核心方法,而随着科学探索的深入,计算逐步发展为与之并列的第三种科学方法,三者形成相互支撑、相互赋能的闭环体系。

1.1 科学方法:实验

实验是科学研究的实践根基,通过可控观测、重复操作、客观验证探索事物本质,是连接理论与现实的关键纽带。如伽利略的自由落体实验,推翻传统经验认知,用可复现的过程奠定实验法的核心准则。核心价值:以客观事实检验假设,为科学理论建立提供实践依据。天然局限:受极端环境、高额成本、伦理约束等限制,部分科学探索无法通过实际实验实现。

Image

伽利略自由落体实验

1.2 科学方法:理论

理论是科学研究的逻辑内核,基于实验事实与严谨逻辑推理,对事物本质和发展规律进行系统性解释,是数学推演、公式建模的核心载体,能解释已知现象、预测未知结果。经典案例如细胞学说、相对论、量子力学等,以及牛顿《流数术》中的微积分雏形,为经典力学发展奠定核心支撑。核心价值:为科学研究指明方向,是人类对自然规律的高度凝练,让理论具备可推导、可验证、可应用的特性。固有短板:面对复杂非线性系统、高维数学模型时,纯人工的逻辑推演与手工计算难以精准求解,需借助计算工具与算法完成深度推演。

Image

1.3 科学方法:计算(第三种科学方法)

随着科学研究向更深层、更复杂领域推进,实验与理论的局限日益凸显:部分实验难以开展,部分复杂理论模型仅靠人工推演无法求解。计算的出现精准填补二者短板,成为连接实验与理论的核心桥梁,它以数值运算、算法模型为核心,兼具虚拟实验模拟与复杂问题高效求解的双重能力,既能低成本完成高难度场景模拟,又能借助算力突破人脑推演局限,让抽象理论转化为精准可验证的结论。核心能力:

①依托计算机实现复杂数学问题高效求解;

②通过数值模拟替代部分现实实验;

③为实验设计提供科学依据,为理论深度推演提供算力与算法支撑。

闭环体系:理论通过计算开展深度推演,提出新假设;实验通过计算处理数据,验证假设合理性;计算基于理论与实验结果优化模型,设计新实验方案,三者协同拓展科学研究边界。

计算能成为独立的科学方法,离不开我国数学家冯康先生的开创性贡献。早在国际学界尚未系统探讨计算的科学价值时,他就敏锐提出计算应与实验、理论并列。上世纪60年代,面对西方技术封锁,冯康先生带领团队从零攻关,自主创立基于变分原理的差分格式,这正是有限元方法的核心思想,相关理论框架较西方早两年提出。

计算在工程领域已有经典应用,波音777是航空工业依托数值模拟实现气动设计的标杆,其研发未开展实体风洞实验,完全通过高精度数值模拟完成气动性能分析,大幅降低了研发的能源消耗与经济成本;现代天气预报也通过计算求解大气运动方程,实现大气环流精准模拟,大幅提升预测精度与效率。

Image

飞机气动压力分布数值模拟图

Image

天气预报环流数值模拟图

1.4 AI 是第四种科学方法还是计算的延伸拓展?

随着人工智能的飞速发展,“AI是否为第四种科学方法”的争议日益凸显。图灵奖得主朱迪亚・珀尔提出,AI是“数据驱动的科学发现”,为第四种科学方法;而从计算科学视角看,AI本质是计算方法的延伸与拓展,未脱离计算的核心逻辑,只是融入了数据驱动思想。这场争议的核心,是科学方法的划分基于研究范式的本质差异,还是技术手段的创新。

朱迪亚・珀尔等学者认为,AI的“第四范式”与前三者的研究逻辑截然不同:实验是“从观察到归纳”,理论是“从假设到演绎”,计算是“从模型到模拟”,而AI是“从数据到发现”——无需预先构建模型或提出假设,直接通过大数据分析挖掘规律,如 AlphaFold 通过蛋白质序列数据预测其三维结构,便是典型案例。

但更多学者提出质疑,认为AI的本质是“数据 + 计算”,模型训练依赖计算方法支撑,结果验证仍需实验或理论检验,其核心逻辑仍是“量化+模拟+优化”,与计算范式高度契合,因此只是计算的延伸,而非独立的第四种科学方法。

实验、理论、计算构成人类探索未知的基础框架,而计算的“量化求解、服务实践”逻辑,并非现代计算机技术诞生后的产物,早在古代文明中,人类便已开启对计算智慧的探索。

SAIXIANSHENG
古代文明中的计算智慧

计算的起源与人类认识、改造世界的基本需求相伴而生,古代文明的计算探索虽为初等的数值运算与工具使用,却奠定了量化求解、服务实践的核心逻辑,成为人类应对实际问题的基本能力。

2.1 古巴比伦:泥板上的精准演算

公元前1800年—公元前1600年的古巴比伦泥板,是人类现存最早的计算遗存之一。古巴比伦人以六十进制为核心,对√2的近似推算,=1.41421296⋯,与√2真实值1.41421356⋯高度接近,展现古人精湛的六十进制数值计算能力。其计算成果主要应用于生产生活中的计量、分配、土地丈量等实际问题。

Image

公元前1800年—公元前1600年的古巴比伦泥板

2.2 古埃及:纸草书中的实用计算

约公元前1600年的古埃及纸草书(如莱因德数学纸草书),记载了诸多实用计算方法:不仅形成了圆柱形谷仓体积的简洁运算思路,还对圆周率进行了早期近似推算,结果与真实值高度契合。古埃及的计算与农业生产、粮食储存深度结合,实用性极强。

Image

约公元前1600年的古埃及纸草书(现藏于大英博物馆)

2.3 中国古代的计算:数术与工具的融合创新

中国古代计算智慧兼具思想深度与工具创新,是东方计算文明的核心代表。《道德经》中“善数,不用筹策” 折射出古人对数字规律的深刻理解,《九章算术》《周髀算经》《孙子算经》等经典著作,系统记载了各类实用计算方法。工具层面,从战国算筹、西汉游珠算板到东晋出现、明清普及的算盘,实现了从“简单计数”到“高效运算”的跨越,可支持加减乘除、开方等复杂运算。

中国古代形成了“实用导向、算法优先”的计算传统,这一传统让中国古代数学长期领先世界,也为现代计算科学提供了重要的思想启示。

SAIXIANSHENG
算力的进化革命:计算工具的迭代发展史

计算的发展与计算工具的迭代同频共振,算力的每一次提升,都让人类处理问题的复杂度实现质的飞跃,也为计算从“辅助工具”升级为“独立科学方法”奠定坚实硬件基础。从 3.5万年前的原始计数到如今的超级计算机,三万余年的工具革命,书写了人类算力不断突破的发展史。

3.1 远古计数:刻在骨头上的数字记忆

3.5万年前的斯威士兰Lebombo骨、3万年前的捷克Vestonice狼骨、2.2万年前的刚果Ishango兽骨,是人类最早的计数工具。古人通过骨头上的刻线实现抽象数量的具象记录,让人类摆脱“结绳记事”的模糊计数,开启了精准计数的先河,这是人类计算的萌芽。

3.2 古典计算工具:从天然器物到人工发明

人类最早以小石头完成简单计数与基础运算,而“calculus”一词也正源于此。随着文明发展,中国古代的算筹、算盘,古罗马的象牙算盘等人工计算工具出现,实现了从“天然器物” 到“人工发明”的跨越,可支持系统化数值运算,成为农业文明时代计算的核心载体,支撑着日常生产生活与简单科学探索。

3.3 近代机械计算:从手动操作到机械自动化

近代科学技术的发展推动了机械计算工具的诞生,实现了计算的“机械化、自动化”,为现代电子计算机积累了技术经验。达・芬奇的加法机开启机械计算探索,威廉・奥特雷德的计算尺成为近代科研与工程计算的重要工具,帕斯卡的加减机是世界上第一台实用机械计算机,莱布尼茨的四则运算机完善了机械运算体系,托马斯算术仪则实现了机械计算工具的商业化,支撑了工业革命的计算需求。

Image

达芬奇(1452—1519)/加法机

Image

威廉・奥特雷德(1575—1660)/计算尺

Image

帕斯卡(1623—1662)/加减机

Image

莱布尼茨(1646—1716)/四则运算机

Image

托马斯(1785—1870)/托马斯算术仪

机械时代的计算工具虽在性能上无法与现代计算机相比,却让人类摆脱了纯粹的手工计算,开始用机械装置拓展计算能力,为电子计算机的发明奠定了基础。

3.4 现代电子计算:从电子管到超级算力

电子计算机的诞生是计算工具发展的里程碑,实现了算力的爆发式增长,而超级计算机的出现,让人类算力达到全新高度,成为现代计算科学的核心硬件支撑。

3.4.1 世界电子计算机的诞生与中国起步

世界首台:1946年,世界上第一台电子计算机ENIAC在美国宾夕法尼亚大学诞生,标志着人类进入电子计算时代,主要用于美国军方的弹道计算。冯・诺依曼虽未参与其硬件设计,却深度介入项目,指出其“程序与计算分离、无存储器”的缺陷,提出存储程序、二进制运算等关键思想,奠定了现代计算机的理论基础。

Image

冯・诺依曼(1903—1957)

Image

电子数值积分计算机(ENIAC,1946)

中国起步:新中国成立后,我国迅速开启电子计算机研制工作。1958年,我国第一台通用数字电子计算机 103 机(“八一”型)研制成功,填补了我国计算技术的空白,其运算速度可达每秒1500次加法,广泛应用于短期天气预报、大地测量、空气动力学计算等领域。此后,我国计算机技术稳步提升,1959年104型机、1964年119型机相继问世,算力持续突破,为国家早期科研与工程建设提供了重要支撑。

Image

Image

103通用数字电子计算机(1958)

3.4.2 超级计算机:当代算力之巅

超级计算机具备强大的海量数据处理与复杂模型求解能力,突破了传统实验与理论的算力瓶颈,成为现代科学研究、重大工程计算与国家战略发展的核心支撑。

国际代表:美国橡树岭国家实验室的Frontier的设计理论峰值运算速度达每秒171.4亿亿次,支撑着全球前沿科学研究。

中国代表:无锡超算中心的神威・太湖之光设计理论峰值运算速度达每秒12.54亿亿次,在气象预报、航空航天、生物医药等关键领域发挥着重要作用。

超级计算工具的发展,源于人类不断增长的计算需求,而算力的进化永无终点,未来量子计算、光子计算等新技术,将为人类探索世界注入更强的算力动力。

Image

美国橡树岭国家实验室的 Frontier

Image

无锡超算中心的神威·太湖之光

SAIXIANSHENG
算法与工具并重的科学支撑

除了计算技术与计算工具,计算方法(算法)是计算科学的另一核心要素。高中毕业后、高考尚未恢复的那两年,我曾在农村担任会计,常常打算盘练习从1加到100,即便熟练操作,也只能逐项累加;而高斯小时候能迅速算出等差数列之和,正是因为掌握了求和公式与计算方法。这恰恰说明:同样的计算任务,逐次计算既慢又费力,而好的算法能大幅提升速度、降低计算难度。

Image

计算能力的本质是工具速度×方法效率,二者相辅相成、缺一不可。如果说计算工具是算力的“硬件基础”,那么算法就是算力的“软件核心”;没有高效的算法,再强大的计算工具也只是“空有其力”。从经典数值计算方法到现代智能算法,一系列算法的创新,让计算能够解决各类科学与工程问题,也让计算真正成为一门系统、独立的科学方法。

4.1 经典数值计算方法:求解数学问题的基础工具

经典数值计算方法为解决方程求根、线性方程组求解、常微分方程求解等基础数学问题提供了可行路径,是计算科学的根基,让数学从“理论推演”走向“实际应用”。

牛顿法是方程求根的经典高效方法,核心思想是用切线代替曲线,用线性方程的解逼近非线性方程的解,具有二次收敛特性,每迭代一次,有效精度几乎翻倍。以求解√2为例,牛顿法的演算思路与近四千年前古巴比伦人的开方算法高度一致,足见其思想的朴素与经典。

Image

高斯消去法是求解线性方程组的基础方法,核心思想是消元简化,将系数矩阵三角分解,把复杂方程组转化为易求解的上三角形式。

Image

九章算术消去法,事实上,消元思想早在中国古代的《九章算术》中便有记载,魏晋数学家刘徽为其作注并系统阐述,其原理与现代高斯消去法完全相同,比西方早了近千年。我曾与德国数学会前会长马丁・格罗秋共同撰文,向国际学界说明这一历史事实,让中国古代数学家的贡献被世界看见。

欧拉方法是求解常微分方程的基础数值方法,核心思想是“用差商代替导数,用折线逼近曲线”,与牛顿“以直代曲”的思路一脉相承。尽管欧拉方法只有一阶精度,却清晰体现了计算科学“近似与逼近”的核心思想——合理的近似,就是解决真实世界问题最有效的路径。

Image

由于绝大多数微分方程无解析解,只能依靠数值方法近似求解,欧拉方法凭借简单直观、易于实现的特点,成为数值计算的入门基石。它虽仅有一阶精度,鲜少直接用于高精度工程求解,常被改进欧拉法、龙格—库塔法等替代,但其核心思想贯穿各类常微分方程实用数值解法,清晰体现了科学计算“近似与逼近”的核心思想,从卫星轨道、运动模拟到动力学分析,大量实际问题都建立在这一思想之上。

4.2 经典优化算法:从函数寻优到复杂决策

优化是科学研究与工程实践的核心需求,经典优化算法成为解决各类优化问题的核心工具,广泛应用于资源配置、决策分析、工程设计等领域。

最速下降法由柯西提出,被形象称为“瞎子爬山法”,沿梯度负方向迭代寻找函数极小值,原理简单、易于实现,是整个优化领域的起点算法。

共轭梯度法是求解大规模线性优化问题的经典算法,我将其概括为“既利用坡度,又不忘初心”。它弥补了最速下降法的局限,通过结合当前梯度方向与上一次迭代方向构造共轭方向,将n维复杂优化问题转化为n个一维问题求解,大幅提升了求解效率。

Image

从左往右:Hestenes (1906-1991)  Stiefel (1909-1978)  Lanczos (1893-1974)

20世纪60年代,Hestenes、Stiefel和Lanczos等科学家为其奠基,此后教科书里的这三位科学家的三种经典方法几十年间都未有变动,直到我和我的学生戴彧虹循着核心要素的规律,提出了全新的戴—袁方法。科研有时看似是“天上掉馅饼”的巧思,但馅饼永远不会砸到没准备的人。

就像共轭梯度法不会否定过往的迭代方向,做人做事也一样。我常跟年轻人说,别否定昨天的自己,昨天的你已然拼尽全力;如果今天晚上睡一觉,明天一早起来又把今天的自己否定了,那便很难走得稳、走得远。机会对所有人都是平等的,唯有做好积淀、时刻准备,才能在机遇来临时牢牢抓住,这也是做科研和做人共通的道理。

高斯—牛顿法被戏称是“最值钱的算法”,只因高斯、牛顿都登上了本国货币,这也可以看出西方国家对科学家的尊重。

Image

它是求解非线性最小二乘问题的经典方法,核心仍是“以线性代非线性”,将非线性函数泰勒展开并忽略高阶小项,转化为线性最小二乘问题,仅需计算雅可比矩阵,接近最优解时能实现二阶收敛。但它也有明显局限:雅可比矩阵秩不足时搜索方向易不稳定,迭代点远离最优解时,可能因步长过大导致算法发散。

Image

从左往右:Levenberg(1919-1973)    Marquardt (1929-1997)

为了克服这一缺陷,Levenberg与 Marquardt先后对其进行改进:1944年,Levenberg 加入阻尼因子λ解决稳定性问题,这位为美国军方工作的数学家无公开照片,却是隐姓埋名的学术英雄;1963年,Marquardt完成关键改进,最终形成经典的Levenberg-Marquardt方法。阻尼项λ可自适应调整,λ较小时贴近高斯—牛顿法,保留二阶收敛速度;λ较大时靠近最速下降法,强化搜索方向稳定性,完美弥补了原方法的短板,也让 L-M方法成为工程领域求解非线性最小二乘问题的实用算法,我们也可以理解为:L-M步是“事后诸葛亮”。

用L-M方法找教室里最聪明的人,就是最直观的比喻:假设小明是最聪明的,以自己为圆心、以到小明的距离为半径画圆,圆里所有人都没有小明聪明。没算L-M步之前无从知晓,算完便清楚:所有比这个半径更短的步长,都没有当前这一步好。所以我说很多科学方法有很好的实际解释,数学上能严格证明,L-M步为半径的圆内函数值一定最小。而高斯—牛顿法的问题,就是步子容易迈得太大、跑得太远,一跑就偏、一偏就不准了——本来解的是非线性问题,只用线性近似,算得再漂亮也没用,一旦脱离原本的问题场景,就像要解决中国的实际问题,模型却跑到美国去找到特朗普,纯属瞎找、毫无意义,半点忙都帮不上!L-M方法就是把步长“管住”,既保证最优,又不跑飞,既稳又准。

单纯形法由丹齐格在1947年提出,是求解线性规划问题的核心算法,核心思想是“顶点到顶点、迭代寻优”,成为资源分配、生产调度等领域的实用工具。令人遗憾的是,丹齐格为线性规划发展立下了不可磨灭的功劳,却始终未能获得诺贝尔奖经济学奖,学界众多人士都为他打抱不平。

krylov子空间方法由克雷洛夫提出,核心是“降维求解”高维线性方程组,从右端向量出发,在低维空间找近似解,误差不满足要求时再拓展子空间,直至达标,利用高维问题的低维结构特性大幅简化计算,是数值计算的实用核心方法。

Image

拟牛顿法是牛顿法的实用改进版,也是我的研究方向。牛顿法收敛快,但需要计算复杂的海森矩阵,面对机器学习大模型的亿级变量,计算量大到难以实现。拟牛顿法的核心巧思,就是“依葫芦画瓢”——用割线方程和低秩修正近似替代海森矩阵,避免了二阶导数计算,却能保留牛顿法的优良性质。就像跟听海豚音似的,没必要非追着张靓颖本人跑,她的演绎固然顶级和完美,但也不是很容易请到,出场费估计也不便宜。日常听来,找个能精准唱出海豚音核心韵味的,效果一点不差,还更接地气。该方法由Davidon提出核心思想,后经Fletcher与我的剑桥导师Powell完善,形成经典的DFP算法,如今广泛适配大模型、工程优化等实际场景。

Image

从左往右:Davidon, Fletcher and Powell

4.3 工程与数据计算方法:从工程应用到数据处理

随着科学技术的发展,计算方法不断向工程与数据领域延伸,成为解决实际工程问题、处理海量数据的核心利器,我国科学家也为部分算法的发展作出了重要贡献。

有限元方法是求解复杂工程与数理问题的核心算法,核心思想是“区域剖分、分片多项式”,将复杂连续区域拆解为简单小单元分别计算,再整合结果。这一方法最早可追溯至纽约柯朗数学研究所,理查德・柯朗、雷・克拉夫、约翰・阿吉里斯等科学家为其建立与发展奠定了重要基础。20世纪50年代末至60年代初,冯康先生在与西方隔绝的环境下,独立完成了有限元方法的系统性发明,1965年发表的《基于变分原理的差分格式》论文是有限元方法的中国原创版本,与西方成果异曲同工。

Image

从左往右:理查德・柯朗(1888-1972)   雷・克拉夫(1920-2016) 约翰・阿吉里斯(1913-2004)   冯康(1920-1993)

2020年,国际知名数学家道格拉斯・阿诺德到访北京时,特意请我复印了这篇论文,这一幕堪比远赴剑桥复印牛顿的拉丁文手稿,足见国际学界对冯康先生的高度认可。如今,有限元方法已成为航空航天、机械制造、气象预报、资源勘探等领域的底层核心工具,是现代工程从理论设计走向实际落地的关键基石。

增广拉格朗日方法是求解约束优化问题的经典方法,核心是把带约束问题转化为无约束问题求解,关键在于拉格朗日乘子的自适应修正。先给一个乘子尝试求解,就算错了也没关系,利用错误结果反过来修正乘子,反复迭代直至最优。这就像小学生做题,做错了不是坏事,利用错误总结经验,才能持续进步,这也是藏在计算方法里的生活哲学。

Image

快速傅里叶变换由库利和图基提出,依托周期性将运算复杂度从O(N2)降至O(Nlog2N),N=10000时效率可提升近千倍,成为音频降噪、图像优化、雷达信号解析等领域的核心方法,深度融入日常生产生活。

Image

库利 (1926-2016)

Image

图基 (1915-2000)

Dijkstra最短路径算法以“步步为营”的贪心思想为核心,是导航、网络规划、物流调度的核心工具。有趣的是,这一想法是迪杰斯特拉和妻子早餐喝咖啡时,用指尖点着咖啡在桌上画出来的,也正因如此,我们数学院打造了舒适的咖啡馆,希望大家在轻松的交流中碰撞出思想的火花。

Image

快速多极算法由格林加德和罗赫林在1987年提出,将大规模多粒子相互作用的运算复杂度从O (N²)降至O (N) ,通过几何分级、多极聚合简化模型,成为天体物理、流体动力学等领域处理粒子系统问题的关键方法。

Image

从左往右:莱斯利・格林加德、弗拉基米尔・罗赫林

4.4 现代前沿算法:从海量数据到智能时代

进入大数据与人工智能时代,计算方法迎来全新创新,适配海量数据处理、智能分析的时代需求,成为推动人工智能、数据科学发展的核心支撑。

小波变换是多尺度信号与图像分析的经典算法,具备高效的压缩与降噪能力,是JPEG2000的核心技术,日常存图、语音降噪都离不开它。英格丽・多贝西为小波变换的发展作出了巨大贡献,她曾任国际数学联盟主席,狠狠打破了“女孩不适合做数学”的偏见——数学从无性别之分,热爱与钻研才是通往卓越的唯一钥匙。

Image

PageRank算法由谷歌创始人拉里・佩奇与谢尔盖・布林提出,基于线性代数与图论实现网页权重排名,是搜索引擎的核心算法。与乔恩・克莱因伯格(Jon Kleinberg)的HITS算法研究一同,奠定了网页链接分析排序算法的基础。一个网页被其他网站指向的次数越多,权重越高,搜索排名越靠前,这一算法让人类能在海量网页中快速找到精准内容,是数学赋能互联网技术的典型范例。

Image

从左往右:拉里・佩奇与谢尔盖・布林

Image

乔恩・克莱因伯格

压缩感知/ ISTA算法突破了奈奎斯特采样定理的限制,能高效采集与压缩海量数据。澳籍华裔数学家陶哲轩为其奠定了核心理论基础,证明了特定条件下,0范数最小化的难问题可转化为1范数最小化的易问题。也可以理解结论为“难问题在一定意义下等价于易问题”。这一结论藏着深刻的辩证智慧:就像邓小平同志立足中国实际,提出走中国特色社会主义道路,将实现共产主义这一远大理想,转化为一步步切实可行的发展步骤,让宏大目标有了清晰的实现路径。这和压缩感知的数学智慧一脉相承,也正因如此,我们更要记住这个道理:遇到再难的问题,都不必焦虑消沉,只要立足实际、找对方法、一步一个脚印,再难的事也能拆解成一个个可解决的小问题,慢慢找到突破方向。

这一算法的核心理论突破,离不开澳籍华裔数学家陶哲轩与其合作者的联合研究,民间一直有个有趣的说法,称陶哲轩是目前世上活着的人里智商最高的(也不知道是谁评的),毕竟爱因斯坦早已离世,这个说法也让这位数学天才多了几分传奇。不管到底他是不是目前世上活着的人里智商最高的,但他的数学天赋毋庸置疑,也让他在压缩感知领域作出了里程碑式贡献。

Image

ISTA算法是解决压缩感知问题的经典方法,核心通过梯度下降结合压缩算子迭代,高效求解转化后的1范数优化问题。压缩感知与该算法现已广泛应用于通信、医学影像、信号处理等领域,是大数据时代提升数据处理效率的关键技术,也是“把难事做易、把大事做细”的生动实践。

随机梯度法是机器学习与深度学习的核心优化算法,用随机梯度代替全梯度,大幅降低计算量,让大规模AI 模型的训练成为现实,是推动机器学习发展的重要算法。

ADAM算法是2014 年提出的随机梯度法改进版,融合了动量项与自适应学习率的优势,让AI模型训练既“跑得快”又“走得稳”,成为当前计算机视觉、自然语言处理等领域的主流训练算法。

SAIXIANSHENG
结语与展望

从3.5万年前骨头上的刻线计数,到如今每秒亿亿次运算的超级计算机;从古巴比伦泥板的初等演算,到现代人工智能的复杂算法;从简单的数值运算工具,到与实验、理论并列的第三种科学方法,计算的发展贯穿了人类文明的进程,实现了一次又一次的质的飞跃。

计算作为第三种科学方法,核心价值在于突破现实局限、融合实验理论、赋能科学探索。在实验受限于客观条件、理论难以求解复杂模型的场景下,计算发挥着不可替代的作用,与实验、理论形成协同闭环,不断拓展人类科学研究的边界。

今天,计算的价值早已深入科学研究的核心,而算力的提升,离不开硬件与算法的协同。我们往往重视超级计算机、算力芯片等硬件的升级,却忽略了算法创新的核心价值:硬件性能的提升多是数倍增幅,而一套优秀的算法,能将运算复杂度从N级优化至log N级,处理规模达数百万、数千万时,效率提升能实现成百上千万倍的突破。数十年来,线性方程组求解、偏微分方程求解等领域的实例,都印证着优质计算方法的强大力量,近几十年来,算法的迭代速度与硬件发展不相上下,二者相辅相成,推动计算能力持续跃升。

站在当下展望未来,计算的价值还将持续释放。人工智能、机器学习的蓬勃兴起,对计算的依赖达到了前所未有的高度,优质算法成为AI模型训练与落地的核心支撑;计算与各学科的交叉融合,为基础科学、生命科学、工程技术等领域打开了新的思路;量子计算等前沿领域的探索,更将为计算世界解锁全新的可能性。

计算领域正站在机遇与挑战并存的新起点,未来,优秀的计算方法必将受到越来越多的重视,而深耕计算领域的研究者们,也将在探索方法创新、推动技术融合的过程中,持续为科学进步、产业发展注入源源不断的动力,让计算——这一第三种科学方法,在更多领域彰显硬核价值、释放磅礴力量。图片

本文依据袁亚湘院士科普讲座《计算:第三种科学方法》整理,谨致谢忱!《计算:第三种科学方法》(湖南教育出版社)新书即将出版,敬请关注。

作者简介:

袁亚湘,中国科学院院士,中国科学院数学与系统科学研究院研究员。

星标《赛先生》公众号,
不要错过我们每日为您精心准备的高质量文章!
Image
Image

欢迎关注我们,投稿、授权等请联系

[email protected]

合作请添加微信SxsLive2022