微小扰动下的变与不变:矩阵求逆是连续运算吗?
对一个矩阵施加微小的扰动,它的逆矩阵会怎样变化?对于非奇异矩阵,求逆是连续的;而对于奇异矩阵,通常的逆不再存在,广义逆能否连续变化,要看扰动是否保持矩阵的秩。然而,若将目光从单个解转向整个最小二乘解集,我们又会在“变”中发现新的“不变”。
撰文 | 丁玖 (广州南方学院数学与统计学院教授)
从“鸡兔同笼”矩阵的微扰说起 假如你刚刚哄睡怀中的婴儿,准备将他放在床上,你会小心翼翼地放在床中央,还是随手放在床边以便更容易再抱起他? 床中央留有余地,稍稍翻动也还安全;到了床边,同样一点动静就可能让婴儿掉下去。矩阵面对微小扰动,也有类似的“安全地带”和“危险边界”。 9月4日,《返朴》刊登了两位物理学家撰写的有趣文章《 一个神话版的鸡兔同笼问题,竟蕴含着深刻的前沿物理 》。他们以鸡兔的总腿数和总头数经过二阶矩阵求逆“反演”出它们各自的个数作为引子,用先秦典籍《山海经》中的两个角色——九首蛇身相柳和手持干戚的无头刑天的神话故事做铺垫,向读者科普了非厄米物理中处理奇异矩阵的扰动法的基本思路。这自然引出一个普遍的数学问题:矩阵的求逆运算具有连续性吗?进一步问,如果矩阵的通常逆不存在,那么从矩阵到广义逆矩阵的对应关系是连续的运算吗? 就地取材,我们先看看前述《返朴》文章中与鸡兔相关的那个二阶矩阵 它的行列式等于非零数 ,因而 是非奇异(即可逆)矩阵,其逆矩阵为 如果将矩阵 小小地扰动一下,比如说考虑 的各元素都改变了同样的一个数 这种简单情形,得到新矩阵 这时 的行列式等于 只要数 满足 ,上式就不等于 ,因此扰动后的矩阵 继承了 的可求逆性。此时有 不难发现,当 越来越小并最终趋向于 时,不仅 趋向于原矩阵 ,而且 的逆矩阵也趋向于原矩阵 的逆矩阵。换句话说,在这个非奇异常数矩阵 之处,求逆运算是连续的。改用初等微积分中的序列语言来说,任给一个趋向于 的矩阵序列 ,只要下标自然数 足够大, 都是非奇异的,并且对应的逆矩阵 趋向于 。
从等比数列求和到巴拿赫引理 关于如上非奇异矩阵特例的结论对任何一个非奇异矩阵都成立吗?我们对此的回答依赖于一个关于单位矩阵被扰动后的矩阵可逆性的著名结果,它是矩阵乃至更一般无穷维连续线性算子的扰动理论的基石,以波兰伟大的数学家巴拿赫(Stefan Banach,1892-1945)的名字命名。而走近这个“巴拿赫引理”的最佳路径是高中生学过的等比数列的求和公式。 令 是一个首项为 、公比为复数 的等比数列。假设公比 的模严格小于 ,我们想看看这个无穷数列的前 项的和当 趋向于无穷大时是否趋向于一个有穷数,如果收敛,又趋向于哪个数?为了求解,我们先用 乘上数列的前 项的和,发现 这样得到有限项求和公式 因为 ,不仅上式右端的分母不等于 ,而且分子中的 的 次幂将趋向于 ,由此得出,当 趋向于无穷大时,等式左边的和将趋向于数 。于是就有了初等微积分中最有用的收敛无穷级数之一: 现在回到矩阵。要说两个矩阵靠得有多近,先得有一把量距离的尺子,这就是矩阵范数。设 为一 阶复方阵。本文选用由 上的向量 范数诱导出的矩阵 范数。矩阵 的 范数是半正定矩阵 的最大特征值的平方根,其中上标 表示“共轭转置”;它也是 的最大奇异值,即 的奇异值分解 中对角矩阵 内的最大主对角线元素,其中 和 为酉矩阵。从现在起我们就选这个范数而不再交代,但下面的巴拿赫引理和定理1也适用于由任意向量范数诱导出的矩阵范数。 假定 为一 阶方阵,它的范数 严格小于 。记 为同阶的单位矩阵。模仿上面关于等比数列求和的做法,用 取代 做类似的运算,相应地得到 由于这里的矩阵范数满足乘法不等式 ,有 。既然 ,当 趋向于无穷大时, 趋向于数 。因此矩阵幂序列 趋向于矩阵 。现在我们证明:矩阵 可求逆。只需证明 的零空间只有零向量即可。设 维列向量 满足 ,则 。若 不为零向量,两边同取范数,便得 ,矛盾。所以 。这证明 存在。 用 左乘等式(1)的两端,得到 再求当 趋向于无穷大时的极限,由此获得如下著名的巴拿赫引理: 引理(巴拿赫,1932). 如果方阵 满足 ,则矩阵 可求逆,且逆矩阵有幂级数表达式 因为 以及 ,如上引理也常以另一种形式出现:同样的假设推出 存在,且有 这在后面的矩阵或线性方程组的扰动分析中有用。 上述引理中表达逆矩阵的矩阵幂级数也称为诺依曼级数,但这个诺依曼并非指的是二十世纪大名鼎鼎的匈牙利裔美国数学家约翰·冯·诺依曼(John von Neumann,1903-1957),而是十九至二十世纪的德国数学家卡尔·诺依曼(Carl Neumann,1832-1925)。这个比前者老了几辈的诺依曼在研究位势理论和狄利克雷问题时,受到几何级数收敛性的启发,在1877年出版的著作中系统阐述了此种类型的无穷级数展开,用于对积分方程的逼近求解。抽象泛函分析理论的主要源头就是积分方程论,后来的泛函分析开创者们认识到诺依曼的具体级数展开法在更抽象的赋范空间层面上依然适用,于是将引理中的抽象级数以诺依曼的名字命名,给了他应有的荣誉。 巴拿赫是泛函分析这门纯数学分支的集大成者,1932年他在华沙出版了开创性的《线性算子的理论》,这部里程碑式的著作系统地为现代泛函分析奠定了基础。书中对无穷维有界算子给出了上述引理,这里仅对以矩阵面貌出现的有穷维线性算子陈述了它。
非奇异矩阵:求逆运算的连续性 巴拿赫引理怎样用来直接处理一般非奇异矩阵的扰动问题呢?只需用到读者在初等线性代数中学过的可逆矩阵乘积求逆的反序公式即可:若 和 为同阶可逆矩阵,则 也是可逆矩阵,并且 。下面我们马上就能证明关于非奇异矩阵的逆矩阵的扰动定理: 定理1. 设 为一非奇异矩阵,且同阶矩阵 满足不等式 。则矩阵 也是非奇异矩阵,并且有逆矩阵扰动上界估计 证明. 条件 推出 ,故由巴拿赫引理知,矩阵 可求逆。这样, 也是可逆矩阵,且有 因此 。两边取范数,并利用可由范数的三角不等式(对同阶矩阵 和 有 )证之的不等式 以及收敛几何级数的和式,得到 如果将 这个正数记为 ,那么定理1不外乎说的是如下事实:在给定非奇异矩阵 所属的复矩阵空间 内,通过矩阵范数定义的以 为中心、以 为半径的开球 具有特别优良的性质,即其中的每一个矩阵 也如同 一样是非奇异的。除了平凡的 情形, 的开球的复维数 至少为 ,我们在日常的三维空间中无法直观看到,但读者可以将一般维数的开球视为可见的二维平面上的开圆盘或三维空间中的开球体。而(2)式则给出了 的逆矩阵与 的逆矩阵之间由矩阵范数所定义的距离 的一个既令人信服又令人愉悦的上界,这个上界就是 由上式可见,所给可逆矩阵 周围的矩阵 越靠近 ,亦即 越小, 的逆矩阵也越靠近 的逆矩阵。用数学的符号写下来,便是: 这不就是读者大一初等微积分课堂上学到的连续性概念吗?固然那里只讲了单变量实值函数的连续性,但它的基本思想和定义形式对向量函数乃至定义在抽象赋范空间上的映射统统适用。在矩阵空间中,连续性定义可以写成:设 为 中的非空子集, 为一映射, 为一给定矩阵。如果对任意的正数 ,存在正数 ,使得对所有的矩阵 ,只要 ,不等式 就成立,那么就说 在 点是连续的;如果 在 的每一个点都是连续的,则称 在 上连续。 依照连续性的精确定义,结合定理1,我们便获得了矩阵理论中对一切非奇异矩阵都“放之四海而皆准”的结论:固定正整数 ,令 为 中所有的 阶非奇异矩阵组成的子集,在 上定义把方阵映成方阵的对应关系 ,记之为 。则映射 在 上连续。 在微积分中,尤其在多元微积分中,开子集的概念非常有用。试以平面上的点集为例,如果对于集合 中的任一点 ,存在正数 ,使得以 为中心、以 为半径的开圆盘 包含在 内,则称 是开集。同样地,如果对 中的子集 中的任何一个矩阵 ,存在正数 ,使得以 为中心、以 为半径的开球 包含在 之内,则 被称为开集。定理1表明,矩阵空间 中的所有非奇异矩阵组成的集合 是 的一个开子集。
奇异矩阵的微扰与广义逆 那么,复线性空间 中的所有奇异矩阵(它们同与之相对照的所有非奇异矩阵一样有无穷多个),与 的开子集 又有什么关系呢?我们还是选前述文章中的矩阵例子,即神话人物相柳的九个头被大禹斩去之后所对应的那个二阶奇异矩阵 给 一个小小的扰动,会发生什么?先沿用前述文章的做法,把矩阵左下角的 改成 ,得到 只要 ,新矩阵 就脱胎换骨成非奇异的。然而,如果选择对另一个矩阵元素的扰动,比如说 那么无论扰动有多大或有多小,新矩阵 却没有改变 的奇异性。这两种可以任意“小”的扰动,充分说明:对于上述的奇异矩阵 以及无论多小的一个正数,在 以 为中心、以该正数为半径的开球内,既有非奇异矩阵,也有奇异矩阵。这就好像人们普遍认同的一个社会现象:在足够大的人群里,既有好人,也有坏人。 再仔细检查上面产生非奇异矩阵的第一种扰动后的矩阵 。这时, 新的现象出现了:当 趋向于 时,虽然 趋向于 ,它的逆矩阵 的右上角元素却走向无穷远点。换句话说, 不存在。 如上对简单的 奇异矩阵的诸多观察事实对任意的奇异矩阵同样成立。假设 为一个奇异矩阵,其秩为 。根据经典的奇异值分解定理(我们已在另一篇文章《 一个矩阵,怎样把圆拉成椭圆? 》中对其作了详细讨论),存在酉矩阵 和 ,使得 ,其中 为一对角矩阵,其 个主对角元素中的前 个为正数 ,称为 的奇异值,后面的 个全为 。现在将 中的那些主对角元 全部加上非零数 ,得到的对角矩阵记为 。再定义 。则 是 的一个扰动,并且由于矩阵 均为非奇异的,它们的乘积 也是非奇异的矩阵。然而当 趋向于 时,虽然矩阵 趋向于 ,但 的逆矩阵 却不趋向于任何一个矩阵。这是因为对角矩阵 的主对角元分别是 ,所以当 时, 的后 个主对角元素均走向了无穷远点;倘若当 时 趋向于某个矩阵 ,那么 则趋向于矩阵 ,与 不收敛的事实矛盾。这证明了在以奇异矩阵 为中心、半径为任意正数的开球内,都存在非奇异矩阵,然而当扰动趋向于 时,这些非奇异矩阵的逆矩阵却收敛不到一个矩阵。 另一方面,对于非零数 ,我们也可以构造 的另一类对应的扰动矩阵,它依然保持着 的奇异性。例如,可以保持 的主对角元不变,但对主对角线上方的每个零元素加上同一个非零数 ,得到的上三角矩阵 依然奇异,故如此扰动后的矩阵 保持了 的奇异性,因而 不存在。 综上所述,对于 中的奇异矩阵 ,以它为中心、以任意正数为半径的开球内部,既存在非奇异矩阵,也存在奇异矩阵。这两类行列式非零或为零的矩阵在 的周围相互缠绕,挤成一团,难以分清,造成当扰动走向消失时,那些非奇异矩阵群体的逆矩阵最终迷失了收敛的方向。 奇异矩阵没有逆矩阵,但总有与 范数相关的穆尔-彭罗斯广义逆矩阵,故在 上定义了映射 。由上可知,该映射在非奇异矩阵集合 上是处处连续的,然而它在奇异矩阵处的表现如何? 在矩阵的广义逆理论中,有个漂亮简洁的逆矩阵公式:若 的奇异值分解是 ,则 ,其中若对角矩阵 的主对角元为 ,则对角矩阵 的主对角元为 。当 被微扰成上文定义过的 时,秩严格增加,其广义逆矩阵 。如前所述,当 趋向于 时, 不趋向于 ,故在奇异矩阵处,矩阵的广义逆运算不连续。 尽管如此,我们指出,如果扰动后的矩阵保持了原矩阵的秩,比如仅对 的前 个正对角元作微小扰动而保持其余元素不变,则当扰动趋向于零时,扰动后矩阵的广义逆趋向于扰动前矩阵的广义逆,即在此“保秩扰动”的额外条件下,广义逆运算是连续的。由于非奇异矩阵的秩在微扰后保持不变,所以结论可以统一叙述为: 矩阵广义逆的连续性定理. 上的映射 在保秩扰动的条件下是处处连续的。 限于文章的篇幅,我们不拟详细证明如上断言,但给出据此连续性便一目了然的下列经典不等式:如果 有相同秩,且 ,则
危险的“边界”:奇异矩阵之集 之前我们温习了开集的概念,现在需要的是另一个概念——子集的边界点。还是只对矩阵集合引进它。给定 中的一个集合 ,设 。如果 内以 为中心、以任意正数为半径的开球既包含 中的矩阵,也包含不属于 的矩阵,那么矩阵 被称为矩阵集合 的一个边界点。集合 的所有边界点组成的点集称为 的边界,用符号 表示。 前面关于 阶矩阵的扰动结果,用开集边界点的语言重新表述,就是: 定理2. 复矩阵空间 中的所有非奇异矩阵之集是 的开子集,它的边界是由 中的所有奇异矩阵组成的。 平面上许多标准点集的边界看上去一目了然,与我们的直观印象相符,比如单位开圆盘 的边界就是单位圆周 。然而当集合不是那么规则时,结论有时却与直觉相悖。比如说,对于平面上所有坐标均为有理数的点组成的集合,平面上的每一个点都是该集合的边界点。 有了点集边界的概念,我们不妨将开篇提到的“婴儿放床位置”与这里的非奇异矩阵做一番类比。床的边缘是一条长方形闭曲线,符合大众对“边界曲线”的直觉认识。至于 阶非奇异矩阵之集 在 中的“边界曲线” ,则是看上去不像有曲线形状的 阶奇异矩阵之集。然而它们共享同一个性质:床内的婴儿小小挣扎移动一下还安安稳稳地停留在床上,而床边的婴儿向里爬安全,向外爬则掉到地上而嚎啕大哭;在 的内部,非奇异矩阵的微小邻域内全都布满了“同一个战壕的战友”——非奇异矩阵;而在边界 上,每个小邻域内都同时包含非奇异矩阵与奇异矩阵——朝某些方向跨一小步便回到非奇异矩阵的良田,沿另一些方向跨一小步则仍陷在奇异矩阵的沼泽地里。所以位处边界是危险之举,无论是在生活中,还是在数学上。
微小扰动不会减小矩阵的秩 到目前为止,我们已经得知:(i)非奇异矩阵的小扰动保持矩阵的非奇异性,并且求逆运算是连续的。(ii)奇异矩阵的任意小扰动或保持奇异性,或转化为非奇异性,但当扰动逐渐消失时,非奇异矩阵的逆矩阵不再有极限。这些现象又引出一个问题:矩阵的秩会怎样随扰动变化? 定理3. 设 为一 阶复矩阵,它的秩为 。则对任何充分小的正数 ,在以 为中心、以 为半径的开球中的所有矩阵 ,它们的秩至少等于 。 上述定理3的结论,简而言之就是:任何方阵的微小扰动绝不会减小它的秩。其实,这一断言不仅对方块形的矩阵为真,而且对无论是瘦高型的还是矮胖型的长方形矩阵同样成立,只不过本文依照前述文章的做法只考虑方阵罢了。 这个一般结论怎么证明呢?因为有矩阵的奇异值分解定理,再次用对角矩阵来描绘一下为何结论正确是简单易懂的。设 为一 阶对角矩阵,前 个主对角元是非零数 ,后 个主对角元都是 。如果只允许将 的一部分或全部对角元稍稍扰动一个 ,而保持非对角元不变,那么,只要非零扰动参数 的模取得足够小,譬如让 小于正数 中的最小值,那么扰动后的对角矩阵的前 个主对角元依然保持非零,而无论后面那 个主对角元 是否全部或部分微扰,这个新对角矩阵的秩至少为 。或等价地说,小扰动后的矩阵秩不会减小。如果 的非主对角元也被足够小地扰动,读者可以运用想象力,就会明白结果矩阵的秩不会小于 。 对于一般的方阵,只要学过矩阵秩的概念,就会知道一个矩阵的秩等于它的最大非零子行列式的阶数;同时,因为 阶方阵的行列式是方阵元素的 -元 次齐次多项式,而众所周知多项式函数是其变元的连续函数,所以行列式是对应矩阵元素的连续函数。有了这样的背景知识,下面对定理3的严格证明就不难理解了。 定理3的证明. 因为给定方阵 的秩为 ,故存在 的一个 阶子矩阵(把它写成 ),它的行列式是一个非零数,设其值为 。根据学过微积分极限理论的读者所熟悉的“ ”语言,取正数 等于 ,则存在正数 ,使得当任何 阶复矩阵 满足不等式 时,若记 的与 的那个子矩阵 有完全相同行和列指标的 阶子矩阵为 ,则不等式 成立。由此推出 上式表明,和矩阵 的距离小于 的任何矩阵 ,都有一个 阶子行列式非零,所以它的秩至少为 。这就证明了定理3。 上述证明中,这个由 经过小扰动而来的 ,也有可能存在高于 阶的非零子行列式,这个时候 的秩则大于 ,即扰动增加了原先矩阵的秩。剩下的唯一可能性是 的所有高于 阶的子行列式统统等于 ,于是 遗传了 的秩。但不管怎么说,微小的扰动永远不能减小矩阵的秩,就像与物理学中能量守恒定律相悖的永动机永远不可能出现一样。 特别地,在定理3中,如果 已经是非奇异矩阵,则 的最大可能子行列式即 的行列式已经是个非零数,故它近旁的矩阵 的行列式也不等于零,即 也是非奇异的。这也构成非奇异矩阵之集为开集的另一个证明。
线性方程组扰动解的误差界 “小扰动只会保持或增加矩阵之秩”这一性质,可以用于探索一般线性方程组的解的误差界。还是先拿上面用过的二阶奇异矩阵(3)提供思想吧。为叙述方便起见,只在实数范围内讨论。这时以 为系数矩阵的线性方程组是 方程组相容(即有解)的充要条件是 。此时所有解为 ,其中 为任意实数。几何上它们是 平面上的水平线 。如果 ,则上述方程组无通常意义下的解,但是它总存在所谓的“最小二乘解”,即使得二元函数 取最小值的那些向量 的全体,这些向量之集显然也是 。现在考虑扰动后的非奇异矩阵(4),其对应的线性方程组(假设 且右端项没有扰动)为 其唯一解是 。自然当 趋向于 时,对应的解向量的长度趋于无穷大,连续性由此丧失。然而,正如前述文章的作者所展示的,与 同方向的单位向量 当 从正、负两侧分别趋向于 时,将分别趋向于单位向量 。这里的 符号依 和 的符号而选。 有趣的是,对这个例子而言,尽管扰动解 对所有的非零参数 都在扰动前方程的最小二乘解集合中,但是它们对应的单位向量到该最小二乘解集的距离,却随着 趋于零而趋于 。不过这个极限单位向量属于矩阵 的零空间。 相容线性方程组(7)是由不相容的线性方程组(6)扰动而来。运用广义逆的语言(见我们之前的《返朴》文章《 什么是最小二乘? 》),上面用初等方法得到的(6)的最小二乘解集合,事实上等于穆尔-彭罗斯广义逆 乘上方程组的右端向量 (即极小范数最小二乘解),再加上 的零空间 所得到的一维仿射空间,写成列向量的形式就是 将这个平面点集记为 ,因为点 属于直线 ,扰动后方程组(7)的解 到这根直线的距离等于零,或言之,向量 就是它在直线 上的正交投影。这个依赖于小扰动参数 的投影的单位方向向量,当 从正、负两侧分别趋向于 时分别收敛到单位向量 ,这和前述文章中的结论一模一样。 现在,我们可以将上例中显示的思想一般化,证明如下关于任意线性方程组扰动解的误差上界。读者最好温习一下我们之前关于广义逆矩阵的《返朴》文章,如《 从线性算子的角度看广义逆矩阵 》,回味一下 的基本性质,帮助理解下列定理的证明。 定理4. 令 及 (其中 ),考虑相容线性方程组 。又令 。设 为扰动过的相容线性方程组 的一个解,如果扰动矩阵 满足不等式 ,则存在扰动前方程组 的一个解 ,使得 证明. 根据 的基本性质, 是将 投影到 的零空间 上的正交投影矩阵。定义 。则 , 其中的第二个等式来自 ,而最后一个等式是因为向量 属于 的值空间 且 是将 投影到 上的正交投影矩阵。故 是 的一个特解,而该方程的通解则为仿射空间 。 现在验证 是方程 的所有解中在 范数下与 距离最近的那个。由于 是将 投影到 的正交补空间 上的正交投影矩阵,等式 隐含 属于 。对 的任意解 ,其中 ,因为 和 相互正交, 及 。故由 范数的定义, 且最右端的等式成立当且仅当 。这证明 是 在仿射空间 上的正交投影,在此投影点达到 到原方程 的解集 的最短距离。 现在估计这个最短距离。从等式 减去等式 ,得 将(9)式与上式相结合后,就有 移项得 。因为 ,巴拿赫引理保证 存在,故有 。两边取范数,得 两边同除以 便证明了不等式(8)。 对于更一般的不相容线性方程组,有类似的结果: 定理5. 令 及 ,考虑线性方程组 (假设 不为零向量)。又令 。设 为扰动过的线性方程组 的一个最小二乘解,如果扰动矩阵 满足不等式 ,则存在扰动前方程组 的一个最小二乘解 ,使得 不等式(10)说明,在 为奇异矩阵时,对微扰后线性方程组 的任意最小二乘解 ,总能在扰动前方程组 的最小二乘解集中找到一个解 (即 在该解集上的正交投影),使得两者的相对距离受控于扰动矩阵的范数 。 前面的二阶算例便直观体现了这一区别:扰动解 离原问题的极小范数最小二乘解越来越远,却始终留在原来的最小二乘解直线 上。特别地,虽然线性方程组 的极小范数最小二乘解 当系数矩阵微扰到 后,对应的扰动解误差 可能随着 的变小而增大,但在相对误差意义下,仍可在 的所有最小二乘解中找到对 的良好逼近。 《 一个神话版的鸡兔同笼问题,竟蕴含着深刻的前沿物理 》的下半部分也讲到了当扰动趋向于 后,相异特征值相聚于一点、线性无关特征向量走向线性相关。这反映在数学上也是有意思的论题。然而,这里不再对奇异矩阵的扰动导致特征值重数变化和对应特征子空间的维数改变进行数学科普的讨论。 致谢: 非常感谢既专业又严谨的周舒义编辑改正了文中几个笔误以及改进了几处数学表述,使得推理过程更加严格。
注:本文封面图片来自版权图库,转载使用可能引发版权纠纷。
特 别 提 示 1.『返朴』提供按月检索功能。关注公众号,回复四位数组成的年份+月份,如“1903”,可获取2019年3月的内容目录,以此类推。 2. 投稿、转载、应聘、商务合作等,皆可联系:[email protected] 版权说明: 欢迎个人转发,任何形式的媒体或机构未经授权,不得转载和摘编。
长按下方图片关注「返朴」,查看更多历史文章