微小扰动下的变与不变:矩阵求逆是连续运算吗?
对一个矩阵施加微小的扰动,它的逆矩阵会怎样变化?对于非奇异矩阵,求逆是连续的;而对于奇异矩阵,通常的逆不再存在,广义逆能否连续变化,要看扰动是否保持矩阵的秩。然而,若将目光从单个解转向整个最小二乘解集,我们又会在“变”中发现新的“不变”。
撰文 | 丁玖(广州南方学院数学与统计学院教授)
从“鸡兔同笼”矩阵的微扰说起
假如你刚刚哄睡怀中的婴儿,准备将他放在床上,你会小心翼翼地放在床中央,还是随手放在床边以便更容易再抱起他?
床中央留有余地,稍稍翻动也还安全;到了床边,同样一点动静就可能让婴儿掉下去。矩阵面对微小扰动,也有类似的“安全地带”和“危险边界”。
9月4日,《返朴》刊登了两位物理学家撰写的有趣文章《一个神话版的鸡兔同笼问题,竟蕴含着深刻的前沿物理》。他们以鸡兔的总腿数和总头数经过二阶矩阵求逆“反演”出它们各自的个数作为引子,用先秦典籍《山海经》中的两个角色——九首蛇身相柳和手持干戚的无头刑天的神话故事做铺垫,向读者科普了非厄米物理中处理奇异矩阵的扰动法的基本思路。这自然引出一个普遍的数学问题:矩阵的求逆运算具有连续性吗?进一步问,如果矩阵的通常逆不存在,那么从矩阵到广义逆矩阵的对应关系是连续的运算吗?
就地取材,我们先看看前述《返朴》文章中与鸡兔相关的那个二阶矩阵
它的行列式等于非零数,因而是非奇异(即可逆)矩阵,其逆矩阵为
如果将矩阵小小地扰动一下,比如说考虑的各元素都改变了同样的一个数这种简单情形,得到新矩阵
这时的行列式等于
只要数满足,上式就不等于,因此扰动后的矩阵继承了的可求逆性。此时有
不难发现,当越来越小并最终趋向于时,不仅趋向于原矩阵,而且的逆矩阵也趋向于原矩阵的逆矩阵。换句话说,在这个非奇异常数矩阵之处,求逆运算是连续的。改用初等微积分中的序列语言来说,任给一个趋向于的矩阵序列,只要下标自然数足够大,都是非奇异的,并且对应的逆矩阵趋向于。
从等比数列求和到巴拿赫引理
关于如上非奇异矩阵特例的结论对任何一个非奇异矩阵都成立吗?我们对此的回答依赖于一个关于单位矩阵被扰动后的矩阵可逆性的著名结果,它是矩阵乃至更一般无穷维连续线性算子的扰动理论的基石,以波兰伟大的数学家巴拿赫(Stefan Banach,1892-1945)的名字命名。而走近这个“巴拿赫引理”的最佳路径是高中生学过的等比数列的求和公式。
令是一个首项为、公比为复数的等比数列。假设公比的模严格小于,我们想看看这个无穷数列的前项的和当趋向于无穷大时是否趋向于一个有穷数,如果收敛,又趋向于哪个数?为了求解,我们先用乘上数列的前项的和,发现
这样得到有限项求和公式
因为,不仅上式右端的分母不等于,而且分子中的的次幂将趋向于,由此得出,当趋向于无穷大时,等式左边的和将趋向于数。于是就有了初等微积分中最有用的收敛无穷级数之一:
现在回到矩阵。要说两个矩阵靠得有多近,先得有一把量距离的尺子,这就是矩阵范数。设为一阶复方阵。本文选用由上的向量范数诱导出的矩阵范数。矩阵的范数是半正定矩阵的最大特征值的平方根,其中上标表示“共轭转置”;它也是的最大奇异值,即的奇异值分解中对角矩阵内的最大主对角线元素,其中和为酉矩阵。从现在起我们就选这个范数而不再交代,但下面的巴拿赫引理和定理1也适用于由任意向量范数诱导出的矩阵范数。
假定为一阶方阵,它的范数严格小于。记为同阶的单位矩阵。模仿上面关于等比数列求和的做法,用取代做类似的运算,相应地得到
由于这里的矩阵范数满足乘法不等式,有。既然,当趋向于无穷大时,趋向于数。因此矩阵幂序列趋向于矩阵。现在我们证明:矩阵可求逆。只需证明的零空间只有零向量即可。设维列向量满足,则。若不为零向量,两边同取范数,便得,矛盾。所以。这证明存在。
用左乘等式(1)的两端,得到
再求当趋向于无穷大时的极限,由此获得如下著名的巴拿赫引理:
引理(巴拿赫,1932). 如果方阵满足,则矩阵可求逆,且逆矩阵有幂级数表达式
因为以及,如上引理也常以另一种形式出现:同样的假设推出存在,且有
这在后面的矩阵或线性方程组的扰动分析中有用。
上述引理中表达逆矩阵的矩阵幂级数也称为诺依曼级数,但这个诺依曼并非指的是二十世纪大名鼎鼎的匈牙利裔美国数学家约翰·冯·诺依曼(John von Neumann,1903-1957),而是十九至二十世纪的德国数学家卡尔·诺依曼(Carl Neumann,1832-1925)。这个比前者老了几辈的诺依曼在研究位势理论和狄利克雷问题时,受到几何级数收敛性的启发,在1877年出版的著作中系统阐述了此种类型的无穷级数展开,用于对积分方程的逼近求解。抽象泛函分析理论的主要源头就是积分方程论,后来的泛函分析开创者们认识到诺依曼的具体级数展开法在更抽象的赋范空间层面上依然适用,于是将引理中的抽象级数以诺依曼的名字命名,给了他应有的荣誉。
巴拿赫是泛函分析这门纯数学分支的集大成者,1932年他在华沙出版了开创性的《线性算子的理论》,这部里程碑式的著作系统地为现代泛函分析奠定了基础。书中对无穷维有界算子给出了上述引理,这里仅对以矩阵面貌出现的有穷维线性算子陈述了它。
非奇异矩阵:求逆运算的连续性
巴拿赫引理怎样用来直接处理一般非奇异矩阵的扰动问题呢?只需用到读者在初等线性代数中学过的可逆矩阵乘积求逆的反序公式即可:若和为同阶可逆矩阵,则也是可逆矩阵,并且。下面我们马上就能证明关于非奇异矩阵的逆矩阵的扰动定理:
定理1. 设为一非奇异矩阵,且同阶矩阵满足不等式。则矩阵也是非奇异矩阵,并且有逆矩阵扰动上界估计
证明. 条件推出,故由巴拿赫引理知,矩阵可求逆。这样,也是可逆矩阵,且有
因此。两边取范数,并利用可由范数的三角不等式(对同阶矩阵和有)证之的不等式
以及收敛几何级数的和式,得到
如果将这个正数记为,那么定理1不外乎说的是如下事实:在给定非奇异矩阵所属的复矩阵空间内,通过矩阵范数定义的以为中心、以为半径的开球具有特别优良的性质,即其中的每一个矩阵也如同一样是非奇异的。除了平凡的情形,的开球的复维数至少为,我们在日常的三维空间中无法直观看到,但读者可以将一般维数的开球视为可见的二维平面上的开圆盘或三维空间中的开球体。而(2)式则给出了的逆矩阵与的逆矩阵之间由矩阵范数所定义的距离的一个既令人信服又令人愉悦的上界,这个上界就是
由上式可见,所给可逆矩阵周围的矩阵越靠近,亦即越小,的逆矩阵也越靠近的逆矩阵。用数学的符号写下来,便是:
这不就是读者大一初等微积分课堂上学到的连续性概念吗?固然那里只讲了单变量实值函数的连续性,但它的基本思想和定义形式对向量函数乃至定义在抽象赋范空间上的映射统统适用。在矩阵空间中,连续性定义可以写成:设为中的非空子集,为一映射,为一给定矩阵。如果对任意的正数,存在正数,使得对所有的矩阵,只要,不等式就成立,那么就说在点是连续的;如果在的每一个点都是连续的,则称在上连续。
依照连续性的精确定义,结合定理1,我们便获得了矩阵理论中对一切非奇异矩阵都“放之四海而皆准”的结论:固定正整数,令为中所有的阶非奇异矩阵组成的子集,在上定义把方阵映成方阵的对应关系,记之为。则映射在上连续。
在微积分中,尤其在多元微积分中,开子集的概念非常有用。试以平面上的点集为例,如果对于集合中的任一点,存在正数,使得以为中心、以为半径的开圆盘包含在内,则称是开集。同样地,如果对中的子集中的任何一个矩阵,存在正数,使得以为中心、以为半径的开球包含在之内,则被称为开集。定理1表明,矩阵空间中的所有非奇异矩阵组成的集合是的一个开子集。
奇异矩阵的微扰与广义逆
那么,复线性空间中的所有奇异矩阵(它们同与之相对照的所有非奇异矩阵一样有无穷多个),与的开子集又有什么关系呢?我们还是选前述文章中的矩阵例子,即神话人物相柳的九个头被大禹斩去之后所对应的那个二阶奇异矩阵
给一个小小的扰动,会发生什么?先沿用前述文章的做法,把矩阵左下角的改成,得到
只要,新矩阵就脱胎换骨成非奇异的。然而,如果选择对另一个矩阵元素的扰动,比如说
那么无论扰动有多大或有多小,新矩阵却没有改变的奇异性。这两种可以任意“小”的扰动,充分说明:对于上述的奇异矩阵以及无论多小的一个正数,在以为中心、以该正数为半径的开球内,既有非奇异矩阵,也有奇异矩阵。这就好像人们普遍认同的一个社会现象:在足够大的人群里,既有好人,也有坏人。
再仔细检查上面产生非奇异矩阵的第一种扰动后的矩阵。这时,
新的现象出现了:当趋向于时,虽然趋向于,它的逆矩阵的右上角元素却走向无穷远点。换句话说,不存在。
如上对简单的奇异矩阵的诸多观察事实对任意的奇异矩阵同样成立。假设为一个奇异矩阵,其秩为。根据经典的奇异值分解定理(我们已在另一篇文章《一个矩阵,怎样把圆拉成椭圆?》中对其作了详细讨论),存在酉矩阵和,使得,其中为一对角矩阵,其个主对角元素中的前个为正数,称为的奇异值,后面的个全为。现在将中的那些主对角元全部加上非零数,得到的对角矩阵记为。再定义。则是的一个扰动,并且由于矩阵均为非奇异的,它们的乘积也是非奇异的矩阵。然而当趋向于时,虽然矩阵趋向于,但的逆矩阵却不趋向于任何一个矩阵。这是因为对角矩阵的主对角元分别是,所以当时,的后个主对角元素均走向了无穷远点;倘若当时趋向于某个矩阵,那么则趋向于矩阵,与不收敛的事实矛盾。这证明了在以奇异矩阵为中心、半径为任意正数的开球内,都存在非奇异矩阵,然而当扰动趋向于时,这些非奇异矩阵的逆矩阵却收敛不到一个矩阵。
另一方面,对于非零数,我们也可以构造的另一类对应的扰动矩阵,它依然保持着的奇异性。例如,可以保持的主对角元不变,但对主对角线上方的每个零元素加上同一个非零数,得到的上三角矩阵依然奇异,故如此扰动后的矩阵保持了的奇异性,因而不存在。
综上所述,对于中的奇异矩阵,以它为中心、以任意正数为半径的开球内部,既存在非奇异矩阵,也存在奇异矩阵。这两类行列式非零或为零的矩阵在的周围相互缠绕,挤成一团,难以分清,造成当扰动走向消失时,那些非奇异矩阵群体的逆矩阵最终迷失了收敛的方向。
奇异矩阵没有逆矩阵,但总有与范数相关的穆尔-彭罗斯广义逆矩阵,故在上定义了映射。由上可知,该映射在非奇异矩阵集合上是处处连续的,然而它在奇异矩阵处的表现如何?
在矩阵的广义逆理论中,有个漂亮简洁的逆矩阵公式:若的奇异值分解是,则,其中若对角矩阵的主对角元为,则对角矩阵的主对角元为。当被微扰成上文定义过的时,秩严格增加,其广义逆矩阵。如前所述,当趋向于时,不趋向于,故在奇异矩阵处,矩阵的广义逆运算不连续。
尽管如此,我们指出,如果扰动后的矩阵保持了原矩阵的秩,比如仅对的前个正对角元作微小扰动而保持其余元素不变,则当扰动趋向于零时,扰动后矩阵的广义逆趋向于扰动前矩阵的广义逆,即在此“保秩扰动”的额外条件下,广义逆运算是连续的。由于非奇异矩阵的秩在微扰后保持不变,所以结论可以统一叙述为:
矩阵广义逆的连续性定理.上的映射在保秩扰动的条件下是处处连续的。
限于文章的篇幅,我们不拟详细证明如上断言,但给出据此连续性便一目了然的下列经典不等式:如果有相同秩,且,则
危险的“边界”:奇异矩阵之集
之前我们温习了开集的概念,现在需要的是另一个概念——子集的边界点。还是只对矩阵集合引进它。给定中的一个集合,设。如果内以为中心、以任意正数为半径的开球既包含中的矩阵,也包含不属于的矩阵,那么矩阵被称为矩阵集合的一个边界点。集合的所有边界点组成的点集称为的边界,用符号表示。
前面关于阶矩阵的扰动结果,用开集边界点的语言重新表述,就是:
定理2. 复矩阵空间中的所有非奇异矩阵之集是的开子集,它的边界是由中的所有奇异矩阵组成的。
平面上许多标准点集的边界看上去一目了然,与我们的直观印象相符,比如单位开圆盘的边界就是单位圆周。然而当集合不是那么规则时,结论有时却与直觉相悖。比如说,对于平面上所有坐标均为有理数的点组成的集合,平面上的每一个点都是该集合的边界点。
有了点集边界的概念,我们不妨将开篇提到的“婴儿放床位置”与这里的非奇异矩阵做一番类比。床的边缘是一条长方形闭曲线,符合大众对“边界曲线”的直觉认识。至于阶非奇异矩阵之集在中的“边界曲线”,则是看上去不像有曲线形状的阶奇异矩阵之集。然而它们共享同一个性质:床内的婴儿小小挣扎移动一下还安安稳稳地停留在床上,而床边的婴儿向里爬安全,向外爬则掉到地上而嚎啕大哭;在的内部,非奇异矩阵的微小邻域内全都布满了“同一个战壕的战友”——非奇异矩阵;而在边界上,每个小邻域内都同时包含非奇异矩阵与奇异矩阵——朝某些方向跨一小步便回到非奇异矩阵的良田,沿另一些方向跨一小步则仍陷在奇异矩阵的沼泽地里。所以位处边界是危险之举,无论是在生活中,还是在数学上。
微小扰动不会减小矩阵的秩
到目前为止,我们已经得知:(i)非奇异矩阵的小扰动保持矩阵的非奇异性,并且求逆运算是连续的。(ii)奇异矩阵的任意小扰动或保持奇异性,或转化为非奇异性,但当扰动逐渐消失时,非奇异矩阵的逆矩阵不再有极限。这些现象又引出一个问题:矩阵的秩会怎样随扰动变化?
定理3. 设为一阶复矩阵,它的秩为。则对任何充分小的正数,在以为中心、以为半径的开球中的所有矩阵,它们的秩至少等于。
上述定理3的结论,简而言之就是:任何方阵的微小扰动绝不会减小它的秩。其实,这一断言不仅对方块形的矩阵为真,而且对无论是瘦高型的还是矮胖型的长方形矩阵同样成立,只不过本文依照前述文章的做法只考虑方阵罢了。
这个一般结论怎么证明呢?因为有矩阵的奇异值分解定理,再次用对角矩阵来描绘一下为何结论正确是简单易懂的。设为一阶对角矩阵,前个主对角元是非零数,后个主对角元都是。如果只允许将的一部分或全部对角元稍稍扰动一个,而保持非对角元不变,那么,只要非零扰动参数的模取得足够小,譬如让小于正数中的最小值,那么扰动后的对角矩阵的前个主对角元依然保持非零,而无论后面那个主对角元是否全部或部分微扰,这个新对角矩阵的秩至少为。或等价地说,小扰动后的矩阵秩不会减小。如果的非主对角元也被足够小地扰动,读者可以运用想象力,就会明白结果矩阵的秩不会小于。
对于一般的方阵,只要学过矩阵秩的概念,就会知道一个矩阵的秩等于它的最大非零子行列式的阶数;同时,因为阶方阵的行列式是方阵元素的-元次齐次多项式,而众所周知多项式函数是其变元的连续函数,所以行列式是对应矩阵元素的连续函数。有了这样的背景知识,下面对定理3的严格证明就不难理解了。
定理3的证明. 因为给定方阵的秩为,故存在的一个阶子矩阵(把它写成),它的行列式是一个非零数,设其值为。根据学过微积分极限理论的读者所熟悉的“”语言,取正数等于,则存在正数,使得当任何阶复矩阵满足不等式时,若记的与的那个子矩阵有完全相同行和列指标的阶子矩阵为,则不等式成立。由此推出
上式表明,和矩阵的距离小于的任何矩阵,都有一个阶子行列式非零,所以它的秩至少为。这就证明了定理3。
上述证明中,这个由经过小扰动而来的,也有可能存在高于阶的非零子行列式,这个时候的秩则大于,即扰动增加了原先矩阵的秩。剩下的唯一可能性是的所有高于阶的子行列式统统等于,于是遗传了的秩。但不管怎么说,微小的扰动永远不能减小矩阵的秩,就像与物理学中能量守恒定律相悖的永动机永远不可能出现一样。
特别地,在定理3中,如果已经是非奇异矩阵,则的最大可能子行列式即的行列式已经是个非零数,故它近旁的矩阵的行列式也不等于零,即也是非奇异的。这也构成非奇异矩阵之集为开集的另一个证明。
线性方程组扰动解的误差界
“小扰动只会保持或增加矩阵之秩”这一性质,可以用于探索一般线性方程组的解的误差界。还是先拿上面用过的二阶奇异矩阵(3)提供思想吧。为叙述方便起见,只在实数范围内讨论。这时以为系数矩阵的线性方程组是
方程组相容(即有解)的充要条件是。此时所有解为,其中为任意实数。几何上它们是平面上的水平线。如果,则上述方程组无通常意义下的解,但是它总存在所谓的“最小二乘解”,即使得二元函数取最小值的那些向量的全体,这些向量之集显然也是。现在考虑扰动后的非奇异矩阵(4),其对应的线性方程组(假设且右端项没有扰动)为
其唯一解是。自然当趋向于时,对应的解向量的长度趋于无穷大,连续性由此丧失。然而,正如前述文章的作者所展示的,与同方向的单位向量
当从正、负两侧分别趋向于时,将分别趋向于单位向量。这里的符号依和的符号而选。
有趣的是,对这个例子而言,尽管扰动解对所有的非零参数都在扰动前方程的最小二乘解集合中,但是它们对应的单位向量到该最小二乘解集的距离,却随着趋于零而趋于。不过这个极限单位向量属于矩阵的零空间。
相容线性方程组(7)是由不相容的线性方程组(6)扰动而来。运用广义逆的语言(见我们之前的《返朴》文章《什么是最小二乘?》),上面用初等方法得到的(6)的最小二乘解集合,事实上等于穆尔-彭罗斯广义逆乘上方程组的右端向量(即极小范数最小二乘解),再加上的零空间所得到的一维仿射空间,写成列向量的形式就是
将这个平面点集记为,因为点属于直线,扰动后方程组(7)的解到这根直线的距离等于零,或言之,向量就是它在直线上的正交投影。这个依赖于小扰动参数的投影的单位方向向量,当从正、负两侧分别趋向于时分别收敛到单位向量,这和前述文章中的结论一模一样。
现在,我们可以将上例中显示的思想一般化,证明如下关于任意线性方程组扰动解的误差上界。读者最好温习一下我们之前关于广义逆矩阵的《返朴》文章,如《从线性算子的角度看广义逆矩阵》,回味一下的基本性质,帮助理解下列定理的证明。
定理4. 令及(其中),考虑相容线性方程组。又令。设为扰动过的相容线性方程组的一个解,如果扰动矩阵满足不等式,则存在扰动前方程组的一个解,使得
证明. 根据的基本性质,是将投影到的零空间上的正交投影矩阵。定义。则,
其中的第二个等式来自,而最后一个等式是因为向量属于的值空间且是将投影到上的正交投影矩阵。故是的一个特解,而该方程的通解则为仿射空间。
现在验证是方程的所有解中在范数下与距离最近的那个。由于是将投影到的正交补空间上的正交投影矩阵,等式
隐含属于。对的任意解,其中,因为和相互正交,及。故由范数的定义,
且最右端的等式成立当且仅当。这证明是在仿射空间上的正交投影,在此投影点达到到原方程的解集的最短距离。
现在估计这个最短距离。从等式减去等式,得
将(9)式与上式相结合后,就有
移项得。因为,巴拿赫引理保证存在,故有。两边取范数,得
两边同除以便证明了不等式(8)。
对于更一般的不相容线性方程组,有类似的结果:
定理5. 令及,考虑线性方程组(假设不为零向量)。又令。设为扰动过的线性方程组的一个最小二乘解,如果扰动矩阵满足不等式,则存在扰动前方程组的一个最小二乘解,使得
不等式(10)说明,在为奇异矩阵时,对微扰后线性方程组的任意最小二乘解,总能在扰动前方程组的最小二乘解集中找到一个解(即在该解集上的正交投影),使得两者的相对距离受控于扰动矩阵的范数。
前面的二阶算例便直观体现了这一区别:扰动解离原问题的极小范数最小二乘解越来越远,却始终留在原来的最小二乘解直线上。特别地,虽然线性方程组的极小范数最小二乘解当系数矩阵微扰到后,对应的扰动解误差可能随着的变小而增大,但在相对误差意义下,仍可在的所有最小二乘解中找到对的良好逼近。
《一个神话版的鸡兔同笼问题,竟蕴含着深刻的前沿物理》的下半部分也讲到了当扰动趋向于后,相异特征值相聚于一点、线性无关特征向量走向线性相关。这反映在数学上也是有意思的论题。然而,这里不再对奇异矩阵的扰动导致特征值重数变化和对应特征子空间的维数改变进行数学科普的讨论。
致谢: 非常感谢既专业又严谨的周舒义编辑改正了文中几个笔误以及改进了几处数学表述,使得推理过程更加严格。
注:本文封面图片来自版权图库,转载使用可能引发版权纠纷。
相关阅读
3.什么是最小二乘?
近期推荐
特 别 提 示
1.『返朴』提供按月检索功能。关注公众号,回复四位数组成的年份+月份,如“1903”,可获取2019年3月的内容目录,以此类推。
2. 投稿、转载、应聘、商务合作等,皆可联系:[email protected]
版权说明:欢迎个人转发,任何形式的媒体或机构未经授权,不得转载和摘编。
长按下方图片关注「返朴」,查看更多历史文章