1、毕业论文文献综述 信息与计算科学 矩阵逆的推广及应用 一、前言部分 (说明写作的目的,介绍有关概念、综述范围,扼要说明有关主题争论焦点) 矩阵理论在数值计算、线性规划、数据分析、科学实验、信号传输等重大领域有着极其广泛的应用。随着科技日异月新的进步,人类社会开始步入信息化、数字化时代,矩阵在生活实践中的应用越来越广泛,矩阵理论的研究也就越来越重要。 在生产实践和科学实验中,人们经常碰到一类线性系统: bAx , ( 1) 其中, nmCA , nCx , mCb 。 当 rbAra n kAra n k ),()( 时,该方程组有解,且 nr 时,有唯一解, nr 时,有无穷多组解,当 ),(
2、)( bArankArank 时,该方程组无解。 无解的线性方程组好像是最为乏味并且没有 实际意义。但事实相反,在某些实际问题中,如数据处理、多元分析、最优化理论、现代控制理论、网络理论等学科中,所遇到的方程组往往是不相容方程组,没有一个 nCx 能使方程精确相等。因此在实际应用中,需要找一个 nCx ,使得 Ax 尽可能的逼近 b ,如何去找这样的 x ?为了解决这一问题,数学家们做了大量的工作。高斯最先引 入了最小二乘法,并从统计方面证明它的合理性。所谓最小二乘,就是找出一个 nCx ,使得系统的残差 Axbr 的 2 范数最小,即2|min rnCx。如何计算最小二乘问题,成了一个重要的
3、课题。但人们总希望能像 A 可逆时那样显式地写出其解 x 的表达式,为适应这种需要,广义逆应运而生。 由文献 1 的结果,我们知道了广义逆的确是逆矩阵的推广, 本文首先对矩阵的广义逆进行定义、分类,然后详细讨论每一类广义逆矩阵的性质及其求解方法,其中包括减号逆的性质与求解,自反减号逆的性质与求解以及加号逆的唯一性证明与求解。通过对每一类广义逆矩阵的求解方法的研究,最后探讨矩阵的广义逆在解线性方程组中的应用。 二、主题部分 (阐明有关主题的历史背景、现状和发展方向,以及对这些问题的评述) 1903 年, Fredholm 最早提出了广义逆的概念 32 ,他给出了 Fredholm 积分算子的广义
4、逆 ,并称为“伪逆”, 1920 年,在美国数学通报上, Moore 首先提出了矩阵的广义逆,他利用投影矩阵定理定义了矩阵唯一的 Moore 广义逆 4 ,即: 设 nmCA ,则满足 )(ARPAX , )(XRPXA (2) 的矩阵 nmCX 称为 矩阵 A 的广义逆,记作 A ,其中 )()( XRAR PP 和 分别是 )()( XRAR 和 上的正交投影算子。 在这之后的 30 多年中,广义逆很少被人注意,直到 1955 年,英国学者 Penrose 在剑桥哲学学会学报上发表了广义逆矩阵论文,以非常简单、直观的形式叙述了广义逆矩阵 A 满足的四个条件(也称 Penrose 条件):设
5、 nmCA ,则满足 XAXAAXAXXX A XAA X A HH )(4(;)(3(;)2(;)1( (3) 的矩阵 nmCX 称为矩阵 A 的广义逆(其中 的共轭转置表示 AA H )。可以证明,以上两个广义逆的定义是等价的 5 。为了纪念 E.H.Moore 和 R.Penrose 对广义逆研究所作的贡献,人们称这唯一的矩阵广义逆为 Moore-Penrose 广义逆,简称 M-P 逆,记为 A 。 在 M-P 逆的基础上,又衍生了其他许多类型的广义逆,设 , kjiJ 是上面( 3)式中 1,2,3,4的非空子集合,则所有满足 J 中条件的矩阵集合称为 A 的 J 逆。若 1J ,则
6、 A 的 J 逆通 常称为减号逆,记为 A 或 )1(A 。若 2,1J ,则 A 的 J 逆通常称为自反广义逆,记为 rA 或 )2,1(A ,若 3,1J ,则 A 的 J 逆通常称为最小二乘广义逆,记作)3,1(AAl或 。若 4,1J ,则 A 的 J 逆通常称为极小范数广义逆,记为 )4,1(AAm或 。 M-P逆及其所衍生出的上述类型的广义逆彻底地解决了线性系统: mnnm CbCxCAbAx , 的求解问题。 2.1 几种常用的广义逆矩阵的性质及求解方法 2.1.1 减号逆 A 的性质与求解 1减号逆 A 的定义 6 : 定义 2.1.1 对 nmCA ,若 nmCG 满足 AA
7、GA , 则称 G 为 A 的 1-逆(或称为 A 的 g 逆),记为 )1(A (或 A )。 2 减号逆 A 的性质 6 : 定理 2.1.1 设 nmCA , C ,则有 ( 1) )()( HH AA ; (2) AA )( ,其中 ;若若 00 01 (3) )()( ArankArank ; ( 4) AAAA 与 都是幂等阵,且满足 )()()( Ara n kAAra n kAAra n k 。 3减号逆 A 的求解 7 对于任意的 nm 矩阵 A ,它的减号逆 A 是存在的但不唯一,这一结论在文献 98 上已有证明或进行了说明。 接下来我们介绍一种常用的求 A 的公式: 1)
8、设矩阵 A 的秩为 r ,且 A 的左上角的 r 阶子块为满秩,即 )( rnrmrrmrnrrr AA AAA)()( 其中 rrA 的行列式 0| rrA ,则有 00 01rrAA ( 4) 将上式直接代入( 4)式验证即可。 2)若矩阵 A 的秩为 r ,但其左上角的 r 阶子块 rrA 不满秩。这时若有初等列变换( P 为相应的初等矩阵)使得 AAP ,而 A 的左上角 r 阶子块 rrA 为满秩的,则有 000)()()( 1 rrAAPA 再由 APAP 1)( 即可求得 000)()( 1 rrAPAPA ( 5) 这意味着,当 A 的左上角无满秩的 r 阶子块时,需先对 A
9、实行某种列变换,使其左上角 r 阶子块变为满秩的,再由( 5)式对 )( A 施行相同的初等变换 行变换,即可得到 A 。同理,对 A 先做行变换变形,再作相应的列变换还原,也可得到 A 。 2.1.2 自反广义逆 rA 的性质与求解 众所周知,对于普通的逆矩阵 1A ,有 AA 11)( ,但这一事实对于减号逆 A 一般不成立,例如: 010 001,010101AA 但 AAAA 001 001即 AA )( ,为了使 A 与 A 能互为减号逆,我们不妨对前面的定义的减号逆 A 给予某种限制条件,使 A 具有这种“自反”的性质。 1 自反广义逆 rA 的定义 10 定义 2.1.2 设 n
10、mCA ,若存在 mnCB ,使 BBABAABA , 则称 B 为 A 的自反广义逆矩阵,记为 rA ,即 rAB ,这时 A 与 B 互为自反广义逆矩阵。早在 50 年代,统计学家 C.R.Rao 11 就对半正定方阵使用了这种广义逆。 2 自反广义逆 rA 的性质 10 显然,自反广义逆是减号逆的一个子集,于是它具有前面讨论过减号逆 A 的所有性质。 定理 2.1.2 设 nmmn CACYX , ,且 YX, 均为 A 的广义逆矩阵,即 AAYAAAX A , 则 XAYZ ( 6) 为 A 的自反广义逆矩阵。 定理 2.1.3 设 mnCA 是 nmCA 的广义逆矩阵,则 A 是 A
11、 的自反广义逆的充要条件是 )()( ArankArank . 3 自反广义逆 rA 的求解 12 对于任意的 nm 矩阵 A ,它的自反广义逆 rA 是存在的,这一结论在文献 13 上已有证明。为了得到自反广义逆的计算方法,我 们先引进所谓“矩阵的右逆,左逆” 14 的概念。 定义 2.1.3 设 A 是 nm 的矩阵,若有 mn 的矩阵 G ,满足 mIAG (或 nIGA ) 则称 G 为 A 的右逆(或左逆),记为 1RA (或 1LA )。 在一般情况下, 11 LR AA ,若 11 LR AA ,则 1A 存在,且 111 LR AAA 。 下面给出左逆,右逆存在的充要条件: 定
12、理 2.1.4 设 A 是 nm 的矩阵, A 有右逆 1RA 的充要条件是 mArank )( 若 A 有右逆,则其中一个右逆是 11 )( HHR AAAA , ( 7) 通式为 11 )( HHR AVAVAA (8) 其中 V 是任意一个满足 )()( HAV Ara n kAra n k 的矩阵。 定理 2.1.5 设 A 是 nm 的矩阵, A 有左逆 1LA 的充要条件是 nArank )( 若 A 有左逆,则其中一个左逆是 HHL AAAA 11 )( , ( 9) 通式为 VAVAAA HHL 11 )( ( 10) 其中 V 是任意一个满足 )()( VAArankAran
13、k H 的矩阵。 另外,由式( 7) (或(式 9) )所定义的右逆(或左逆)满足 M-P 方程的四个条件,即 ( 1) )( 11 AAAAAAAA LR ; ( 2) )( 111111 LLLRRR AAAAAAAA ; (3) AAAAAAAA LHLRHR 1111 )()( ; (4) 1111 )()( LTLRHR AAAAAAAA ; 有了上面的定理,接下来我们讨论自反广义逆具有相当普遍性的计算方法: 设 nmCA ,分两种情况讨论: (1) 若 A 是行(或列)满秩矩阵,即 )()( mnAranknmArank 或,则 ;或 )()( 1111 HHLrHHRr AAAA
14、AAAAAA (2) 若 A 既不是行满秩也不是列满秩,即 )0(.m in )( rnmrAra n k ,则 A 进行一系列初等变换,可成标准形 00 0rIPAQ, 其中 rI 为 r 阶单位矩阵,即 1111 0000 0 QIIPQIPA rrr. 然后令 01 rIPB, 10 QIC r , 从而有 BCA (11) 计算 1111 )(,)( HHRHHL CCCCBBBB 于是 11 LRr BCA ( 12) 值得 指出的是,由式( 12)确定的自反广义逆 rA 并不唯一。这是因为用 11 )( HHR AAAA来计算右逆 1RC 和用 HHL AAAA 11 )( 来计算
15、左逆 1LB 并非唯一。 2.1.3 加号逆 A 的唯一性证明与求解 1加号逆 A 的唯一性证明 14 在自反广义逆矩阵中,还有一种更特殊的也更为重要的广义逆矩阵,这就是 MP 广义逆矩阵,记为 A 。它有很多重要的性质,在应用上特别重要。其定义在上面我们已经讲过了,接下来我们介绍 A 的存在性与唯一性。 存在性: A 的奇异值分解 15 为 Hr VUA 00 0,其中 r ird ia g ),( 21 ( ri ,2,1 )是 A 的非零奇异值, VU与 是酉矩阵,令 Hr UVG 00 01 ( 13) 容易验证 G 满足四个 Penrose 方程,因此 A 存在。 下面证明 A 的唯
16、一性。假定矩阵 Y 也满足 4 个 Penrose 方程,则 YY A YYYAYYAGAG A Y A Y G A YG A G A YAYAGGAGGG A GG HHHHHHHHHHHH 因此 YG ,说明 A 是唯一的,且 Hr UVA 00 01 2 加号逆 A 的性质 4 陶玉娟 16 在文中详细介绍了加号逆 A 与逆矩阵的性质比较,指出了两者相似与相异的性质。接下来我们介绍加号逆 A 的基本性质:对任意的矩阵 A ( 1) 若 A 可逆,则 AA1 . ( 2) AA )( . ( 3) HHTT AAAA )()()()( ,. ( 4) 记 00 0,1 若 ,若 则 .)(
17、 AA (5) 若 ),( 1 ndddiagD ,则 ),( 1 ndddiagD . (6) )()( TTTT AAAAAAA 3加号逆 A 的求解 12 加号逆 A 的计算方法在文献 1817 皆有介绍, 为了得到加号逆的计算方法,我们先引进一个定理: 定理 2.1.6 若 nmCA ,且 BCA 是最大秩分解,则 TTTT BBBCCCX 11 )()( 是 A 的加号逆。 现在我们综述下 加号逆 A 的各种计算方法,如下: ( 1)如果 A 为满秩方阵,则 1 AA ; ( 2)如果 ),( 21 nddddiagA , ).,2,1( niRd i ,则 ),( 21 ndddd
18、 ia gA 其中 时;当 时,当 01 0,0iiii dddd ( 3)如果 A 为行满秩矩阵,则 11 )( HHR AAAAA ; ( 14) ( 4)如果 A 为列满秩矩阵,则 HHL AAAAA 11 )( ; ( 15) ( 5)如果 A 非满秩的 nm 矩阵,可用满秩分解求 A ,即将 A 满秩分解成 BCA ,其中 B列满秩, C 行满秩,且 ,m in nmr a n k Arr a n k Cr a n k B , 则有 BCBCA LR 11 , ( 16) 这里 HHLHHR BBBBCCCC 1111 )(,)( 定理 2.1.6 说明了 11 LRBC 满足 MP
19、 的 4 个方程,是加号逆,即式( 16)成立,必须注意的是,这里的 11 LR BC 与 只能按公式( 7)和( 9)求出,(记作 CCBB RL 11 , ),如果按左、右逆的通式写出别的形式作为 11 LR BC 与 ,就不能保证 A 是唯一的。 2.2 矩阵的广义逆 在解线性方程组中的应用 2.2.1 线性方程组求解问题 考虑非齐次线性方程组 bAx ( 17) 其中 nmCA , mCb 给定,而 nCx 为待定向量。 若 ),()( bArankArank ,则方程组( 17)有解,或称方程组相容;否则,若),()( bArankArank ,则方程组无解,或称方程组不相容或矛盾方程组。 关于线性方程组的求解问题,常见的有以下几种情形: ( 1)当方程组( 17)相容时,若系数矩阵 nnCA ,且非奇异(即 0det A ),则有唯一