範数 範数( 三 )


範数 範数

文章插图
,那幺
範数 範数

文章插图
可以验证p-範数确实满足範数的定义 。其中三角不等式的证明不是平凡的,这个结论通常称为闵可夫斯基(Minkowski)不等式 。当p取
範数 範数

文章插图
的时候分别是以下几种最简单的情形:1-範数:║x║1=│x1│+│x2│+…+│xn│2-範数:║x║2=(│x1│2+│x2│2+…+│xn│2)1/2∞-範数:║x║∞=max(│x1│,│x2│,…,│xn│)其中2-範数就是通常意义下的距离 。对于这些範数有以下不等式:║x║∞ ≤ ║x║2 ≤ ║x║1 ≤ n1/2║x║2 ≤ n║x║∞另外,若p和q是赫德尔(H&ouml;lder)共轭指标,即1/p+1/q=1,那幺有赫德尔不等式:|<x,y>| = ||xH*y| ≤ ║x║p║y║q当p=q=2时就是柯西-许瓦兹(Cauchy-Schwarz)不等式 。矩阵範数一般来讲矩阵範数除了正定性,齐次性和三角不等式之外,还规定其必须满足相容性:
範数 範数

文章插图
。所以矩阵範数通常也称为相容範数 。如果║·║α是相容範数,且任何满足║·║β≤║·║α的範数║·║β都不是相容範数,那幺║·║α称为极小範数 。对于n阶实方阵(或複方阵)全体上的任何一个範数║·║,总存在唯一的实数k>0,使得k║·║是极小範数 。注:如果不考虑相容性,那幺矩阵範数和向量範数就没有区别,因为mxn矩阵全体和mn维向量空间同构 。引入相容性主要是为了保持矩阵作为线性运算元的特徵,这一点和运算元範数的相容性一致,并且可以得到Mincowski定理以外的信息 。诱导的範数把矩阵看作线性运算元,那幺可以由向量範数诱导出矩阵範数║A║ = max{║Ax║:║x║=1}= max{║Ax║/║x║: x≠0}它自动满足对向量範数的相容性║Ax║ ≤ ║A║║x║并且可以由此证明:║AB║ ≤ ║A║║B║ 。注:⒈ 上述定义中可以用max代替sup是因为有限维空间的单位闭球是紧的(有限开覆盖定理),从而上面的连续函式可以取到最值 。⒉ 单位矩阵的运算元範数为1 。常用的三种p-範数推导出的矩阵範数:1-範数:║A║1 = max{ ∑|ai1|,∑|ai2|,……,∑|ain| } (列和範数,A每一列元素绝对值之和的最大值)(其中∑|ai1|第一列元素绝对值的和∑|ai1|=|a11|+|a21|+...+|an1|,其余类似);2-範数:║A║2 = A的最大奇异值 = (max{ λi(AH*A) }) 1/2 (谱範数,即A^H*A特徵值λi中最大者λ1的平方根,其中AH为A的转置共轭矩阵);∞-範数:║A║∞ = max{ ∑|a1j|,∑|a2j|,...,∑|amj| } (行和範数,A每一行元素绝对值之和的最大值)(其中∑|a1j| 为第一行元素绝对值的和,其余类似);其它的p-範数则没有很简单的表达式 。对于p-範数而言,可以证明║A║p=║AH║q,其中p和q是共轭指标 。简单的情形可以直接验证:║A║1=║AH║∞,║A║2=║AH║2,一般情形则需要利用║A║p=max{yH*A*x:║x║p=║y║q=1} 。非诱导範数有些矩阵範数不可以由向量範数来诱导,比如常用的Frobenius範数(也叫Euclid範数,简称F-範数或者E-範数):║A║F= (∑∑ aij2)1/2 (A全部元素平方和的平方根) 。容易验证F-範数是相容的,但当min{m,n}>1时F-範数不能由向量範数诱导(||E11+E22||F=2>1) 。可以证明任一种矩阵範数总有与之相容的向量範数 。例:定义║x║=║X║,其中X=[x,x,…,x]是由x作为列的矩阵 。由于向量的F-範数就是2-範数,所以F-範数和向量的2-範数相容 。另外还有以下结论:║AB║F <= ║A║F ║B║2║AB║F ≤ ║A║2 ║B║F矩阵谱半径定义:A是n阶方阵,λi是其特徵值,i=1,2,…,n 。则称特徵值的绝对值的最大值为A的谱半径,记为ρ(A) 。注:注意要将谱半径与谱範数(2-範数)区别开来,谱範数是指A的最大奇异值,即AH*A最大特徵值的算术平方根 。谱半径是矩阵的函式,但不是矩阵範数 。谱半径和範数的关係是以下几个结论:定理1:谱半径不大于矩阵範数,即ρ(A)≤║A║ 。因为任一特徵对λ,x,Ax=λx,可得Ax=λx 。两边取範数并利用相容性即得结果 。定理2:对于任何方阵A以及任意正数e,存在一种矩阵範数使得║A║<ρ(A)+e 。定理3(Gelfand定理):ρ(A)=lim_{k->;∞} ║Ak║1/k 。推论:推论1:矩阵序列 I,A,A2,…Ak,… 收敛于零的充要条件是ρ(A)<1 。推论2:级数 I+A+A2+... 收敛到(I-A)-1的充要条件是ρ(A)<1 。酉不变範数定义:如果範数║·║满足║A║=║UAV║对任何矩阵A以及酉矩阵U,V成立,那幺这个範数称为酉不变範数 。容易验证,2-範数和F-範数是酉不变範数 。因为酉变换不改变矩阵的奇异值,所以由奇异值得到的範数是酉不变的,比如2-範数是最大奇异值,F-範数是所有奇异值组成的向量的2-範数 。反之可证明,所有的酉不变範数都和奇异值有密切联繫: Von Neumann定理:在酉不变範数和对称度规函式(symmetric gauge function)之间存在一一对应关係 。也就是说任何酉不变範数事实上就是所有奇异值的一个对称度规函式 。