第八章 线性方程组 的迭代解法

将 改写为 等价形式 ，建立迭代 。从初值 出发，得到序列 。 思路 将 改写为 等价形式 ，建立迭代 　 。从初值 出发，得到序列 。 研究内容：  如何建立迭代格式？　  收敛速度？  向量序列的收敛条件？  误差估计？

迭代格式的构造 把矩阵A分裂为 则

将上式写为迭代过程 这种迭代过程称为逐次逼近法，B 称为迭代矩阵。 给定初值 就得到向量序列 收敛性定义：若 称逐次逼近法收敛， 否则，称逐次逼近法不收敛或发散。

逼近法产生的向量序列收敛于向量x*，那么， x*是方程组x=Bx+g的解。 问题： 是否为方程组Ax=b的解？ 定理1 任意给定初始向量x0，如果由逐次 逼近法产生的向量序列收敛于向量x*，那么， x*是方程组x=Bx+g的解。 证明：

定理2 设线性方程组x=Bx+g有惟一解，那么逐次逼近法对任意初始向量X０收敛的充分必要条件是迭代矩阵B的谱半径 (B ) <1。 迭代法的收敛条件 补充定理 当k 时，Bk  0   ( B ) < 1 定理2 设线性方程组x=Bx+g有惟一解，那么逐次逼近法对任意初始向量X０收敛的充分必要条件是迭代矩阵B的谱半径 (B ) <1。 证明： 因此，

注：要检验一个矩阵的谱半径小于1比较困难，所以我们希望用别的办法判断收敛性。 定理3 若逐次逼近法的迭代矩阵满 足‖B‖<1， 那么逐次逼近法收敛。 Remark:因为矩阵范数 都可以 直接用矩阵的元素计算，因此,用定理3.5.3， 容易判别逐次逼近法的收敛性。

迭代法的误差估计 定理 4 误差表达式及收敛速度。 证明： 停机准则。 （充分条件）若存在一个矩阵范数使得 || B || < 1, 则迭代收敛，且有下列误差估计： ① ② 误差表达式及收敛速度。 证明： ② 停机准则。

①

几种常用的迭代格式 1．雅克比（Jacobi）迭代法 设有n阶方程组 （4.1）

若系数矩阵非奇异，且 (i = 1, 2,…, n)，将方程组 （4.1）改写成

然后写成迭代格式 （4.2） （4.2）式也可以简单地写为 （4.3）

写成矩阵形式： A = U L D B Jacobi 迭代阵 (4.4)

What if aii = 0? 必须等X(k)完全计算 好了才能计算X(k+1)，因此 需要两组向量存储。 Algorithm: Jacobi Iterative Method Solve .Given an initial approximation . Input: the number of equations and unknowns n; the matrix entries a[ ][ ]; the entries b[ ]; the initial approximation X0[ ]; tolerance TOL; maximum number of iterations Mmax. Output: approximate solution X[ ] or a message of failure. Step 1 Set k = 1; Step 2 While ( k  Mmax) do steps 3-6 Step 3 For i = 1, …, n Set ; /* compute xk */ Step 4 If then Output (X[ ]); STOP; /* successful */ Step 5 For i = 1, …, n Set X 0[ ] = X [ ]; /* update X0 */ Step 6 Set k ++; Step 7 Output (Maximum number of iterations exceeded); STOP. /* unsuccessful */ 迭代过程中，A 的元素 不改变，故可以事先调整好 A 使得 aii  0，否则 A不可逆。 A bit wasteful, isn’t it? What if aii = 0? 必须等X(k)完全计算 好了才能计算X(k+1)，因此 需要两组向量存储。

… … … … 2．高斯――赛得尔(Gauss-Seidel)迭代法 只存一组向量即可。 (4.5) 写成矩阵形式： (4.6) … … … … 写成矩阵形式： (4.6) Gauss-Seidel 迭代阵 B

事实上，这相当于对系数矩阵A作的另一个分裂： BG-S 其迭代格式的矩阵形式为 Gauss-Seidel 迭代阵

有关基本概念 注：这二种方法都存在收敛性问题。在讨论收敛性之前我们先来讲一些预备知识和有关的定理 一、 严格对角占优矩阵与对角占优矩阵 定义1 设A是n阶矩阵. 若满足不等式 且至少有一个i，使严格不等号成立，则称A为对角占优矩阵. 若对所有的i=1，2，…，n， 都有严格不等号成立，称A为严格对角占优矩阵。

定义2设A是n阶矩阵. 如果存在排列阵P,使 二、 可约矩阵与不可约矩阵 其中A11和A22分别是k阶和n-k阶方阵(n≥2，k<n)， 那么 ，称A是可约矩阵. 如果不存在这样的排列阵P， 使上式成立，称A是不可约矩阵。 定理3.5.5 设A是n阶矩阵. A是不可约的充分必要条件 是对有限整数集W={1,2,…，n}中任意两个非空子集 R,SW，R∪S=W, R∩S=，存在i∈R,j∈S，使aij≠0.

三、 有关性质 定理3.5.6 设A是n阶(按行) 严格对角占优矩阵， 那么A是非奇异的. 定理3.5.7 设A是严格对角占优矩阵，那么， 其各阶主子阵也是严格对角占优矩阵. 定理3.5.8 设A是严格对角占优矩 阵. 记经过一步Gauss消去后的矩阵为 那么， A(2)n-1仍是严格对角占优的.

定理3.5.9 设A是不可约对角占优矩阵， 那么A是非奇异矩阵. 定理3.5.10_1 n阶矩阵A是按行严格对角占优矩阵的充分必要条件是Jacobi迭代法的迭代矩阵满足 ‖BJ‖∞<1. 定理3.5.10_2 n阶矩阵A是按列严格对角 占优矩阵的充分必要条件是Jacobi迭代法 的迭代矩阵满足 ‖BJ‖1<1.

Jacobi迭代法和Gauss-Seidel迭代法的收敛性 定理3.5.11 设A是有正对角元的n阶对称矩阵， 那么Jacobi迭代法收敛的充分必要条件是A和 2D-A同为正定矩阵.

定理（3.5.12，3.5.13，3.5.14 ）如果A是按行(列)严格对角占优的矩阵，那么Jacobi和G－S迭代法都收敛. 定理3.5.16 设A是n阶正定矩阵，那么，G－S迭代法收敛.

BJ =D-1(L+U), B G-S = (D-L) -1U 注意的问题 （1）Jacobi迭代法和Gauss-Seidel迭代法的 迭代矩阵不同： BJ =D-1(L+U), B G-S = (D-L) -1U （2）Jacobi迭代法和Gauss-Seidel迭代法的收敛性没有必然的联系： 即当Gauss-Seidel法收敛时，Jacobi法可能不收敛； 而Jacobi法收敛时， Gauss-Seidel法也可能不收敛。

举例 用Jacobi迭代法求解不收敛，但用 Gauss-Seidel法收敛。 用Jacobi迭代法求解收敛， BJ的特征值为0，0，0， 而BG－S的特征值为 0，2，2

A是有正对角元 的n阶对称矩阵 系数矩阵A是正定矩阵，因此用 Gauss-Seidel法收敛. 不是正定矩阵，因此用 Jacobi迭代法不收敛 利用定理3.5.11

3．超松驰法（Sequential Over-Relaxation) 迭代 加速 （4.7） 是松驰因子

超松弛法的收敛性 定理3.5.17 SOR方法收敛的必要条件是松驰因子 定理3.5.18 给定线性方程组Ax=b,如果A是对称正定 2 < w 定理3.5.18 给定线性方程组Ax=b,如果A是对称正定 阵，且w∈（0，2），则SOR方法收敛。