第1章 数值线性代数理论基础 1
1.1 一些概念和记号 1
1.2 几种常用的矩阵分解 4
1.2.1 矩阵的特征分解 4
1.2.2 矩阵的Schur分解 6
1.2.3 矩阵的奇异值分解 12
1.2.4 矩阵的极分解和满秩分解 16
1.3 向量和矩阵的范数 19
1.3.1 向量内积与向量范数 19
1.3.2 矩阵范数与内积 21
1.4 矩阵的广义逆 28
1.5 几种特殊的矩阵类型 31
1.6 模型问题:Poisson问题 35
习题1 37
第2章 正交变换和投影方法 39
2.1 两种常用的正交变换 39
2.1.1 Householder变换 39
2.1.2 Givens变换 45
2.2 QR分解 49
2.2.1 Householder变换QR分解 49
2.2.2 Givens变换QR分解 53
2.3 线性无关向量组的正交化 58
2.3.1 Gram-Schmidt正交化 58
2.3.2 Householder正交化 61
2.4 Krylov子空间及其正交化 64
2.4.1 Krylov子空间 64
2.4.2 Arnoldi正交分解 66
2.4.3 Lanczos正交分解 71
2.5 投影方法 73
2.5.1 投影算子及其性质 73
2.5.2 投影方法的基本框架 76
2.5.3 一维投影方法 80
习题2 83
第3章 线性方程组的矩阵分裂迭代法 85
3.1 迭代法的一般理论 85
3.1.1 迭代法的定义与分类 85
3.1.2 收敛性与收敛速度 86
3.1.3 相容性和敏感性分析 89
3.1.4 几种常见的矩阵分裂 91
3.2 几种经典迭代法 93
3.2.1 Richardson迭代法 93
3.2.2 Jacobi迭代法 94
3.2.3 Gauss-Seidel(GS)迭代法 98
3.3 松弛型迭代法 102
3.3.1 SOR迭代法 102
3.3.2 SSOR迭代法 106
3.3.3 AOR迭代法 109
3.4 HSS迭代法 111
3.4.1 HSS和IHSS方法 111
3.4.2 PHSS迭代法 119
3.5 迭代法的加速方法 124
3.5.1 外推方法 124
3.5.2 整体校正方法 126
3.5.3 基于矩阵特征值的外推方法 130
3.5.4 Chebyshev加速方法 132
3.6 块三对角方程组的迭代解法 137
3.6.1 PE(α)方法 137
3.6.2 二次PE(α)方法 141
习题3 143
第4章 线性方程组的Krylov子空间迭代法 145
4.1 共轭梯度法 145
4.1.1 基本CG方法 146
4.1.2 收敛性分析 152
4.1.3 预处理CG方法 157
4.1.4 CGNR方法和CGNE方法 159
4.2 广义极小残量法 162
4.2.1 GMRES方法 162
4.2.2 预处理GMRES方法 169
4.2.3 收敛性分析 172
4.3 极小残量法 181
4.3.1 MINRES方法 181
4.3.2 PMINRES方法 188
4.3.3 收敛性分析 197
4.4 SYMMLQ方法 198
4.4.1 SYMMLQ方法 198
4.4.2 收敛性分析 203
4.5 拟极小残量法 206
4.5.1 非对称Lanczos方法 207
4.5.2 QMRES方法 211
4.6 LSQR方法 216
4.6.1 Lanczos双对角化方法 217
4.6.2 LSQR算法 219
4.7 广义共轭残量法 223
4.7.1 GCR方法 224
4.7.2 GCR(m)方法 230
4.8 投影类方法 233
4.8.1 BCG方法 233
4.8.2 CGS方法 238
4.8.3 BCGSTAB方法 241
习题4 246
第5章 线性最小二乘问题的数值解法 247
5.1 线性最小二乘问题的数学性质 247
5.1.1 最小二乘解的特征及一般表示 247
5.1.2 线性LS的等价性问题 250
5.1.3 线性最小二乘问题的正则化 251
5.2 求解满秩最小二乘问题的数值方法 253
5.2.1 法方程方法 254
5.2.2 QR分解方法 254
5.3 求解秩亏最小二乘问题的数值解法 256
5.3.1 列主元QR分解法 256
5.3.2 奇异值分解法 261
5.4 求解最小二乘问题的迭代方法 262
5.4.1 基于法方程的矩阵分裂迭代法 262
5.4.2 基于法方程的共轭梯度法 267
5.4.3 基于KKT方程的SOR类迭代法 270
5.4.4 基于KKT方程的HSS迭代法 275
习题5 279
第6章 解线性方程组的直接法 281
6.1 Gauss消去法 281
6.1.1 顺序Gauss消去法 281
6.1.2 列主元Gauss消去法 285
6.2 LU分解法 288
6.2.1 顺序LU分解法 289
6.2.2 列主元LU分解法 291
6.2.3 不完全LU分解 295
6.3 对称正定方程组的直接法 298
6.3.1 Cholesky分解法 299
6.3.2 不完全Cholesky分解 301
6.4 带状线性方程组的直接法 303
6.4.1 三对角方程组 303
6.4.2 块三对角方程组 310
6.5 直接法的舍入误差分析 315
6.5.1 矩阵的条件数 315
6.5.2 矩阵条件数的估算 315
6.5.3 舍入误差对解的影响 318
习题6 319
第7章 矩阵特征值问题的数值方法 321
7.1 矩阵的特征值估计和隔离 321
7.2 幂法和反幂法 326
7.2.1 幂法 326
7.2.2 幂法的加速技术 329
7.2.3 反幂法 330
7.3 Jacobi方法 332
7.3.1 实对称矩阵的旋转正交相似变换 332
7.3.2 Jacobi方法及其收敛性 335
7.4 QR方法 338
7.4.1 化一般矩阵为上Hessenberg矩阵 339
7.4.2 上Hessenberg矩阵的QR分解 344
7.4.3 基本QR方法 347
7.4.4 带原点位移的QR方法 353
7.4.5 双重步位移隐式QR方法 354
7.4.6 特征向量的计算方法 361
7.5 Givens-Householder方法 366
7.5.1 求对称三对角矩阵特征值的二分法 366
7.5.2 二分法的程序实现 371
7.5.3 特征向量的计算 372
7.6 Krylov子空间方法 374
7.6.1 Rayleigh-Ritz投影方法 376
7.6.2 Lanczos方法 379
7.6.3 Arnoldi方法 396
7.6.4 Jacobi-Davidson方法 401
习题7 405
参考文献 408