信号处理中的线性代数PDF电子书下载

第一章 广义逆矩阵与Kronecker积 1

1.1 基本概念与符号 1

1.1.1 矩阵符号与基本矩阵运算 1

1.1.2 独立性、子空间、基与维数 5

1.1.3 值域、零空间与秩 5

1.1.4 向量内积与外积 6

1.2 范数 7

1.2.1 向量范数 7

1.2.2 向量范数作Lyapunov函数 8

1.2.3 矩阵范数 10

1.2.4 Hankel算子的范数 11

1.3 逆矩阵 13

1.3.1 逆矩阵 13

1.3.2 矩阵求逆引理 14

1.4.1 特征值问题 16

1.4 特征值问题与广义特征值问题 16

1.4.2 广义特征值问题 19

1.5 广义逆矩阵 20

1.5.1 Moore-Penrose逆矩阵 20

1.5.2 最小二乘解 21

1.5.3 最小范数解 22

1.5.4 广义逆矩阵的阶数递推计算 23

1.5.5 超定二维超越方程的求解 25

1.6.1 Kronecker积及其性质 27

1.6 Kronecker积 27

1.6.2 Kronecker积的应用 31

参考文献 34

第二章 特殊矩阵 36

2.1 对称矩阵与循环矩阵 36

2.2 交换矩阵与置换矩阵 40

2.3 正交矩阵与酉矩阵 42

2.4 Hermitian矩阵 43

2.5 带型矩阵 47

2.6 Vandermonde矩阵 48

2.7 Hankel矩阵 52

参考文献 55

第三章 矩阵的变换与分解 56

3.1 正交投影 56

3.2 Householder变换 57

3.2.1 保范数性与协方差不变 58

3.2.2 Householder变换算法 60

3.3 Givens旋转 62

3.3.1 Givens旋转 63

3.3.2 快速Givens旋转 64

3.3.3 Kogbetliantz算法 66

3.4 相似变换与矩阵的标准型 67

3.4.1 相似变换 67

3.4.2 矩阵的标准型 68

3.5 矩阵分解的分类 69

3.6 对角化分解 70

3.7 Cholesky分解与LU分解 72

3.7.1 Cholesky分解 72

3.7.2 KU分解 73

3.8 QR分解及其应用 75

3.8.1 QR分解的性质 75

3.8.2 采用修正Gram-schmidt法的QR分解 76

3.8.3 采用Householder变换的QR分解 78

3.8.4 采用Givens旋转的QR分解 78

3.8.5 基于QR分解的参数估计问题 79

3.8.6 基于Householder变换的快速时变参数估计 81

3.8.7 基于Givens旋转的时变参数估计 83

3.9 三角-对角化分解 85

3.9.1 LDMΤ和LDLΤ分解 85

3.9.2 相似变换 87

3.9.3 Schur分解 88

3.10 三对角化分解 90

3.11 矩形束的分解 92

参考文献 93

第四章 Toeplitz矩阵 95

4.1 半正定性 95

4.2 特征值与特征向量 96

4.3 Toeplitz线性方程组的Levinson递推求解 99

4.3.1 经典Levinson递推 100

4.3.2 分基Levinson算法 101

4.3.3 分基schur算法 106

4.3.4 Hermitian Levinson递推 107

4.3.5 多信道Toeplitz线性方程组的Levinson递推求解 111

4.4 求解Toeplitz线性方程组的快速算法 112

4.4.1 循环镶嵌 112

4.4.2 Toeplitz矩阵的部分求逆 113

4.4.3 Toeplitz线性方程组求解 119

4.5.1 Toeplitz矩阵的快速余弦变换 121

4.5 Toeplitz矩阵的快速余弦变换 121

4.5.2 应用 124

参考文献 125

第五章 向量空间 126

5.1 内积空间及其性质 126

5.2 Hilbert空间 129

5.2.1 n维Hilbert向量空间 129

5.2.2 无限维Hilbert向量空间 131

5.2.3 L2空间 132

5.3 投影定理与均方估计 132

5.3.1 投影定理 133

5.3.2 均方估计 134

5.4 新息过程与Kalman滤波 138

5.4.1 新息定理 138

5.4.2 Kalman滤波 139

5.5 正交集与正交基 141

5.6.1 投影矩阵和正交投影矩阵 144

5.6 正交投影矩阵及其应用 144

5.6.2 更新公式 146

5.6.3 利用正交投影矩阵设计LS格型滤波器 149

5.6.4 投影矩阵的导数 152

5.7 横向滤波器算子及其应用 153

5.7.1 横向滤波器算子及其递推 153

5.7.2 快速横向滤波器更新 155

参考文献 159

第六章 奇异值分解 160

6.1 数值稳定性与条件数 160

6.2 奇异值分解 163

6.2 1 奇异值分解及其几何意义 163

6.2.2 奇异值的性质 165

6.2.3 秩亏缺最小二乘解 168

6.2.4 奇异值分解的数值计算 172

6.3 乘积奇异值分解 173

6.3.1 三角矩阵的奇异值分解 175

6.3.2 矩阵乘积的奇异值分解 176

6.3.3 乘积奇异值分解算法的实现 177

6.4 广义奇异值分解 179

6.4.1 对称正定问题 179

6.4.2 广义奇异值分解 181

6.4.3 广义奇异值分解的实际算法 186

6.4.4 二次型不等式约束最小二乘 189

6.5 约束奇异值分解 191

6.5.1 约束奇异值 192

6.5.2 约束奇异值分解 193

6.6 结构奇异值 198

6.6.1 结构奇异值的定义与性质 198

6.6.2 结构奇异值的计算 199

6.7 奇异值分解的应用 202

6.7.1 静态系统的奇异值分解 202

6.7.2 系统辨识 205

6.7.3 阶数确定 206

6.7.4 系统的可控性 209

6.8 广义奇异值分解的应用 210

参考文献 212

第七章 总体最小二乘方法 215

7.1 最小二乘方法 215

7.1.1 矩阵方程解的可辨识性 215

7.1.2 Gauss-Markov定理 217

7.2 总体最小二乘：理论与方法 219

7.2.1 总体最小二乘解 219

7.2.2 总体最小二乘解的性能 223

7.3 总体最小二乘：应用 228

7.3.1 ATMA建模的总体最小二乘法 228

7.3.2 频率估计的总体最小二乘法 229

7.3.3 FIR自适应滤波的总体最小二乘算法 234

7.4.1 约束总体最小二乘方法 237

7.4.2 约束总体最小二乘与极大似然的关系 241

7.4.3 约束总体最小二乘解的扰动分析 243

7.4.4 应用 245

7.5 结构总体最小二乘 247

7.5.1 结构总体最小二乘解 247

7.5.2 结构总体最小二乘解的性质 250

7.5.3 逆迭代算法 251

7.5.4 秩亏缺Hankel矩阵逼近 252

7.5.5 有噪声的实现问题 253

7.6 全局总体最小二乘 256

7.6.1 静态总体最小二乘 257

7.6.2 全局总体最小二乘 258

7.6.3 状态表示 259

7.6.4 系统的最优逼近 262

7.6.5 最优性条件 263

参考文献 265

8.1 极大似然法 268

8.1.1 极大似然准则 268

第八章 极大似然法与推广的最小二乘方法 268

8.1.2 基于特征结构的极大似然估计子 270

8.1.3 迭代二次型极大似然(IQML)算法 273

8.2 广义最小二乘方法 275

8.3 渐近最小方差估计 279

8.4 加权最小二乘方法 283

8.4.1 最优加权最小二乘估计 284

8.4.2 渐近最优加权最小二乘估计 285

参考文献 288

第九章 辅助变量方法 289

9.1 基本的辅助变量方法 289

9.1.1 基本辅助变量方法 290

9.1.2 辅助变量的选择方法 291

9.2 最优辅助变量方法 296

9.2.1 扩展的辅助变量方法 296

9.2.2 最优辅助变量估计 297

9.2.3 一致性与精度分析 298

9.2.4 Q(q-1)的最优选择 300

9.3 超定的递推辅助变量方法 301

9.3.1 超定的递推辅助变量方法 301

9.3.2 双曲变换 304

9.3.3 平方根超定递推辅助变量算法 307

9.4 阶数递推的辅助变量方法 311

9.5 辅助变量方法在模型阶数确定中的应用 314

9.5.1 最小描述长度(MDL)准则 314

9.5.2 综合MDL准则与辅助变量方法的模型定阶 316

9.5.3 与奇异值分解定阶方法的关系 318

参考文献 319

第十章 特征子空间分析方法 322

10.1 特征子空间 322

10.1.1 特征子空间的性质 322

10.1.2 子空间的比较 326

10.2 噪声子空间分析方法 328

10.2.1 Pisarenko谐波分解 328

10.2.2 极小范数方法 330

10.3 多重信号分类(MUSIC) 334

10.3.1 白噪声情况下的MUSIC 334

10.3.2 有色噪声情况下的MUSIC 336

10.4 基于修正信号子空间的波束形成器 337

10.4.1 基于特征子空间的波束形成器 338

10.4.2 基于修正信号子空间的波束形成器 339

10.4.3 波束形成器的权重向量简化 343

10.5 ESPRIT方法 344

10.5.1 基本ESPRIT方法 344

10.5.2 ESPRIT方法的拓广 347

10.5.3 广义特征值分解的SVD-TLS实现 349

10.6 子空间拟合法 350

10.6.1 子空间拟合问题 350

10.6.2 子空间拟合方法 351

10.7.1 问题的描述 354

10.7 广义相关分析 354

10.7.2 广义相关分解 356

10.7.3 广义Hermitian矩阵与特征投影算子 358

10.7.4 特征空间的渐近性质 360

10.7.5 在到达波方向估计中的应用 362

10.8 子空间约束与时频综合 365

10.8.1 子空间的约束综合 366

10.8.2 诱导的自相关函数域子空间 367

10.8.3 时频综合算法 370

10.8.4 Karhunen-Loeve展开 371

10.8.5 无基综合方法 373

参考文献 374

第十一章 子空间跟踪与更新 378

11.1 引言 378

11.2 基于URV分解的噪声子空间跟踪 379

11.2.1 URV分解 380

11.2.2 平面旋转 381

11.2.3 压缩映射与细化 382

11.2.4 更新URV分解 384

11.3 基于秩显露QR分解的噪声子空间更新 386

11.3.1 更新问题 387

11.3.2 秩显露分解方法 388

11.3.3 噪声子空间的更新 391

11.4 基于一阶扰动的自适应特征值分解 393

11.4.1 秩1更新与扰动 394

11.4.2 一阶扰动分析 395

11.4.3 自适应特征值分解算法 396

11.5 修正特征值分解及其递推更新 401

11.5.1 修正特征值问题 402

11.5.2 秩1修正 406

11.5.3 秩2修正 407

11.6 特征子空间估计的随机梯度法 408

11.6.1 特征子空间计算的最优化理论框架 408

11.6.2 LMS型算法 411

11.7.1 共轭梯度法简述 413

11.7 共轭梯度特征结构跟踪 413

11.7.2 代价函数 414

11.7.3 特征值分解迭代的共轭梯度算法 415

11.7.4 特征结构跟踪的共轭梯度算法 417

11.8 投影逼近子空间跟踪 420

11.8.1 信号子空间的新解释 420

11.8.2 子空间跟踪 421

11.9 快速子空间分解 424

11.9.1 Rayleigh-Ritz逼近 424

11.9.2 基于三Lanczos迭代的快速子空间分解 427

11.9.3 基于双Lanczos迭代的快速子空间分解 428

11.10 基于QR分解的奇异值分解更新 430

11.10.1 奇异值分解更新 430

11.10.2 包括重新正交化的SVD更新 432

参考文献 433

索引 436