自适应盲信号与图像处理PDF电子书下载

目录 1

第1章　盲信号处理导论：问题及应用 1

1.1　问题的表达——概述 1

1.1.1　一般盲信号处理问题 1

1.1.2　瞬时盲源分离和独立分量分析 4

1.1.3　有噪数据的独立分量分析 16

1.1.4　多通道盲解卷积和盲分离 18

1.1.5　信号的盲提取 22

1.1.6　广义多通道盲解卷积——状态空间模型 24

1.1.7　非线性状态空间模型——半盲信号处理 27

1.1.8　为什么要建立状态空间解混合模型 28

1.2　盲信号处理和半盲信号处理的潜在应用 30

1.2.1　生物医学信号处理 30

1.2.2　胎儿和母体心电图信号的盲分离 33

1.2.3　EMG信号的增强和分解 33

1.2.4　EEG和MEG数据处理 34

1.2.5　ICA/BSS在多传感器生物医学信号中噪声和干扰抵消的应用 38

1.2.6　“鸡尾酒会”问题 43

1.2.7　数字通信系统 45

1.2.8　图像恢复和理解 47

第2章　解线性代数方程系统及相关问题 53

2.1　线性方程系统问题的表述 53

2.2　最小二乘问题 56

2.2.1　最小二乘解的基本特性 56

2.2.2　加权最小二乘和最优线性无偏估计 58

2.2.4　大系统和稀疏系统的迭代并行算法 60

2.2.3　基本网络结构最小二乘准则 60

2.2.5　具有非负约束的迭代算法 63

2.2.6　稳健准则和迭代重加权最小二乘算法 67

2.2.7　Tikhonov正则化和SVD 71

2.3　线性方程系统的最小绝对偏差（1-范数）解 76

2.3.1　应用平滑近似和正则化的神经网络结构 77

2.3.2　基于抑制原理求解LAD问题的神经网络模型 80

2.4　总体最小二乘和数据最小二乘问题 84

2.4.1　问题的表述 84

2.4.2　总体最小二乘估计 87

2.4.3　自适应广义总体最小二乘 91

2.4.4　适用于相关噪声的扩展TLS法 94

2.4.5　示例——根据点集拟合直线 97

2.5　稀疏信号表示和最小1-范数解 99

2.5.1　用迭代LS法获得最小p-范数问题的近似解 101

2.5.2　稀疏表示法的惟一性和最优解 104

2.5.3　FOCUSS算法 104

第3章　主／次分量分析及相关问题 109

3.1　简介 109

3.2.1　特征值分解 110

3.2　PCA的基本性质 110

3.2.2　样本协方差矩阵的估计 112

3.2.3　信号和噪声子空间—PCA维数 114

的自动选择 114

3.2.4　PCA的基本性质 118

3.3　用最优压缩-重构原理提取主分量 119

3.4　基本代价函数和PCA的自适应算法 124

3.4.1　Rayleigh商—基本属性 124

3.4.2　计算主、次分量的基本代价函数 126

3.4.3　基于幂方法的快速PCA算法 128

3.4.4　逆幂迭代方法 131

3.5　稳健PCA 132

3.6　次分量顺序提取的自适应学习算法 136

3.7　用于估计主分量，次分量及其子空间的统一并行算法 141

3.7.1　用于并行处理的代价函数 141

3.7.2　J（W）的梯度 143

3.7.3　稳定性分析 146

3.7.4　统一的稳定算法 149

3.8　与PCA相关的奇异值分解和基本矩阵子空间 150

3.9　用于有色源的盲源分离多级PCA 153

附录A　用于实和复值PCA的基本神经网络算法 156

附录B　用于复值PCA的层次神经网络 160

第4章　盲解相关和用于稳健盲辨识的二阶统计量 163

4.1　空间解相关—白化变换 163

4.1.1　批处理方法 163

4.1.2 自适应盲空间解相关的优化准则 166

4.1.3　盲空间解相关的等变化自适应算法的推导 167

4.1.4　简单的局部的学习规则 172

4.1.5　Gram-Schmidt正交化 174

4.1.6　解相关的源信号的盲分离与空间解相关 176

4.1.7　含噪数据的去偏置 176

4.1.8　稳健的预白化——批处理算法 177

4.2　基于EVD和GEVD的二阶统计量盲辨识 179

4.2.1　混合模型 179

4.2.2　基本的原则：同时对角化和特征值分解 180

4.3　基于对称EVD/SVD的改进SOS盲辨识算法 187

4.3.1　有色源情形下混合矩阵的稳健正交化 188

4.3.2　基于GEVD的改进算法 194

4.3.3　改进的两步对称EVD/SVD算法 196

4.3.4　使用带通滤波器组和稳健正交化的盲分离和辨识 197

4.4　联合对角化——稳健的SOBI算法 198

4.4.1　非平稳源的修改SOBI算法：SONS算法 203

4.4.2　计算机仿真试验 204

4.4.3　联合近似对角化方法的可能扩展 206

4.4.4　联合近似对角化和对称特征值分解方法的比较 207

4.5.1　标准的混合阵和噪声协方差阵估计 208

4.5　相关抵消 208

4.5.2　使用相关消除概念的混合矩阵的盲辨识 210

附录A　Amari自然梯度和Atick-Redlich公式的稳定性 214

附录B　有界分离矩阵Frobenius范数的梯度下降算法 216

附录C　JADE算法 218

附录D　稳健的SOBI算法的MATLAB实现 221

第5章　盲信号提取的统计信号处理方法 223

5.1　引言及问题的表述 224

5.2　使用峭度作为代价函数的学习算法 226

5.2.1　用基于归一化峭度的学习准则的非高斯源信号盲提取的级联神经网络 227

5.2.2　基于广义峭度最优化的算法 232

5.2.3　KuicNet学习算法 234

5.2.4　不动点算法 236

5.2.5　顺序提取和消减处理 241

5.3　时间相关信号源盲信号提取的实时自适应算法 243

5.3.1　利用线性预测器的实时盲提取算法 246

5.3.2　多单元盲提取的神经网络 249

5.4　时间相关源盲提取的批处理算法 251

5.4.1　使用一阶线性预测进行盲提取 254

5.4.2　使用自适应带通滤波器组进行源信号盲提取 256

5.4.3　与参考信号相关的期望的源信号的盲提取 260

5.5　独立源顺序提取的统计方法 261

5.5.1　对数似然和代价函数 261

5.5.2　学习的动态特性 263

5.5.3　平衡点的动态特性 265

5.5.4　学习动力学方程的稳定性和牛顿法 267

5.6　时间相关信号源的统计方法 269

5.7　实时顺序卷积混合源提取 272

5.7.1　问题的表述 272

5.7.2　单个独立同分布源信号提取 273

5.7.3　多个独立同分布源信号的提取 275

5.7.4　卷积混合中有色信号源的提取 277

5.8　计算机仿真：举例 278

5.8.1　有色高斯信号的提取 279

5.8.2　从有色高斯信号中提取自然语音信号 280

5.8.4　从干扰中提取自然图像信号 282

5.8.3　有色信号和白信号源的提取 282

5.9　结论评述 285

附录A　基于峭度的盲源提取算法的全局收敛 285

附录B　提取和消减程序的分析 288

附录C　使用线性预测方法提取源信号的条件 290

第6章　自然梯度方法用于独立分量分析 292

6.1　基本的自然梯度算法 292

6.1.1　随机独立的测度Kullback-Leibler发散度—相关熵 293

6.1.2　自然梯度基本学习规则的推导 296

6.2.1　非完整的学习规则 300

6.2　基本自然梯度算法的推广 300

6.2.2　用正交性约束的自然Riemannian梯度 301

6.3　用于任意组的源盲提取的自然梯度算法 306

6.3.1 Stiefel和Grassmann-Stiefel Manifolds流形方法 306

6.4　用于ICA的广义GAUSSIAN分布模型—算法的实际实现 309

6.4.1　广义高斯分布的矩 315

6.4.2　峭度和高斯指数 316

6.4.3　灵活的ICA算法 317

6.4.4　Pearson系统 321

6.5　用于非平稳源的自然梯度算法 322

6.5.1　模型假设 323

6.5.2　二阶统计代价函数 323

6.5.3 自然梯度学习算法的推导 324

附录A 自然梯度ICA算法（6.19）的局部稳定性条件的推导 327

附录B　学习规则（6.32）的推导和ICA的稳定性条件 330

附录C　广义自适应学习算法的稳定性 333

附录D　非完整自然梯度算法的动态性质和稳定性 335

附录E　稳定性条件总结 340

附录F　非正方分离矩阵的自然梯度 342

附录G　一般情形的李群和自然梯度 343

G.0.1　李群Gl（n，m） 344

第7章　ICA的局部自适应算法与实现 346

7.1 盲源分离的改进JUTTEN-H？RAULT算法 346

7.1.1　递归神经网络 346

7.1.2　统计独立性 347

7.1.3 自归一化 350

7.1.4　前馈神经网络和相应的学习算法 352

7.1.5　多层神经网络 357

7.2　用于一组稳健的ICA算法推导的迭代矩阵逆方法 359

7.2.1　使用广义自然梯度方法的稳健ICA算法的推导 364

7.2.2　算法的实际实现 365

7.2.3　灵活稳健算法的特殊形式 367

7.2.4　解相关算法 367

7.2.5　自然梯度算法 367

7.2.6　广义EASI算法 368

7.2.8　未知源信号的数目和统计特性时的灵活的ICA算法 369

7.2.7　非线性PCA算法 369

7.3　具有非负约束的盲源分离 371

7.4　计算机仿真 373

附录A　稳健ICA算法（7.50）式的稳定条件［326］ 380

第8章　有嗓数据的BSS和ICA的稳健技术 386

8.1　引言 386

8.2　预白化 ICA算法的移偏方法 387

8.2.1　白化算法的移偏 387

8.2.2　自适应ICA算法的移偏 388

8.3　被加性卷积参考噪声所污染的信号的盲分离 391

8.3.1　消嗓的学习算法 393

8.4　基于累量的自适应ICA算法 395

8.4.1　基于累量的代价函数 396

8.4.2　使用高阶累量的等变化算法簇 397

8.4.3　可能的扩展 400

8.4.4　复数信号的累量 401

8.4.5　传感器数大于源信号数的盲分离 401

8.5　基于累量代价函数的一组源信号的稳健提取 403

8.5.1　应用预白化和半正交约束的具有最大正峭度的稀疏源的盲提取 403

8.5.2　未预白化的任意一组源信号的盲提取 406

8.6　噪声消除的递归神经网络方法 409

8.6.1 基本概念与算法推导 409

8.6.2　同时估计混合矩阵和噪声抑制 413

8.6.3　稳健预白化和主分量分析（PCA） 415

8.6.4　Amari-Hopfield神经网络的 416

计算机仿真实验 416

附录A　根据矩函数求累量 418

第9章　多通道盲解卷积：自然梯度方法 421

9.1　源信号估计的SIMO卷积模型和学习算法 422

9.1.1　SIMO系统的均衡准则 426

9.1.2　采用稳健ICA/BSS的SIMO盲辨识和盲均衡 427

9.1.3　前向解卷积模型和自然梯度学习算法 431

9.1.4　递归神经网络模型和Hebbian学习算法 432

9.2　带约束的FIR滤波器的多通道盲解卷积 434

9.3　多输入多输出盲解卷积的一般模型 438

9.3.1　基本模型和假定 438

9.3.2　分离—解卷积准则 440

9.4.1　频域多通道盲解卷积 444

9.4　BSS/ICA和MBD之间的关系 444

9.4.2　不同方法的代数等价 446

9.4.3　作为乘法算子的卷积 448

9.4.4　多通道盲解卷积（MBD）的自然梯度学习规则 450

9.4.5　双边无限滤波器的NG算法 451

9.4.6　最小相位非因果系统的算法实现 452

9.5　具有非完整约束的自然梯度算法 455

9.5.1　李群意义下的因果FIR滤波器的等价学习算法 455

9.5.2　完全递归网络的自然梯度算法 461

9.6　应用滤波器分解方法的非最小相位系统的盲解卷积 463

9.6.1　信息反向传播 465

9.6.2　批处理自然梯度学习算法 467

9.7　计算机仿真实验 469

9.7.1 自然梯度算法与普通梯度算法 471

9.7.2　信息反向传播举例 474

附录A　FIR流形上的李群和黎曼测度 476

附录B　等变化算法的性质和稳定条件 479

第10章　估计函数及ICA和解卷积的超有效性 482

10.1.1　什么是估计函数 483

10.1　标准ICA的估计函数 483

10.1.2　半参数统计模型 484

10.1.3　估计函数的允许类 486

10.1.4　估计函数的稳定性 489

10.1.5　标准估计函数和自适应牛顿方法 493

10.1.6　估计误差和超有效性分析 494

10.1.7　？函数的自适应选择 496

10.2　有噪情形下的估计函数 498

10.3.1　源模型 500

10.3　时间相关源信号的估计函数 500

10.3.2　似然函数和评价函数 503

10.3.3　估计函数 504

10.3.4　协方差矩阵的同步与联合对角化和估计函数 505

10.3.5　标准估计函数和牛顿方法 509

10.3.6　渐近误差 512

10.4　多通道盲解卷积的半参数模型 513

10.4.1　符号和问题的表述 514

10.4.2　在FIR流形上的几何结构 515

10.4.3　李群 516

10.4.4　多通道盲解卷积的自然梯度方法 517

10.4.5　有效评价矩阵函数及其表示法 521

10.5 MBD的估计函数和标准估计函数 524

10.5.1　批估计器的超有效性 526

附录A　算子K（z）的表示 528

第11章　利用状态空间方法进行线性盲滤波和盲分离 531

11.1　问题表述和基本模型 532

11.1.1　状态空间模型的可逆性 535

11.2　基本学习算法的推导 537

11.1.2　控制器的标准型 537

11.2.1　用于估计输出矩阵？＝［C，D］的梯度下降算法 538

11.2.2　特殊情形——使用因果FIR滤波器的多通道盲解卷积 541

11.2.3　状态空间模型自然梯度算法的推导 542

11.3　利用信息反向传播估计矩阵［A，B］ 545

11.4　状态估计器——卡尔曼滤波器 547

11.4.1　卡尔曼滤波器 548

11.5　两阶段分离算法 550

附录A　代价函数的推导 551

12.1　问题的一般表述 554

第12章　非线性状态空间模型——半盲信号处理 554

12.1.1　状态空间模型的可逆性 558

12.1.2　内部表示法 558

12.2　有监督和无监督的学习算法 559

12.2.1　非线性自回归滑动平均模型 559

12.2.2　超径向基函数神经网络（HRBFN） 561

12.2.3　梯度法估计超径向基网络的参数 563

13.1.1　矩阵逆的更新准则 565

13.1　矩阵分析 565

第13章　附录：数学预备知识 565

13.1.2　行列式的几条性质 566

13.1.3　Moore-Penrose伪逆的几条性质 566

13.1.4　矩阵的期望值 567

13.1.5　标量函数对矢量的微分 568

13.1.6　矩阵的微分 569

13.1.7　迹 571

13.1.8　矩阵迹的微分 572

13.1.9　重要不等式 573

13.1.10　信息论中的不等式 575

13.2　距离测度 575

13.2.1　几何距离测度 575

13.2.2　数集之间的距离 576

13.2.3　分辨测度 577

第14章　符号和缩略词汇编 579

主要符号 579

缩略词 582

参考文献 584