第1章 绪论 1
1.1 随机系统特征提取及其意义 1
1.2 主成分分析国内外研究现状 3
1.2.1 基于神经网络的主成分分析研究现状 4
1.2.2 广义主成分分析算法研究现状 8
1.2.3 基于神经网络的奇异值分解研究现状 10
1.2.4 主成分与广义主成分分析的国内研究 11
1.3 本章小结 13
第2章 基础理论 14
2.1 特征子空间与特征提取 14
2.2 主成分分析与Oja学习规则 16
2.2.1 主成分分析基本原理 16
2.2.2 Hebbian规则与Oja算法 18
2.3 主成分分析典型算法 20
2.3.1 基于Hebbian规则主成分分析 20
2.3.2 基于优化方法的主成分分析 22
2.3.3 有侧向连接主成分分析 27
2.3.4 非线性主成分分析 29
2.3.5 其他主成分分析 33
2.3.6 次成分分析神经网络算法 35
2.4 广义主成分分析及其神经网络算法 36
2.4.1 广义Hermitian特征值问题 36
2.4.2 广义特征信息提取神经网络算法 37
2.5 奇异值分解及神经网络算法 38
2.5.1 奇异值分解基础 38
2.5.2 奇异值特征提取神经网络算法 39
2.6 Rayleigh商及其特性 40
2.6.1 Rayleigh商 40
2.6.2 Rayleigh商迭代 42
2.6.3 Rayleigh商求解的梯度和共轭梯度算法 43
2.6.4 广义Rayleigh商 45
2.7 本章小结 46
第3章 广义主成分分析 47
3.1 引言 47
3.2 广义主成分分析算法 49
3.2.1 广义对称特征值问题的Mathew类牛顿算法 49
3.2.2 广义特征值分解的自组织算法 50
3.2.3 广义特征分解的类RLS算法 51
3.2.4 基于RLS方法的广义特征向量提取算法 52
3.2.5 广义对称特征值问题的快速自适应算法 54
3.2.6 基于幂方法的快速广义特征向量跟踪 56
3.2.7 基于牛顿法的广义特征向量提取算法 57
3.2.8 提取次广义特征向量的在线算法 58
3.3 一种新型广义主成分分析 60
3.3.1 一种新型的广义主成分分析算法 60
3.3.2 GOja算法的自稳定性分析 61
3.3.3 GOja算法的实验验证 62
3.4 一种新型广义次成分分析 65
3.4.1 基于拟牛顿法的广义次成分分析算法 65
3.4.2 多维广义次成分并行提取准则 67
3.4.3 多维广义次成分并行提取算法 71
3.4.4 WGIC算法的自稳定性分析 74
3.4.5 WGIC算法的全局收敛性分析 75
3.4.6 仿真实验 75
3.5 本章小结 79
第4章 成对广义主成分分析 80
4.1 引言 80
4.2 新颖统一的广义特征对提取自稳定算法 81
4.2.1 新颖信息准则及其算法 81
4.2.2 算法自稳定性及稳定性分析 83
4.3 计算机仿真实验 86
4.4 本章小结 91
第5章 耦合广义主成分分析 92
5.1 引言 92
5.2 非耦合算法中的“速度-稳定性”问题 93
5.3 耦合主成分分析算法 95
5.3.1 耦合主成分分析算法 95
5.3.2 耦合广义主成分分析算法 96
5.4 一种新的耦合广义特征对提取算法 97
5.4.1 信息准则的提出 98
5.4.2 多个广义特征对提取 101
5.4.3 算法计算复杂度讨论 103
5.4.4 仿真实验 104
5.5 本章小结 108
第6章 确定性离散时间系统 109
6.1 引言 109
6.2 神经网络迭代算法的性能分析方法概述 110
6.2.1 DCT方法 110
6.2.2 SDT方法 111
6.2.3 Lyapunov函数方法 115
6.2.4 DDT方法 115
6.3 成对算法的DDT收敛性分析 116
6.3.1 成对GPCA算法收敛性分析 117
6.3.2 成对GMCA算法收敛性分析 120
6.4 耦合算法的DDT收敛性分析 125
6.4.1 耦合GMCA算法收敛性分析 126
6.4.2 耦合GPCA算法收敛性分析 129
6.5 本章小结 131
第7章 双目的广义主成分分析 132
7.1 前言 132
7.2 双目的算法 133
7.3 改进型的UIC信息准则 135
7.3.1 NUIC信息准则的提出 135
7.3.2 NUIC信息准则的前景分析 136
7.3.3 快速的双目的主次子空间跟踪算法 141
7.4 一种自稳定的双目的特征对提取算法 146
7.4.1 算法的提出 146
7.4.2 算法的自稳定性分析 146
7.4.3 算法的收敛性分析 147
7.4.4 仿真实验 151
7.5 一种自稳定的双目的广义特征对提取算法 153
7.5.1 算法的提出 153
7.5.2 算法的自稳定性分析 154
7.5.3 算法的收敛性分析 156
7.5.4 仿真实验 156
7.6 本章小结 157
第8章 奇异主成分分析 158
8.1 引言 158
8.2 SVD算法回顾 159
8.2.1 奇异主成分分析算法 160
8.2.2 主奇异子空间跟踪算法 161
8.3 一种成对奇异主成分分析算法 163
8.3.1 算法的提出 163
8.3.2 算法的收敛性分析 164
8.4 一种成对主奇异子空间跟踪算法 167
8.4.1 算法的提出 167
8.4.2 算法的收敛性分析 168
8.5 一种耦合奇异主成分分析算法 171
8.5.1 动态耦合系统的导出 171
8.5.2 微分系统的自适应实现及其稳定性分析 172
8.5.3 逆Hessian矩阵的估计 173
8.5.4 逆Hessian矩阵近似误差 175
8.6 仿真实验 178
8.6.1 8.3 节算法仿真实验 178
8.6.2 8.4 节算法仿真实验 182
8.6.3 8.5 节算法仿真实验 186
8.7 本章小结 189
第9章 广义主成分分析的工程应用 190
9.1 引言 190
9.2 主成分提取神经网络与算法的应用 190
9.2.1 通信中的特征提取与降维 190
9.2.2 基于主成分分析的图像压缩重构 194
9.2.3 多重信号分类和波达方向估计 196
9.3 次成分分析在曲线拟合中的应用 198
9.4 广义主成分分析在信号处理和数据分析中的应用 200
9.4.1 广义主成分分析在盲信号分离中的应用 200
9.4.2 广义次成分分析在数据分类中的应用 203
9.5 本章小结 205
参考文献 206