第一章 绪论 1
1.1特征信息提取 1
1.1.1主/次成分分析与子空间跟踪 1
1.1.2主/次成分神经网络分析算法 2
1.1.3该领域目前的研究热点 3
1.2特征提取与子空间跟踪基础 5
1.2.1子空间概念 5
1.2.2子空间跟踪方法 7
1.2.3基于优化理论的子空间跟踪 9
1.2.4子空间跟踪方法的性能分析 12
1.3总体最小二乘技术 14
参考文献 16
第二章 矩阵的奇异值与特征值分析 21
2.1引言 21
2.2矩阵的奇异值分析 21
2.2.1奇异值分解 21
2.2.2奇异值的性质 23
2.3矩阵的特征分析 25
2.3.1特征值问题与特征方程 25
2.3.2特征值与特征向量 26
2.3.3 Hermitian特征值分解 30
2.4 Rayleigh商及其特性 33
2.4.1 Rayleigh商 33
2.4.2 Rayleigh商迭代 35
2.4.3 Rayleigh商求解的梯度和共轭梯度算法 36
2.4.4广义Rayleigh商 38
2.5本章小结 39
参考文献 39
第三章 主成分分析神经网络与算法 41
3.1引言 41
3.1.1主成分分析 41
3.1.2 Hebbian学习规则 43
3.1.3 Oja学习规则 44
3.2基于Hebbian规则的主成分分析 45
3.2.1子空间学习算法 46
3.2.2 Generalized Hebbian算法 48
3.2.3其他基于Hebbian规则的算法 49
3.3基于优化方法的主成分分析 50
3.3.1最小均方误差重构算法 51
3.3.2投影逼近子空间跟踪算法和PASTd算法 51
3.3.3鲁棒RLS算法 53
3.3.4 NIC算法 54
3.3.5成对的主成分分析算法 56
3.4有侧向连接的主成分分析 57
3.4.1 Rubner-Tavan主成分分析算法 57
3.4.2 APEX主成分分析算法 58
3.5非线性主成分分析 59
3.5.1核主成分分析算法 60
3.5.2鲁棒/非线性主成分分析算法 61
3.5.3基于自联想神经网络的主成分分析 63
3.6其他主成分分析 65
3.6.1约束主成分分析 65
3.6.2局部主成分分析 66
3.6.3复数域主成分分析 66
3.6.4主成分分析的其他推广 67
3.7互相关非对称网络主奇异成分分析 67
3.7.1提取多个主奇异成分 68
3.7.2提取最大主奇异成分 69
3.7.3提取非方矩阵的多个主奇异成分 70
3.8本章小结 70
参考文献 71
第四章 次成分分析神经网络及性能分析 73
4.1引言 73
4.1.1次成分神经网络算法 73
4.1.2次成分神经网络算法存在的问题 74
4.1.3次成分神经网络算法的发展 75
4.2次成分分析神经网络与算法 76
4.2.1提取第一个次成分算法 76
4.2.2次子空间跟踪算法 77
4.2.3多个次成分提取 78
4.2.4自稳定次成分分析 79
4.2.5正交化的Oja算法 80
4.2.6其他次成分分析算法 81
4.3次成分分析神经网络算法发散现象分析 82
4.3.1普通发散现象 82
4.3.2突然发散现象 85
4.3.3不稳定发散现象 87
4.3.4数值发散现象 92
4.3.5自稳定特性分析 93
4.4高维数据流的次子空间跟踪神经网络算法 94
4.4.1次子空间及其跟踪算法 94
4.4.2一种自稳定的次成分分析算法 95
4.4.3通过DCT方法对算法收敛性能的分析 96
4.4.4算法的发散性能分析 98
4.4.5通过SDT方法的算法自稳定特性分析 100
4.4.6次子空间跟踪算法 100
4.5本章小结 107
参考文献 107
第五章 特征信息网络确定性离散时间系统 110
5.1引言 110
5.2神经网络确定性离散时间系统 111
5.3 Hebbian神经元网络确定性离散时间系统行为分析 112
5.3.1 DCT近似及局限性 112
5.3.2 Oja算法DDT系统及局部性能分析 114
5.3.3 Oja算法DDT系统的全局性能分析 116
5.4一种新的自稳定次成分分析算法及确定性离散时间系统分析 124
5.4.1新的自稳定次成分分析算法的提出 124
5.4.2通过确定性DDT系统对算法的收敛性能分析 125
5.4.3通过确定性DDT系统对算法的稳定性能分析 131
5.4.4计算机仿真实验 132
5.5统一的主/次成分分析学习算法及确定性离散时间学习分析 135
5.5.1算法的收敛特性分析 136
5.5.2计算机仿真 147
5.6本章小结 148
参考文献 148
第六章 双目的主/次子空间神经网络跟踪算法 150
6.1引言 150
6.2双目的特征提取神经网络方法 151
6.2.1双目的特征提取的必要性 151
6.2.2 Chen双目的特征提取方法 152
6.2.3其他几种双目的方法的简要分析 160
6.3一种新的双目的特征提取神经网络算法 164
6.3.1预备知识 164
6.3.2一个新颖的信息准则及其前景 166
6.3.3新的双目的主/次子空间梯度流 169
6.3.4计算机仿真实验 172
6.3.5定理的证明与推导 180
6.3.6算法小结 183
6.4本章小结 183
参考文献 184
第七章 总体最小二乘与神经网络迭代求取算法 186
7.1引言 186
7.2总体最小二乘方法 187
7.2.1经典总体最小二乘 187
7.2.2加权总体最小二乘 193
7.2.3结构总体最小二乘 197
7.3总体最小二乘递归类方法 199
7.3.1 Davila RTLS算法 200
7.3.2 Feng快速RTLS算法 203
7.3.3 Feng AIP算法 206
7.4总体最小二乘神经网络方法 210
7.4.1总体最小二乘神经网络方法 210
7.4.2 GAO TLS神经元方法 211
7.4.3 EXIN TLS神经元方法 212
7.4.4 Bruce混合LS-TLS算法 213
7.5一个新的总体最小二乘线性核及其自稳定算法 220
7.5.1采用DCT对所提算法的性能分析 223
7.5.2采用SDT对所提算法的瞬态行为分析 225
7.5.3计算机仿真实验 227
7.6本章小结 233
参考文献 233
第八章 特征信息提取神经网络与算法应用 240
8.1引言 240
8.2主成分提取神经网络与算法的应用 240
8.2.1通信中的特征提取与降维 240
8.2.2图像处理中的数据压缩 244
8.2.3多重信号分类和波达方向估计 247
8.3次成分提取神经网络与算法的应用 249
8.3.1曲线与曲面匹配应用 249
8.3.2 Pisarenko法谱估计 252
8.4总体最小二乘神经网络与算法的应用 255
8.4.1 FIR自适应滤波的总体最小二乘算法 255
8.4.2在线参数估计中的应用 257
8.4.3在自适应控制中的应用 261
8.4.4在复杂系统故障诊断中的应用 261
8.5本章小结 268
参考文献 268