第1章 人工神经网络概述 1
1.1 神经网络的基本概念 1
1.1.1 什么是人工神经网络 1
1.1.2 人工神经网络的生物学基础 3
1.1.3 人工神经元模型 7
1.1.4 人工神经网络模型 11
1.1.5 神经网络学习算法 15
1.2 神经网络发展简史 18
1.3 神经网络应用 21
1.3.1 模式识别 21
1.3.2 自动控制 22
1.3.3 信号处理 22
1.3.4 人工智能 22
参考文献 23
第2章 传统神经网络及学习算法 27
2.1 感知器 27
2.1.1 简单单层感知器网络 27
2.1.2 单层感知器神经网络 28
2.1.3 单层感知器的有教师学习算法 29
2.1.4 单层感知器网络的局限性 30
2.2 径向基网络 30
2.3 Hopfield神经网络 32
2.4 误差回传(BP)神经网络 37
2.5 MATLAB神经网络工具箱 37
参考文献 39
第3章 BP神经网络 45
3.1 BP神经网络的发展 45
3.2 BP神经元及神经网络模型 46
3.3 BP神经网络学习算法 48
3.3.1 信号的正向传递 48
3.3.2 BP学习算法的误差反向传播与权值阈值更新增量 49
3.3.3 网络权值阈值更新公式 49
3.4 BP神经网络的局限 50
3.4.1 局部极小点 50
3.4.2 学习/收敛速度慢 51
3.4.3 网络结构难以确定 51
3.5 标准BP算法的改进 52
3.5.1 增加动量项的BP学习算法 52
3.5.2 可变学习率的BP算法 52
3.5.3 弹性BP学习算法 53
3.5.4 共轭梯度法改进 53
3.5.5 Levenberg-Marquardt算法 54
3.6 计算机简单示例 54
参考文献 59
第4章 权值直接确定法 62
4.1 相关数学基础 62
4.1.1 最佳逼近理论 62
4.1.2 多元多项式的逼近理论 64
4.1.3 矩阵伪逆与线性方程组求解 65
4.2 幂激励前向神经网络 66
4.2.1 网络模型与理论基础 66
4.2.2 基于BP算法的迭代公式 68
4.2.3 权值直接确定公式 71
4.2.4 计算机仿真实例 72
4.2.5 小结与思考 76
参考文献 77
附录 78
第5章 权值可直接确定的神经网络模型(一) 83
5.1 正交多项式激励函数 83
5.2 Hermite正交多项式神经网络 86
5.3 Chebyshev正交多项式神经网络 93
5.4 Jacobi正交多项式神经网络 101
5.5 小结与思考 108
参考文献 109
第6章 权值可直接确定的神经网络模型(二) 110
6.1 Fourier级数及逼近 110
6.2 Fourier三角基神经网络 113
6.3 Fourier复指数基神经网络 119
6.4 小结与思考 126
参考文献 126
附录 128
第7章 权值可直接确定的其他神经网络模型 132
7.1 Padé有理式神经网络 132
7.2 样条神经网络 138
7.3 小结与思考 146
7.3.1 相对BP算法的突破 146
7.3.2 对网络激励函数的要求 147
7.3.3 理论与应用上的新意 148
参考文献 148
第8章 神经网络结构自确定 150
8.1 神经网络的拓扑结构 150
8.1.1 简单前向神经网络结构 150
8.1.2 带反馈的前向神经网络结构 151
8.1.3 层内互连的前向神经网络结构 151
8.1.4 反馈神经网络结构 152
8.2 隐神经元数对前向网络性能的影响 152
8.3 传统网络结构调整方法 154
8.3.1 基于信息熵的隐神经元数估计法 154
8.3.2 基于LMBP改进算法的神经网络结构优化 155
8.3.3 基于黄金分割的优化算法 155
8.3.4 剪枝算法 155
8.3.5 基于遗传算法的网络结构优化 155
8.3.6 代数方程优化法 155
8.4 动态结构神经网络的实现 156
8.4.1 动态增添神经元算法 157
8.4.2 动态删减神经元算法 157
8.4.3 计算机仿真与展示 159
8.4.4 计算机应用示例 163
8.5 神经网络最优结构确定 169
参考文献 171
第9章 基于权值直接确定法的网络结构自确定算法 174
9.1 Chebyshev神经网络结构自确定 174
9.2 Legendre神经网络结构自确定 180
9.3 Gegenbauer神经网络结构自确定 185
9.4 结构自确定法的适用范围和应用意义 194
参考文献 195
附录 197
第10章 多输入神经网络权值与结构确定 199
10.1 多输入多项式神经网络模型 199
10.2 多输入多项式神经网络权值直接确定 200
10.2.1 权值迭代修正公式 200
10.2.2 全局收敛性质及最优权值直接求解 203
10.2.3 计算机仿真验证及与BP、RBF神经网络性能对比 204
10.3 多输入多项式神经网络的结构自确定 207
10.4 小结与思考 209
参考文献 210
附录 211