第1章 绪论 1
1.1 人工神经网络的概念 1
1.2 人工神经网络的发展历史 2
1.2.1 兴起时期 2
1.2.2 萧条时期 3
1.2.3 兴盛时期 5
1.2.4 高潮时期 5
1.3 人工神经网络的特点 6
1.4 人工神经网络的信息处理能力 8
1.5 人工神经网络的功能 8
1.6 人工神经网络的应用 9
1.7 人工神经网络的主要研究方向 10
1.8 人工神经网络与人工智能 11
1.9 人工神经网络与传统计算 12
1.10 本章小结 13
1.11 习题 13
第2章 人工神经网络基础 15
2.1 生物神经系统 15
2.1.1 生物神经元的结构 15
2.1.2 生物神经元的功能 16
2.2 人工神经元模型 17
2.2.1 人工神经元的形式化描述 17
2.2.2 转移函数 18
2.3 M-P模型 20
2.3.1 标准M-P模型 21
2.3.2 延时M-P模型 21
2.3.3 改进的M-P模型 22
2.4 人工神经网络的互连结构 22
2.5 人工神经网络的学习 24
2.5.1 人工神经网络的学习方式 24
2.5.2 基本的神经网络学习规则 26
2.6 本章小结 30
2.7 习题 31
第3章 早期的自适应神经网络模型 32
3.1 感知机 32
3.1.1 感知机模型结构 32
3.1.2 感知机处理单元模型 33
3.1.3 感知机学习算法 34
3.1.4 感知机的局限性 36
3.1.5 感知机的收敛性 37
3.2 自适应线性元件 39
3.2.1 ADALINE模型结构 39
3.2.2 ADALINE学习算法 41
3.3 本章小结 43
3.4 习题 43
第4章 误差反向传播神经网络 45
4.1 误差反向传播神经网络的提出 45
4.2 误差反向传播神经网络结构 45
4.3 误差反向传播神经网络处理单元模型 46
4.4 误差反向传播学习算法 48
4.5 误差反向传播学习算法的数学基础 53
4.6 误差反向传播学习算法的改进 54
4.6.1 BP算法存在的问题 54
4.6.2 累积误差校正算法 55
4.6.3 Sigmoid函数输出限幅的BP算法 56
4.6.4 增加动量项的BP算法 56
4.6.5 学习速率自适应调整算法 57
4.7 隐含层的特征抽取作用 57
4.8 误差反向传播神经网络应用实例 58
4.8.1 BP神经网络的主要能力 58
4.8.2 BP神经网络在入侵检测中的应用 59
4.8.3 BP神经网络在股票市场中的应用 62
4.9 本章小结 65
4.10 习题 66
第5章 Hopfield神经网络 68
5.1 离散型Hopfield神经网络 68
5.1.1 离散型Hopfield神经网络结构 68
5.1.2 离散型Hopfield神经网络处理单元模型 69
5.1.3 离散型Hopfield神经网络的状态及运行规则 69
5.1.4 离散型Hopfield神经网络的能量函数 71
5.1.5 离散型Hopfield神经网络的连接权值设计 72
5.1.6 离散型Hopfield神经网络的信息存储容量 74
5.2 连续型Hopfield神经网络 75
5.2.1 连续型Hopfield神经网络结构 76
5.2.2 连续型Hopfield神经网络处理单元模型 76
5.2.3 连续型Hopfield神经网络的状态 77
5.2.4 连续型Hopfield神经网络的能量函数 78
5.3 Hopfield神经网络应用实例 79
5.3.1 离散型Hopfield神经网络应用实例 79
5.3.2 连续型Hopfield神经网络应用实例 83
5.4 本章小结 87
5.5 习题 88
第6章 Boltzmann机 90
6.1 随机型神经网络的提出 90
6.2 Boltzmann机的网络结构 91
6.3 Boltzmann机处理单元模型 92
6.4 Boltzmann机的能量函数 93
6.5 Boltzmann机的Boltzmann分布 94
6.6 Boltzmann机的运行规则 95
6.6.1 模拟退火算法 95
6.6.2 网络运行规则 97
6.7 Boltzmann机的学习规则 99
6.7.1 自联想记忆的学习规则 100
6.7.2 互联想记忆的学习规则 104
6.8 模拟退火算法应用实例 105
6.9 本章小结 107
6.10 习题 107
第7章 自适应共振理论神经网络 108
7.1 自组织神经网络的提出 108
7.2 竞争学习 109
7.2.1 竞争学习的概念 109
7.2.2 竞争学习规则 110
7.3 自适应共振理论神经网络的提出及特点 113
7.4 ART1神经网络 114
7.4.1 ART1神经网络的结构 115
7.4.2 ART1神经网络处理单元模型 115
7.4.3 ART1神经网络的学习规则 117
7.4.4 ART1神经网络特性分析 121
7.4.5 ART1神经网络应用实例 123
7.5 ART2神经网络 124
7.5.1 ART2神经网络的结构 124
7.5.2 ART2神经网络处理单元模型 125
7.5.3 ART2神经网络的学习规则 127
7.5.4 ART2神经网络应用实例 129
7.6 本章小结 130
7.7 习题 130
第8章 人工神经网络应用的设计开发 132
8.1 人工神经网络应用的特点及适用范围 132
8.2 人工神经网络的设计开发过程 133
8.3 人工神经网络模型的选取 134
8.4 人工神经网络模型的设计 136
8.4.1 节点级设计 137
8.4.2 网络级设计 137
8.4.3 训练级设计 142
8.5 人工神经网络模型的实现 143
8.5.1 准备样本数据 143
8.5.2 选取训练样本 145
8.5.3 网络训练与测试 146
8.6 本章小结 147
8.7 习题 148
第9章 人工神经网络的实现 149
9.1 神经网络实现技术概述 149
9.1.1 神经网络实现的发展历史 149
9.1.2 神经网络实现方案的分类 150
9.2 神经网络的虚拟实现 151
9.2.1 基于传统计算机的软件模拟 151
9.2.2 神经网络并行多机系统 152
9.2.3 神经计算加速器 153
9.3 神经网络的物理实现 154
9.3.1 神经网络的VLSI实现 154
9.3.2 神经网络的光学实现 156
9.3.3 神经网络的分子实现 157
9.4 本章小结 157
9.5 习题 157
第10章 人工神经网络的发展 158
10.1 神经网络与专家系统 158
10.1.1 基于规则的专家系统 158
10.1.2 神经网络与专家系统的比较 159
10.1.3 神经网络专家系统 160
10.2 神经网络与模糊系统 163
10.2.1 模糊系统 163
10.2.2 神经网络与模糊系统的比较 164
10.2.3 模糊神经网络 165
10.3 本章小结 167
附录 168
附录A 人工神经网络的主要研究工作 168
附录B BP神经网络实现太阳黑子数量预测源程序 171
附录C Hopfield神经网络实现图像自联想记忆源程序 184
附录D 模拟退火算法实现TSP源程序 193
附录E ART1神经网络源程序 201
参考文献 209