第1章 绪论 1
1.1 目的 1
1.2 历史 1
1.3 应用 3
1.4 生物学的启示 5
参考文献 6
第2章 神经元模型和网络结构 8
2.1 目的 8
2.1 理论和实例 8
2.2.1 符号 8
2.2.2 神经元模型 8
2.2.3 网络结构 13
2.3 小结 17
2.4 例题 20
2.5 结束语 22
习题 22
第3章 一个说明性实例 23
3.1 目的 23
3.2 理论和实例 23
3.2.1 问题描述 23
3.2.2 感知机 24
3.2.3 Hamming网络 28
3.2.4 Hopfield网络 30
3.3 结束语 32
习题 32
第4章 感知机学习规则 34
4.1 目的 34
4.2 理论和实例 34
4.2.1 学习规则 35
4.2.2 感知机的结构 35
4.2.3 感知机学习规则 39
4.2.4 收敛性证明 44
4.3 小结 47
4.4 例题 47
4.5 结束语 56
参考文献 56
习题 57
第5章 信号和权值向量空间 60
5.1 目的 60
5.2 理论和实例 60
5.2.1 线性向量空间 60
5.2.2 线性无关 62
5.2.3 生成空间 62
5.2.4 内积 63
5.2.5 范数 63
5.2.6 正交性 64
5.2.7 向量展开式 65
5.3 小结 68
5.4 例题 70
5.5 结束语 76
参考文献 76
习题 76
第6章 神经网络中的线性变换 79
6.1 目的 79
6.2 理论和实例 79
6.2.1 线性变换 79
6.2.2 矩阵表示 80
6.2.3 基变换 82
6.2.4 特征值和特征向量 85
6.3 小结 88
6.4 例题 89
6.5 结束语 96
参考文献 96
习题 97
第7章 有监督的Hebb学习 99
7.1 目的 99
7.2 理论和实例 99
7.2.1 线性联想器 100
7.2.2 Hebb规则 100
7.2.3 仿逆规则 103
7.2.4 应用 104
7.2.5 Hebb学习的变形 106
7.3 小结 106
7.4 例题 107
7.5 结束语 116
参考文献 116
习题 117
第8章 性能曲面和最优点 119
8.1 目的 119
8.2 理论和实例 119
8.2.1 泰勒级数 119
8.2.2 方向导数 121
8.2.3 极小点 122
8.2.4 优化的必要条件 124
8.2.5 二次函数 126
8.3 小结 131
8.4 例题 132
8.5 结束语 141
参考文献 141
习题 141
第9章 性能优化 143
9.1 目的 143
9.2 理论和实例 143
9.2.1 最速下降法 143
9.2.2 牛顿法 148
9.2.3 共轭梯度法 152
9.3 小结 155
9.4 例题 156
9.5 结束语 165
参考文献 166
习题 166
第10章 Widrow-Hoff学习算法 168
10.1 目的 168
10.2 理论和实例 168
10.2.1 ADALINE网络 168
10.2.2 均方误差 170
10.2.3 LMS算法 171
10.2.4 收敛性分析 173
10.2.5 自适应滤波 175
10.3 小结 181
10.4 例题 182
10.5 结束语 193
参考文献 193
习题 194
第11章 反向传播 197
11.1 目的 197
11.2 理论和实例 197
11.2.1 多层感知机 197
11.2.2 反向传播算法 201
11.2.3 例子 205
11.2.4 反向传播 207
11.3 小结 211
11.4 例题 212
11.5 结束语 221
参考文献 222
习题 222
第12章 反向传播算法的变形 227
12.1 目的 227
12.2 理论和实例 227
12.2.1 BP算法的缺点 227
12.2.2 BP算法的启发式改进 232
12.2.3 数值优化技术 235
12.3 小结 244
12.4 例题 246
12.5 结束语 255
参考文献 255
习题 257
第13章 联想学习 259
13.1 目的 259
13.2 理论和实例 259
13.2.1 简单联想网络 260
13.2.2 无监督的Hebb规则 261
13.2.3 简单的识别网络 264
13.2.4 instar规则 265
13.2.5 简单回忆网络 268
13.2.6 outstar规则 268
13.3 小结 271
13.4 例题 272
13.5 结束语 279
参考文献 280
习题 280
第14章 竞争网络 285
14.1 目的 285
14.2 理论和实例 285
14.2.1 Hamming网络 286
14.2.2 竞争层 287
14.2.3 生物学意义上的竞争层 291
14.2.4 自组织特征图 292
14.2.5 学习向量量化 295
14.3 小结 299
14.4 例题 301
14.5 结束语 310
参考文献 310
习题 311
第15章 Grossberg网络 315
15.1 目的 315
15.2 理论和实例 315
15.2.1 生物学的启发：视觉 316
15.2.2 基本非线性模型 321
15.2.3 两层竞争网络 323
15.2.4 与Kohonen规则的关系 331
15.3 小结 332
15.4 例题 335
15.5 结束语 342
参考文献 343
习题 344
第16章 自适应谐振理论 346
16.1 目的 346
16.2 理论和实例 346
16.2.1 自适应谐振概述 346
16.2.2 第一层 347
16.2.3 第二层 351
16.2.4 调整子系统 354
16.2.5 学习规则：L1-L2 356
16.2.6 学习规则：L2-L1 358
16.2.7 ART1算法小结 359
16.2.8 其他ART体系结构 360
16.3 小结 361
16.4 例题 364
16.5 结束语 374
参考文献 375
习题 375
第17章 稳定性 378
17.1 目的 378
17.2 理论和实例 378
17.2.1 递归网络 378
17.2.2 稳定性概念 379
17.2.3 Lyapunov稳定性定理 381
17.2.4 单摆例子 381
17.2.5 LaSalle不变性定理 385
17.3 小结 390
17.4 例题 391
17.5 结束语 396
参考文献 396
习题 397
第18章 Hopfield网络 399
18.1 目的 399
18.2 理论和实例 399
18.2.1 Hopfield模型 400
18.2.2 Lyapunov函数 401
18.2.3 增益效应 406
18.2.4 Hopfield网络设计 409
18.3 小结 413
18.4 例题 415
18.5 结束语 421
参考文献 422
习题 423
第19章 结束语 426
19.1 目的 426
19.2 理论和实例 426
19.2.1 前馈和联想网络 426
19.2.2 竞争网络 429
19.2.3 动态联想存储器网络 429
19.2.4 神经网络的经典基础 430
19.2.5 参考书目和杂志 431
19.3 结束语 432
参考文献 432
附录A 文献目录 439
附录B 符号 447
附录C 软件 452
索引 456