第一章 人工神经网络概述 1
1.1 什么是人工神经网络 1
目录 1
1.2 人工神经网络有什么用处 3
1.2.1 已商品化的应用 3
1.2.2 样机和研究活动 4
1.2.3 潜在的应用范围 5
1.3 人工神经网络的发展史 6
1.3.1 MP模型的提出和人工神经网络的兴起 6
1.3.3 Minsky和Papert文章的冲击和神经网络的低潮 7
1.3.2 感知器模型和人工神经网络的第一次高潮 7
1.3.4 Hopfield网络模型的出现和人工神经网络的复苏 8
1.4 人工神经网络有什么特点 8
1.4.1 固有的并行结构和并行处理 8
1.4.2 知识的分布存储 9
1.4.3 容错性 9
1.4.4 自适应性 9
1.4.5 图形识别能力 10
1.4.6 人工神经网络的局限性 10
1.5.2 ANN与人工智能（AI）的关系 11
1.5 神经网络与其它相关技术的关系 11
1.5.1 ANN与统计方法的比较 11
本章小结 14
第二章 人工神经网络基础 15
2.1 人工神经网络的生物原型——大脑 15
2.1.1 简单的神经元 15
2.1.2 神经元间的连接点——突触 16
2.1.3 大脑及大脑皮层的结构 16
2.2.1 处理单元的基本结构和基本特性 17
2.2 人工神经网络处理单元 17
2.2.2 转移函数 18
2.2.3 处理单元的一种简单硬件构成 19
2.3 人工神经网络的拓扑结构 20
2.3.1 单层网络 20
2.3.2 多层网络 21
2.3.3 回归型网络 22
2.4 存储和回忆的概念 23
2.4.1 ANN中存储图形的类型 23
2.4.2 回忆的概念 23
2.5 人工神经网络的训练（学习） 24
2.5.1 有指导的训练 25
2.5.2 无指导的训练 25
2.5.3 训练算法 26
2.6 人工神经网络的稳定性 28
2.6.1 李亚普诺夫稳定性准则 28
2.6.2 李亚普诺夫能量函数的例子 29
本章小结 30
第三章 前馈神经网络 31
3.1.1 符号单元 32
3.1 早期的ANN——感知器 32
3.1.2 线性单元和自适应线性单元（ADALINE） 39
3.1.3 非线性单元 42
3.1.4 举例及应用 44
3.2 误差反传训练算法（Back Propagation缩写为BP） 47
3.2.1 误差反传训练算法（BP） 47
3.2.2 BP训练算法的改进和变形方案 51
3.2.3 BP网络的应用 56
本章小结 65
4.1.1 网络拓扑结构 67
4.1 Hopfield网络 67
第四章 反馈网络 67
4.1.2 联想原理 69
4.1.3 基本学习规则 74
4.1.4 联想特性 77
4.1.5 存储容量分析 80
4.1.6 能量函数 82
4.1.7 若干改进的学习规则 85
4.1.8 高阶Hopfield网络 90
4.1.9 连续Hopfield网络 93
4.1.10 Hopfield网络应用 97
4.2 双向联想记忆网络 104
4.2.1 网络拓扑结构 104
4.2.2 学习规则及联想回忆 105
4.2.3 网络的稳定性及扩展形式 106
本章小结 107
第五章 随机神经网络 108
5.1 模拟退火算法 108
5.1.1 概述 108
5.1.2 模拟退火算法 110
5.1.3 改进的模拟退火算法 111
5.2.1 网络结构 113
5.2 玻尔兹曼机 113
5.2.2 学习算法 114
5.2.3 网络运行 116
5.3 柯西机 116
5.4 随机网络的应用 117
本章小结 118
第六章 自组织神经网络 119
6.1 无指导训练方法及应用 119
6.2.1 基本思想 121
6.2 竞争学习 121
6.2.2 竞争过程的权值调整——最佳匹配 123
6.2.3 竞争过程的网络组织——“胜者为王” 125
6.2.4 竞争学习的收敛性 127
6.2.5 竞争学习的计算应用 128
6.3 Hamming网络 129
6.3.1 拓扑结构 129
6.3.2 网络学习算法 129
6.3.3 网络运行过程 130
6.4 自组织特征映射神经网络 131
6.4.1 拓扑结构 131
6.4.2 网络自组织算法 132
6.4.3 网络应用 134
6.5 对传网络 135
6.5.1 拓扑结构 135
6.5.2 网络学习算法 136
6.5.3 网络应用 137
6.6 神经认知机 139
6.6.1 基本结构 139
6.6.2 训练过程 140
6.7.1 基本原理 141
6.7 自适应共振理论……………………… 141
6.7.2 基本结构 142
6.7.3 网络运行原理 143
6.7.4 网络学习算法 144
6.7.5 ART的扩展、应用及收敛性 145
本章小结 146
第七章 人工神经网络的应用开发设计 147
7.1 ANN应用的可行性 147
7.1.1 选用ANN技术还是其它技术 147
7.1.2 ANN应用的特点 148
7.2.1 各种ANN模型的应用情况回顾 149
7.2 ANN模型的选取 149
7.2.2 ANN模型的选取原则 151
7.3 ANN网络模型的设计 153
7.3.1 结点级设计 154
7.3.2 网络级设计 154
7.4 ANN应用系统的评价 158
7.4.1 网络的大小 158
7.4.2 速度 159
7.4.3 完全训练标准 159
7.4.4 网络的实验 159
7.4.5 曲线识别网络实验方法 160
本章小结 161
第八章 神经网络的实现 162
8.1 概述 162
8.1.1 神经网络实现的发展简史 162
8.1.2 神经网络运算的特点 162
8.1.3 神经网络实现的比较标准 163
8.1.4 神经网络实现方案的分类 163
8.2 基于传统计算机的实现方案 164
8.2.1 软件模拟 164
8.2.3 传统计算机的神经网络运算加强技术 165
8.2.2 并行处理器阵列 165
8.3.1 VLSI实现方法 166
8.3.2 光学器件 166
8.3 基于硬器件的实现方案 166
8.3.3 分子器件 167
本章小结 167
第九章 ANN的当前动态和未来展望 168
9.1 ANN的当前研究动态 168
9.1.1 学习和训练 168
9.1.2 改进ANN计算模型 170
9.2.1 速度和存储能力的改进 174
9.2 ANN目前出现的新动向 174
9.2.2 与当前技术的结合 175
9.3 ANN的未来 176
9.3.1 对ANN的预言 176
9.3.2 ANN将来的发展 177
本章小结 178
附录A 矩阵代数基本知识 179
附录B 优化与梯度下降法简介 184
参考文献 189