第1章 概论 1
1.1 人工神经网络的基本概念 1
1.1.1 人工神经网络的基本概念和特征 1
1.1.2 神经元数学模型 4
1.2 人工神经网络研究的发展简史 5
1.2.1 人工神经网络研究的发展 5
1.2.2 我国人工神经元网络研究的情况 10
1.2.3 存在的问题 11
1.2.4 几种著名的神经网络 11
1.3 并行及分布处理理论 14
1.3.1 并行分布处理理论 14
1.3.2 PDP的基本概念 14
1.3.3 联结性和并行分布性 15
1.3.4 非符号性和连续性 15
1.4 研究人工神经网络的意义 15
1.4.1 神经网络与传统计算的比较 15
1.4.2 人工神经元网络与人工智能系统的比较 16
1.4.3 研究人工神经元网络的意义 17
1.4.4 人工神经元网络在控制领域中的应用 17
第2章 人工神经网络的基本原理 20
2.1 神经元 20
2.1.1 神经元的结构 20
2.1.2 大脑的信息处理原理 22
2.2 人工神经网络模型 23
2.2.1 形式神经元模型 24
2.2.2 神经网络的基本结构 26
2.2.3 神经元的学习法则 27
2.2.4 神经元的计算原理 30
2.3 十种常用的学习规则 31
2.3.1 Hebb学习规则 32
2.3.2 感知器的学习规则 35
2.3.3 δ学习规则 38
2.3.4 Widrow-Hoff学习规则 40
2.3.5 相关学习规则 40
2.3.6 “胜者为王”学习规则 41
2.3.7 内星和外星学习规则 41
2.3.8 梯度下降算法 42
2.3.9 随机训练算法 42
2.3.10 模拟退火算法 43
2.3.11 学习规则的一览表 44
2.4 学习任务 45
2.4.1 模式联想 45
2.4.2 模式识别 45
2.4.3 函数逼近 46
2.4.4 控制 48
2.4.5 滤波 49
2.4.6 波束形成 50
2.5 记忆 51
2.5.1 相关矩阵记忆 54
2.5.2 回忆 55
2.6 自适应 56
2.7 学习过程的统计性质 57
2.8 统计学习理论 60
2.8.1 一些基本定义 61
2.8.2 经验风险最小化原则 62
2.9 VC维 63
2.9.1 VC维的估计 65
2.9.2 可能近似正确的学习模型 66
2.9.3 样本复杂性 67
2.9.4 计算复杂性 67
第3章 感知机 69
3.1 最简单的感知机 69
3.2 感知机的学习算法 70
3.3 收敛定理 74
3.4 简单感知机的局限性 76
3.5 凸集分离定理 79
3.5.1 凸集与凸性 79
3.5.2 凸集分离定理 80
第4章 前馈型神经网络 82
4.1 多层感知器 82
4.2 多层感知器的学习算法 84
4.3 激活函数 88
4.3.1 S型函数 88
4.3.2 其他激活函数 9
4.3.3 非线性误差函数 92
4.4 BP算法的改进 92
4.5 网络设计及数据预处理 96
4.5.1 输入层和输出层的设计 96
4.5.2 隐含层数和层内节点数的选择 98
4.6 网络映射及容量分析 107
4.6.1 映射作用 107
4.6.2 前向网络的容量分析 111
第5章 BP网络的应用 115
5.1 XOR问题 115
5.2 天气预报问题 120
5.3 地下水位的预测 123
5.4 室内温度的预测 126
5.5 产品成本的预测 127
第6章 反馈型神经网络 130
6.1 Hopfield网络 130
6.2 联想记忆与神经计算 138
6.2.1 联想记忆 138
6.2.2 神经计算 139
6.3 连续时间Hopfield神经网络模型 140
6.3.1 非线性连续时间Hopfield神经网络 140
6.3.2 Hopfield型神经网络的设计与稳定性 144
6.4 Hopfield神经网络论文分析 148
6.5 Hopfield网络在动态联盟伙伴中的应用 153
6.5.1 模型的建立 154
6.5.2 模型的简化 154
6.5.3 对多目标的动态联盟问题求解 155
6.5.4 基于Hopfield网络的多目标动态联盟求解 156
第7章 随机神经网络 160
7.1 模拟退火算法 160
7.1.1 模拟退火算法 160
7.1.2 改进的模拟退火算法 163
7.1.3 SA算法的收敛法 164
7.2 玻耳兹曼机 165
7.2.1 玻耳兹曼机模型 166
7.2.2 能量函数 166
7.2.3 学习算法 168
7.2.4 玻耳兹曼机学习算法推导 169
7.3 NN的概率统计法 171
7.4 并行分布柯西机 174
7.5 神经网络的熵理论 176
7.5.1 NN计算能量与熵 177
7.5.2 同步并行计算 178
7.5.3 异步串行计算 178
7.6 动力系统的分维学 181
7.6.1 Hausdorff维数 181
7.6.2 分维的量度 182
7.7 分维神经网络 184
7.7.1 分维NN结构 184
7.7.2 信息的存储 185
第8章 非线性泛函网络 188
8.1 非线性可分性 188
8.1.1 φ可分性 188
8.1.2 RBF网络的结构及工作原理 189
8.1.3 函数逼近与内插 190
8.2 Cover定理 191
8.3 正规化理论 195
8.4 RBF网络的学习算法 200
8.5 泛函连接网络 203
8.6 小波网络 204
8.6.1 小波理论 204
8.6.2 小波网络 209
8.6.3 小波网络的性能分析 211
8.6.4 小波网络在股市预测中的应用 212
8.6.5 小波理论在创新概念设计评价中的应用 215
第9章 支持向量机 218
9.1 简介 218
9.2 线性可分模式的最优超平面 219
9.2.1 用于寻找最优超平面的二次最优化 220
9.2.2 最优超平面的统计特性 222
9.3 不可分模式的最优超平面 223
9.4 怎样建立用于模式识别的支持向量机 226
9.4.1 内积核 226
9.4.2 Mercer定理 227
9.4.3 支持向量机的最优设计 228
9.4.4 支持向量机的例子 229
9.5 例子：XOR问题 230
9.6 ε-不敏感损失函数 232
9.7 用于非线性回归的支持向量机 233
9.8 小结和讨论 235
第10章 人工免疫系统及克隆选择算法 238
10.1 概述 238
10.2 生物免疫系统的基本原理 239
10.2.1 免疫系统的功能 239
10.2.2 固有性免疫响应和适应性免疫响应 240
10.2.3 免疫系统的结构 240
10.3 人工免疫系统 242
10.3.1 人工免疫系统进展 242
10.3.2 人工免疫系统的研究领域 244
10.3.3 人工免疫系统与其他方法的比较 250
10.4 克隆选择学说与克隆选择算子 251
10.4.1 克隆选择 251
10.4.2 克隆算子 253
10.5 简单克隆选择算法及其性能分析 255
10.5.1 简单克隆选择算法 255
10.5.2 简单克隆选择算法的收敛性 256
10.5.3 多克隆算子与单克隆算子的比较 257
10.5.4 克隆选择算法与进化算法 259
10.5.5 克隆选择算法的优缺点 261
10.6 小结 261
10.6.1 人工免疫系统存在的问题 261
10.6.2 基于人工免疫系统的综合集成 261
10.6.3 人工免疫系统应用研究 262
10.6.4 人工免疫系统进一步研究的方向 263
第11章 微粒群算法 264
11.1 基本的微粒群算法 264
11.1.1 引言 264
11.1.2 基本微粒群算法 265
11.1.3 基本微粒群算法的社会行为分析 266
11.2 改进的微粒群算法 268
11.2.1 对基本微粒群算法进化方程的改进 268
11.2.2 利用小生境思想所做的改进 272
11.2.3 离散变量的微粒群算法 277
11.3 微粒群算法的应用 283
11.3.1 进化计算用于神经网络的优化 283
11.3.2 用PSO算法优化神经网络 284
11.3.3 协同PSO算法优化神经网络 286
11.4 微粒群算法在建筑设计上的应用探索 291
11.4.1 群体智能算法总体模式 291
11.4.2 群体智能算法之PSO算法及其在建筑设计上的应用探索 292