1 前馈型多层网络 1
1．1 引言 1
1．2 感知器 4
1．2．1 概述 4
1．2．2 单层感知器的表征能力与线性可分性 6
1．3 多层感知器 8
1．3．1 多层感知器的结构 8
1．3．2 多层感知器的分类能力 8
1．3．3 多层感知器的映射能力 13
1．4 多层感知器的学习算法 18
1．4．1 感知器的学习算法 18
1．4．2 多层感知器的误差反传学习算法 20
1．4．3 多层感知器的快速收敛学习算法 27
参考文献 34
2 自组织映射理论 36
2．1 人脑的信息拓扑映射特性 37
2．2 Kohonen自组织特征映射算法 41
2．2．1 网络的基本结构 41
2．2．2 Kohonen自组织映射算法 43
2．2．3 几个例子 47
2．3 自组织映射拓扑有序理论 53
2．4 应用举例 60
2．4．1 例子一——货郎担问题的解决 61
2．4．2 例子二——数据压缩问题 64
2．4．3 例子三——语音、图象识别 69
2．5 汉语语音的神经网络自组织映射 71
2．5．1 语音信号预处理 72
2．5．2 语音参数特征空间与神经网 74
2．5．3 神经网音素映象 78
2．5．4 实时识别系统的建立 88
2．5．5 神经网语音模式与语音信号的状态 89
2．5．6 神经网实时汉语语音识别 96
参考文献 98
3 自适应谐振理论 100
3．1 概述 100
3．2．1 概述 101
3．2 基本工作原理与ART—1算法 101
3．2．2 门控G_1及G_2的工作规则 103
3．2．3 输入／比较层工作规则 103
3．2．4 识别层工作规则 108
3．2．5 关于权向量的讨论 110
3．2．6 ART的特点 111
3．3 ART系统的深层机理 112
3．3．1 输入／比较层与识别层神经元激活信号变化规律 113
3．3．2 加权系数的变化规律 115
3．3．3 Weber规律与联想衰减规律 116
3．3．4 模板T的变化规律 117
3．3．5 “三分之二”规律的要求 118
3．4 ART系统的学习机理 121
3．4．1 直接访问识别层神经元问题 122
3．4．2 搜索过程 126
3．4．3 学习的自稳定 129
3．5 ART—2结构及原理 136
3．5．1 概述 136
3．5．2 ART—2系统分析 138
3．6 ART—3结构及原理 146
3．6．1 ART同形级联结构体系 147
3．6．2 ART—3基本结构 148
3．7 模糊ART原理 155
3．7．1 模糊ART的特点 155
3．7．2 模糊ART工作分析 157
3．7．3 参数对模糊ART工作的影响 159
参考文献 162
4 神经网络在优化问题中的应用 163
4．1 优化问题的数学描述 163
4．1．1 线性规划(LP) 163
4．1．2 二次规划(QP) 167
4．1．3 线性补偿问题(LCP) 169
4．2 神经网络应用于LP问题 173
4．2．1 不等式条件的LP 174
4．2．2 标准形式LP问题 179
4．2．3 有界设计变量的LP 184
4．2．4 解原始和对偶LP问题的算法 188
4．2．5 运输问题 189
4．3 神经网络应用于凸二次规划问题 192
4．3．1 等式条件QP问题 193
4．3．2 不等式条件QP问题 195
4．3．3 混和条件QP问题 199
4．4 神经网络应用于线性补偿问题 200
参考文献 210
5 神经网络与混沌、分形 212
5．1 概述 212
5．2 神经网络非线性动力学行为简述 212
5．3 迭代函数系统 217
5．4 压缩映射及吸引子 221
5．5 混沌神经网络模型 224
5．6 自组织映射混沌神经网模型 229
5．6．1 Hopf分岔标准方程 229
5．6．2 用于模式识别的实际模型 233
5．6．3 一种混沌偶合神经网模型 236
5．7 神经网络的分形性 238
5．7．1 分形的基本性质 238
5．7．2 分维数 240
5．7．3 一种信息分形神经网络及其应用 243
参考文献 250
6 非监督Hebbian学习网络 252
6．1 引言 252
6．2．1 主分量提取：从Hebb规则到OJa规则 254
6．2 主分量与OJa算法分析 254
6．2．2 OJa算法分析 256
6．3 多主分量分析算法 259
6．3．1 算法推广的基础 259
6．3．2 广义Hebblan算法(GHA) 261
6．3．3 局部侧联网络 262
6．3．4 局部PCA算法收敛性的一般性分析 267
6．3．5 PCA网络算法的信息量分析 269
6．4 其他学习算法 272
6．4．1 其他权重约束的学习规则 272
6．4．2 竞争性Hebblan学习算法 272
6．4．3 非对称PCA(APCA)算法 273
6．5 PCA算法的应用 276
6．5．1 旋转校正 277
6．5．2 图象压缩与图象分析 277
6．5．3 视觉“感受场” 280
6．5．4 “子空洞”模式识别 280
6．6 结语 281
参考文献 282
7 模糊神经网原理 285
7．1 引言 285
7．2 模糊神经网模型 287
7．3 动态神经单元(DNU)模型 290
7．3．1 DNU的工作原理 290
7．3．2 DNP的工作原理 294
7．4 模糊自组织神经网 296
7．4．1 模糊Kohonen自组织网 297
7．4．2 自适应模糊类聚(AFLC) 298
7．4．3 综合自适应模糊类聚模型(IAFC) 301
7．5 神经网实现模糊推理 303
7．5．1 模糊推理的背景知识简介 303
7．5．2 实现模糊推理的神经网络模型 311
参考文献 314
8 神经网络在图象分析中的应用 315
8．1 引言 315
8．2 图象恢复的人工神经网络模型 315
8．3．1 联想记忆网及全息联想记忆网原理简介 322
8．3 联想记忆模型用于字符识别 322
8．3．2 字符识别系统 324
8．4 神经网络、分形变换与子波变换用于图象压缩 334
8．4．1 用PCA网实现图象压缩 334
8．4．2 用子波变换实现图象压缩 336
8．4．3 分形变换图象压缩 342
8．5 神经网络用于图象模式识别 355
8．5．1 线性判别函数的实现 355
8．5．2 用自组织映射网及最大输出网实现非监督模式的分类 358
8．5．3 联想记忆网实现模式识别 359
8．5．4 其他类型神经网的模型用于模式识别 360
8．6 神经网络用于图象压缩及向量量化 361
参考文献 364
9．1 自发脑电信号的处理 365
9．1．1 概述 365
9 神经网络在生物医学信号分析中的应用 365
9．1．2 混沌动力学 366
9．1．3 脑电图信号提取的方法 369
9．1．4 脑电图有效段的选择 370
9．1．5 相关维数 370
9．1．6 结束语 376
9．2 心电图数据压缩的新方法 377
9．2．1 神经网络心电图数据压缩的原理 377
9．2．2 心电图数据压缩的新方法 378
9．3．1 RBF网络辨识原理 383
9．3 动态系统建模方法及其应用 383
9．3．2 血糖代谢系统RBF网络模型的辨识 386
9．4 人工神经网络在医学模式识别与诊断中的应用 388
9．4．1 概述 388
9．4．2 算法讨论 390
9．4．3 心电的自动识别 390
9．5 基于神经网络的模糊控制及其应用 394
参考文献 399
10 神经网络在语音识别的应用 400
10．1 引言 400
10．2 语音静态模型 401
10．2．1 语音状态转移模型 402
10．2．2 失真测度 404
10．2．3 语音识别 407
10．3 判别性语音模型 413
10．3．1 判别性训练方法 413
10．3．2 最小分类误差的多层前向网络 417
10．3．3 语音识别实验 420
参考文献 422
11 高阶神经网络的理论及其应用 424
11．1 引言 424
11．2 高阶神经网络对连续函数的逼近能力 426
11．2．1 引言 426
11．2．2 三层高阶前馈网络结构 426
11．2．3 三层高阶前馈网络的逼近原理 428
11．2．4 高阶前馈网络的BP算法及改进算法 431
11．2．5 一阶网与高阶网的性能比较 436
11．3 二阶Hopfield网的存储能力 438
11．3．1 引言 438
11．3．2 研究二阶Hopfield网的预备知识 438
11．3．3 网络描述及其容量的等价形式 441
11．3．4 原理与证明 442
11．4 高阶神经网络的应用 449
11．4．1 二层高阶神经网络对任意布尔函数的实现 449
11．4．2 二阶Hopfield网络在模式识别和优化计算方面的应用 455
11．4．3 怎样用高阶神经网络求解一类正定矩阵的特征矢量 457
参考文献 459