第一章 绪论 1
1.1 神经网路的研究历史 1
1.2 生物神经元模型 7
1.2.1 神经元的结构 7
1.2.2 神经元的功能 8
1.3 神经网路的基本特征和通有性质 9
1.3.1 神经网路的形式化描述 10
1.3.2 神经网路模型 11
1.3.3 神经网路的讯息处理能力 13
1.3.4 神经网路的互连结构形态 16
1.3.5 神经网路的分类与工作模式 18
1.3.6 神经网路的学习规则与分类 21
1.4 神经网路的研究方法与主要内容 24
1.4.1 神经网路的巨观研究方法 24
1.4.2 神经网路未来发展方向与研究课题 26
第二章 神经网路理论基础 29
2.1 MP模型和Hebb学习规则 29
2.1.1 MP模型 29
2.1.2 Hebb学习规则 30
2.1.3 延时MP模型 30
2.1.4 改进的MP模型 31
2.2 动力系统的稳定性 32
2.2.1 稳定性分析的数学基础 32
2.2.2 V函数的性质的判别 34
2.2.3 定号函数的几何解释 34
2.2.4 稳定性的基本定义 35
2.3 稳定性的Lyapunov第二方法 38
第三章 神经纲路模型Ⅰ：前向网路 45
3.1 线性16阈值单元 45
3.1.1 基本性质 45
3.1.2 用践性阈值单元制作布尔函数 46
3.1.3 线性可分性与学习 46
3.2 感知器 47
3.2.1 感知器学习算法 48
3.2.2 多层感知器 50
3.2.3 梯度算法 53
3.2.4 多层感知器学习的定量分析 55
3.3 BP算法（反向传播算法） 57
3.4 前向网路的映像作用与容量分析 62
3.4.1 映射作用 62
3.4.2 前向网路的容量分析 67
3.5 自适应线性组件（Adaline） 69
3.5.1 线性可分性 70
3.5.2 非线性可分性——非线性输入函数 71
3.5.3 MADALINES网路 73
3.5.4 Widrow—Hoff δ规则 75
3.6 交替投影神经网路（APNN） 77
3.6.1 凸集投影理论 77
3.6.2 交替投影神经网路 78
3.6.3 稳态收敛性 82
3.6.4 学习和训练 84
3.6.5 多层APNN 85
第四章 神经网路模型Ⅱ：反馈网路 89
4.1 离散的Hopfield神经网路 90
4.2 联想记忆与神经计算 97
4.2.1 联想记忆（Associative Memory） 98
4.2.2 神经计算 99
4.3 连续时间Hopfield神经网路模型 100
4.3.1 非线性连续时间Hopfield神经网路 100
4.3.2 Hopfield神经网路的设计与稳定性 107
4.4 高阶关联神经网路模型 112
4.5 联想内存分析 117
4.6 双向联想记忆（BAM） 120
4.6.1 离散BAM（Bidrection Associative Memory） 121
4.6.2 连续和自适应BAM网路 126
4.6.3 高阶自适应BAM网路 127
4.6.4 四种无导师联想学习规则 128
4.6.5 竞争自适应BAM网路 128
4.6.6 随机自适应BAM网路 129
4.7 高阶自相关器和异相关器 130
4.7.1 一阶自相关器 131
4.7.2 高阶自相关器 132
4.7.3 一阶异相关器 133
4.7.4 高阶异相关器 134
4.7.5 一阶IBAM 138
4.7.6 高阶IBAM 142
第五章 自组织神经网路 143
5.1 自适应共振理论（ART） 143
5.1.1 ART的基本原理 144
5.1.2 ART学习算法 148
5.2 自组织特征映射 149
5.3 CPN模型 152
5.3.1 CPN的训练 156
5.3.2 CPN的计算 157
5.4 神经认知机 158
第六章 随机神经网路 163
6.1 仿真退火算法 163
6.1.1 仿真退火算法 164
6.1.2 改进的模拟退火法 167
6.1.3 SA算法的收敛性 170
6.2 Boltzmann机 172
6.2.1 Boltzmann机模型 172
6.2.2 能量函数 173
6.2.3 学习算法 175
6.2.4 Boltzmann机学习算法推导 178
6.3 NN的概率统计法 180
6.4 平行分布Cauchy机 185
6.5 神经网路的熵理论 188
6.5.1 NN计算能量与熵 189
6.5.2 同步并行计算 191
6.5.3 异步串行计算 192
6.6 动力系统的分维学 196
6.6.1 Hausdorff维数 196
6.6.2 分维的量度 198
6.7 分维神经网路 201
6.7.1 分维NN结构 201
6.7.2 讯息的储存 202
第七章 神经网路的统一描述与Systolic数组制作 207
7.1 Systolic数组 207
7.1.1 Systolic数组基本概念 207
7.1.2 Systolic数组结构 209
7.1.3 Systolic实用算法 214
7.1.4 Systolic数组的应用 216
7.2 波前阵列处理机 219
7.3 神经网路的通有迭代模型 220
7.3.1 回忆阶段的通有公式 221
7.3.2 学习阶段的通有公式 223
7.4 回归BP和HMM的统一描述 231
7.4.1 回归BP神经网路 231
7.4.2 隐元Markov模型（HMM） 233
7.5 算法到Systolic数组／波前数组结构的映像 235
7.6 通有迭代ANN模型的Systolic设计 238
7.6.1 回忆阶段系统的环形Systolic设计 239
7.6.2 学习阶段的环形Systolic设计 242
第八章 连续时间非线性神经网路模型及其时空特征 253
8.1 通有连续时间神经网路模型 253
8.1.1 通有NN模型 253
8.1.2 通有NN的稳定性 255
8.1.3 通有NN的计算能量函数 260
8.1.4 包含有不稳定子系统的大型神经网路稳定性分析 261
8.2 通有神经网路模型的关联稳定性 265
8.2.1 有向图 265
8.2.2 大型动力系统的结构与结构扰动 268
8.2.3 神经网路的关联稳定性 271
8.3 通有神经网路的时空结构与延时动力学 290
8.3.1 通有神经网路模型的渐近行为和延时稳定性 291
8.3.2 通有神经网路模型的延时关联稳定性 299
第九章 神经网路的设计与综合 305
9.1 联想记忆设计要求 305
9.2 神经网路综合的基本方法 307
9.2.1 外积法（Outer Product Method—OPM） 307
9.2.2 投影学习规则 309
9.2.3 特征结构法（Eigenstructure Method） 311
9.2.4 非对称连接矩阵网路综合 314
9.2.5 小结 317
9.3 Hopfield型同步离散神经网路用于AM的综合 318
9.3.1 神经网路模型 318
9.3.2 离散Hopfield型神经网路的稳定性分析 319
9.3.3 神经网路综合 326
9.4 Hopfield连续时间联想记忆的综合 330
9.4.1 Hopfield模型 330
9.4.2 AM设计 331
9.4.3 渐近稳定性 331
9.4.4 设计约束 333
9.4.5 综合程序 334
9.5 超闭正立体上线性神经网路的综合 337
9.5.1 综合问题 337
9.5.2 综合策略 338
9.5.3 综合过程 338
9.6 不连续神经网路系统的综合 343
9.6.1 基本综合问题 344
9.6.2 综合策略 344
9.6.3 综合过程 345
9.6.4 举例 351
第十章 神经优化计算 357
10.1 Hopfield模型理论分析 357
10.1.1 Hopfield模型的特征向量表示 358
10.1.2 CAM性质 259
10.2 TSP问题 362
10.2.1 TSP问题描述 362
10.2.2 连接矩阵特征值与网路的动力学分析 364
10.3 神经优化计算的一种新方法 373
10.3.1 神经网路广义收敛定理 373
10.3.2 神经优化计算的新算法 377
第十一章 神经网路专家系统 381
11.1 专家系统的发展与现状 381
11.2 神经网路专家系统基本原理与结构 384
11.2.1 神经网路专家系统的基本原理 384
11.2.2 神经网路专家系统的基本结构 384
11.3 基于神经网路系统的知识表示、获取与推理 386
11.3.1 神经网路及其矩阵表示 386
11.3.2 知议表示的神经网路方法 387
11.3.3 基于神经网路系统的知识获取 389
11.3.4 基于神经网路系统的平行推理 392
11.4 组合神经网路专家系统的制作 394
11.5 小结 396
第十二章 神经网路计算器及其VLSI制作 399
12.1 神经网路计算器 399
12.1.1 神经网路计算器的分类 399
12.1.2 直接基于硬件的神经网路计算器制作 401
12.1.3 基于现代数字计算器的神经网路计算器制作 402
12.2 神经网路的数字VLSI制作 406
12.3 神经网路的电压模式仿真VLSI制作 410
12.3.1 仿真神经网路电路基本原理 411
12.3.2 MOSFET—C神经网路 412
12.3.3 开关电容神经网路 414
12.4 神经网路的电流模式仿真VLSI设计与制作 416
12.4.1 电流模式VSLI设计 416
12.4.2 电流模式VLSI神经网路设计 418
12.4.3 高阶OTA—C神经元模型 421
12.4.4 电流模式VLSI神经网路的自动调谐 422
12.5 全集成仿真神经网路优化处理器 423
12.5.1 全集成优化处理器的提出 423
12.5.2 非线性规划神经网路计算器 424
12.5.3 全集成线性规划神经网路计算器 426
12.5.4 二次规划神经网路仿真电路 427
12.5.5 大型非线性规划的全集成神经网路仿真 429
展望 431
参考文献 433