1 绪论 1
1.1 人工神经网络概述 1
1.1.1 人脑与计算机信息处理能力的比较 1
1.1.2 人脑与计算机信息处理机制的比较 3
1.1.3 什么是人工神经网络 3
1.2 人工神经网络发展简史 4
1.2.1 启蒙时期 5
1.2.2 低潮时期 6
1.2.3 复兴时期 8
1.2.5 国内研究概况 9
1.2.4 新时期 9
1.3 人工神经网络的基本特征与功能 11
1.3.1 神经网络的基本特征 11
1.3.2 神经网络的基本功能 11
1.4 人工神经网络的应用领域 13
1.4.1 信息领域 13
1.4.2 自动化领域 13
1.4.3 工程领域 14
1.4.4 医学领域 14
1.4.5 经济领域 15
1.5 本章小结 15
思考与练习 16
2.1 人工神经网络的生物学基础 17
2.1.1 生物神经元的结构 17
2 人工神经网络基础知识 17
2.1.2 生物神经元的信息处理机理 18
2.2 人工神经元模型 20
2.2.1 神经元的建模 20
2.2.2 神经元的数学模型 21
2.2.3 神经元的转移函数 22
2.3 人工神经网络模型 23
2.3.1 网络拓扑结构类型 23
2.4 人工神经网络学习 25
2.3.2 网络信息流向类型 25
2.4.1 Hebbian学习规则 27
2.4.2 Perceptron(感知器)学习规则 29
2.4.3 δ(Delta)学习规则 29
2.4.4 Widrow-Hoff学习规则 30
2.4.5 Correlation(相关)学习规则 31
2.4.6 Winner-Take-All(胜者为王)学习规则 31
2.4.7 Outstar(外星)学习规则 31
2.5 本章小结 32
思考与练习 33
3.1.2 感知器的功能 34
3.1.1 感知器模型 34
3.1 单层感知器 34
3 前馈神经网络 34
3.1.3 感知器的局限性 37
3.1.4 感知器的学习算法 37
3.2 多层感知器 38
3.3 自适应线性单元(ADALINE)简介 40
3.3.1 ADALINE模型 41
3.3.2 ADALINE学习算法 41
3.3.3 ADALINE应用 42
3.4.1 基于BP算法的多层前馈网络模型 43
3.4 误差反传(BP)算法 43
3.4.2 BP学习算法 44
3.4.3 BP算法的程序实现 47
3.4.4 多层前馈网络的主要能力 48
3.4.5 误差曲面与BP算法的局限性 48
3.5 标准BP算法的改进 49
3.5.1 增加动量项 50
3.5.2 自适应调节学习率 50
3.5.3 引入陡度因子 50
3.6 基于BP算法的多层前馈网络设计基础 51
3.6.1 网络信息容量与训练样本数 51
3.6.2 训练样本集的准备 51
3.6.4 多层前馈网络结构设计 55
3.6.3 初始权值的设计 55
3.6.5 网络训练与测试 56
3.7 基于BP算法的多层前馈网络应用与设计实例 57
3.7.1 基于BP算法的多层前馈网络用于催化剂配方建模 57
3.7.2 基于BP算法的多层前馈网络用于汽车变速器最佳挡位判定 58
3.7.3 基于BP算法的多层前馈网络用于图像压缩编码 58
3.7.4 基于BP算法的多层前馈网络用于水库优化调度 59
3.8 本章小结 60
思考与练习 60
4.1 竞争学习的概念与原理 63
4.1.1 基本概念 63
4 自组织神经网络 63
4.1.2 竞争学习原理 64
4.2 自组织特征映射(SOM)神经网络 67
4.2.1 SOM网络的生物学基础 67
4.2.2 COM网络的拓扑结构与权值调整域 67
4.2.3 COM网络的运行原理与学习算法 68
4.3 自组织特征映射网络的设计与应用 72
4.3.1 SOM网络的设计基础 72
4.3.2 SOM网络的应用与设计实例 74
4.4 对偶传播(CPN)神经网络 76
4.4.1 网络结构与运行原理 77
4.4.2 CPN的学习算法 77
4.4.3 改进的CPN网络 79
4.5 自适应共振理论(ART) 80
4.4.4 CPN网络的应用 80
4.5.1 ART1型网络 81
4.5.2 ART2型网络 87
4.6 本章小结 91
思考与练习 92
5 反馈神经网络 94
5.1 离散型Hopfield神经网络(DHNN) 94
5.1.1 网络的结构与工作方式 94
5.1.2 网络的稳定性与吸引子 95
5.1.3 网络的权值设计 100
5.1.4 网络的信息存储容量 102
5.2.1 网络的拓扑结构 103
5.2 连续型Hopfield神经网络(CHNN) 103
5.2.2 能量函数与稳定性分析 104
5.3 Hopfield网络应用与设计实例 105
5.3.1 应用DHNN网解决联想问题 105
5.3.2 应用CHNN网解决优化计算问题 105
5.4 双向联想记忆(BAM)神经网络 108
5.4.1 BAM网络结构与原理 109
5.4.2 能量函数与稳定性 109
5.4.3 BAM网络的权值设计 110
5.4.4 BAM网络的应用 111
5.5 随机神经网络 112
5.5.1 模拟退火原理 113
5.5.2 Boltzmann机 114
5.6 本章小结 118
思考与练习 118
6 局部逼近神经网络 120
6.1 CMAC网络的结构 120
6.2 CMAC网络的工作原理 121
6.2.1 从X到M的映射 121
6.2.2 从M到A的映射 123
6.2.3 从A到Ap的映射 124
6.2.4 从Ap到F的映射 124
6.4 CMAC网络的应用 125
6.3 CMAC网络的学习算法 125
7 神经网络的系统设计与软件实现 127
7.1 神经网络系统总体设计 127
7.1.1 神经网络的适用范围 127
7.1.2 神经网络的设计过程与需求分析 128
7.1.3 神经网络的性能评价 129
7.1.4 输入数据的预处理 131
7.2 神经网络的软件实现 132
7.2.1 软件运行的若干问题 132
7.2.2 软件实现的若干问题 133
7.3 神经网络的高级开发环境 134
7.3.1 神经网络的开发环境及其特征 134
7.3.2 MATLAB神经网络工具箱 135
7.3.3 其他神经网络开发环境简介 137
8 神经网络的硬件实现 139
8.1 概述 139
8.1.1 主要研究内容 139
8.1.2 目前状况 139
8.1.3 发展前景 141
8.2 神经元器件 141
8.2.1 模拟式神经元器件 141
8.2.2 数字式神经元器件 142
8.2.3 FPGA神经元结构 143
8.3.2 Systolic系统结构 144
8.3.3 树流水式系统结构 144
8.3.1 总线连接系统结构 144
8.3 神经网络系统结构 144
8.3.4 自组织类系统结构 145
8.4 神经网络的光学实现 146
8.4.1 光学技术与神经网络 146
8.4.2 光学逻辑器件 147
8.4.3 光神经网络的研究现状 148
9 人工神经系统 150
9.1 人工神经系统的基本概念 150
9.1.1 生物神经系统 150
9.2.1 高级中枢神经系统 151
9.2 人工神经系统的体系结构 151
9.1.2 人工神经系统 151
9.2.2 低级中枢神经系统 152
9.2.3 外周神经系统 153
9.3 人工神经系统的控制特性 154
9.3.1 神经快速、分区控制系统 154
9.3.2 体液慢速、分工控制系统 154
9.3.3 人体神经控制系统 155
9.4 人工神经系统的信息模式 156
9.4.1 “数字-模拟”混合信息模式 156
9.4.2 “串行-并行”兼容信息模式 156
9.5.1 拟人智能综合自动化系统 157
9.5.2 人工鱼的总体技术方案 157
9.5 人工神经系统的应用示例 157
9.4.3 “集中-分散”结合信息模式 157
10 回顾与展望 160
10.1 人工神经网络研究中的几个问题 160
10.2 人工神经网络研究展望 161
10.2.1 应用研究的新特点——多学科综合 161
10.2.2 实现技术研究的当务之急——神经网络的硬件实现 161
10.2.3 理论研究的新方向——从人工神经网络到人工神经系统 162
附录1 常用神经网络源程序 163
附录2 神经网络常用术语英汉对照 190
参考文献 192