神经网络设计方法与实例分析PDF电子书下载

第1章　神经网络模型评估及选择 1

1.1　神经网络的泛化能力［1-3］ 1

1.2　神经网络预测模型的一般描述［2,3］ 2

1.3 研究神经网络泛化能力的理论基础［2-6］ 3

1.3.1 经验风险最小化原则 3

1.3.2 结构风险最小化原则 4

1.3.3 偏差-方差分解 5

1.4 影响神经网络的泛化能力的具体因素［2-5］ 6

1.4.1 神经网络具有泛化能力的基本必要条件 7

1.4.2 噪声的影响 7

1.4.3 “欠拟合”和“过拟合” 8

1.5 提高神经网络的泛化能力的方法［4,6］ 9

1.5.1 模型结构选择 9

1.5.2 训练集扩展方法 11

1.5.3 提前停止 12

1.5.4 权值衰减 12

1.5.5 贝叶斯学习 13

1.5.6 神经网络集成［7-14］ 14

1.6 神经网络模型的评估与选择［4-6,15］ 17

1.6.1 神经网络模型的评估 17

1.6.2 神经网络模型的选择 18

本章参考文献 22

第2章 基于BP算法的多层感知器的设计与应用 23

2.1 基于BP算法的多层感知器网络工作原理与主要特点［1-6］ 23

2.1.1 基于BP算法的多层前馈网络模型 23

2.1.2 BP学习算法 25

2.1.3 BP算法的程序实现 27

2.1.4 标准BP算法的改进 28

2.2 基于BP算法的多层前馈网络设计基础［1-6］ 29

2.2.1 网络信息容量与训练样本数 30

2.2.2 训练样本集的准备 30

2.2.3 初始权值的设计 34

2.2.4 多层前馈网结构设计 34

2.2.5 网络训练与测试 36

2.3 基于BP算法的多层前馈网络应用与设计实例 37

2.3.1 基于BP算法的多层前馈网络在催化剂配方建模中的应用［8］ 37

2.3.2 基于BP算法的多层前馈网络在城市年用水量预测中的应用［9］ 38

2.3.3 基于BP算法的多层前馈网络在煤与瓦斯突出预测中的应用［10］ 41

2.3.4 基于BP算法的多层前馈网络在磨煤机料位监测中的应用［11］ 45

2.3.5 基于BP算法的多层前馈网络在道路安全评价中的应用［12］ 48

2.3.6 基于BP算法的多层前馈网络在项目投资风险评价中的应用［13］ 54

2.3.7 基于BP算法的多层前馈网络在大气环境质量评价中的应用［14］ 56

2.3.8 基于BP网络集成的除草剂定量构效关系模型［15,16］ 66

2.3.9 基于BP网络集成的物流中心选址模型［17］ 70

本章参考文献 75

第3章 径向基函数神经网络的设计与应用 77

3.1 径向基函数网络原理与学习算法［1］ 77

3.1.1 正则化RBF网络原理与学习算法 77

3.1.2 广义RBF网络原理与学习算法 80

3.2 RBF网络的设计要点［2］ 83

3.2.1 随机选取RBF中心 83

3.2.2 自组织学习选取RBF中心及网络设计 83

3.2.3 有监督学习选取RBF中心及网络设计 84

3.2.4 正交最小二乘（OLS）法选取RBF中心及网络设计 84

3.2.5 递归最小二乘（OLS）法选取RBF中心及网络设计 84

3.2.6 其他方法 85

3.2.7 RBF网络与多层感知器的特点与设计比较 85

3.3 RBF网络的应用实例 86

3.3.1 RBF网络在液化气销售量预测中的应用［3］ 86

3.3.2 RBF网络在地表水质评价中的应用［4］ 86

3.3.3 RBF网络在汽油干点软测量中的应用［5］ 88

3.3.4 RBF网络在地下温度预测中的应用［6］ 89

3.3.5 RBF网络在工程车辆自动变速控制中的应用［7］ 92

3.3.6 RBF网络在人脸年龄估计中的应用［8］ 95

3.3.7 RBF网络在专利发展趋势预测中的应用［9］ 97

3.3.8 RBF网络在图像融合中的应用［10］ 100

3.3.9 RBF网络红外光谱法用于中药大黄样品的真伪分类［11］ 104

3.3.10 RBF网络在船用柴油机智能诊断中的应用［12］ 106

3.3.11 RBF网络在多级入侵检测中的应用［13］ 109

本章参考文献 112

第4章 SOFM网络设计与应用 113

4.1 SOFM网络原理与学习算法［1］ 113

4.2 SOFM网络的设计基础［1］ 115

4.2.1 输出层设计 115

4.2.2 权值初始化问题 116

4.2.3 优胜邻域Nj*（t）的设计 117

4.2.4 学习率η（t）的设计 117

4.3 应用与设计实例 117

4.3.1 SOFM网络用于皮革外观效果分类［2］ 117

4.3.2 SOFM网络用于物流中心城市分类评价［3］ 119

4.3.3 SOFM网络用于遥感影像分类［4］ 121

4.3.4 SOFM网络用于火焰燃烧诊断［5］ 123

4.3.5 SOFM网络在防火树种分类中的应用［6］ 125

4.3.6 SOFM在基于汉字与部件聚类的汉字认知建模中的应用［7］ 128

4.3.7 SOFM网络在膨胀土分类中的应用［8］ 132

4.3.8 SOFM网络在水电厂技术供水系统故障诊断中的应用［9］ 136

4.3.9 SOFM网络在不同地区人力资本构成分析中的应用［10］ 141

本章参考文献 144

第5章 LVQ网络设计与应用 146

5.1 LVQ网络原理与学习算法［1］ 146

5.1.1 LVQ网络工作原理 146

5.1.2 LVQ网络的学习算法 147

5.2 LVQ网络设计要点［1］ 149

5.2.1　竞争层设计 149

5.2.2　权值初始化问题 150

5.2.3　学习率η（t）的设计 151

5.3　应用与设计实例 151

5.3.1 LVQ网络在证券投资基金分类中的应用［2］ 151

5.3.2 LVQ网络在探地雷达探雷中的应用［3］ 153

5.3.3 LVQ网络在苹果等级判别中的应用［4］ 154

5.3.4 LVQ网络在胃癌组织样品分类识别中的应用［5］ 157

5.3.5 LVQ网络在液压系统故障诊断中的应用［6］ 159

5.3.6 LVQ网络在汽车信贷客户分类中的应用研究［7］ 161

5.3.7　LVQ网络在土地利用／覆盖变化探测中的应用［8］ 162

5.3.8　LVQ网络在周期信号识别方面的扩展应用［9］ 165

本章参考文献 168

第6章　对偶传播神经网络 169

6.1 网络运行原理及学习算法［1］ 169

6.1.1 网络结构及运行原理 169

6.1.2　CPN的学习算法 170

6.2　CPN网的设计与改进［1］ 172

6.2.1 CPN网的设计要点 172

6.2.2　改进的CPN网 172

6.3　CPN网的应用 173

6.3.1 CPN网在烤烟烟叶颜色模式分类中的应用［1］ 173

6.3.2　CPN网络的水电机组振动故障诊断中的应用［2］ 174

6.3.3　CPN网络在博士学位论文质量评估中的应用［3］ 176

6.3.4 CPN网在人脸识别中的应用［4］ 178

6.3.5 CPN网络在时间序列预测问题中的应用［5］ 180

6.3.6　CPN网络在棉花异性纤维识别中的应用［6］ 182

本章参考文献 184

第7章　ART网络设计及应用 185

7.1　ART网络原理与算法［1-4］ 185

7.1.1 ART网络的主要特点 185

7.1.2　ARTⅠ型网络原理与算法 185

7.1.3　ARTⅡ型网络原理与算法 188

7.2　ART网络设计与改进［1-4］ 190

7.2.1　设计要点——警戒门限的选择 190

7.2.2　几种改进算法 191

7.3　ART网络应用实例 193

7.3.1 ARTⅠ型网络在故障诊断中的应用 193

7.3.2　ARTⅠ型网络在垃圾邮件过滤中的应用［7］ 195

7.3.3 ARTⅠ型网络在中文文档分类中的应用［8］ 197

7.3.4 ARTⅡA-E型网络在指纹识别中的应用［9］ 197

7.3.5　ARTⅡ型网络在压力容器焊缝超声波探伤中的应用［10］ 200

7.3.6 变形ART网络的应用 201

本章参考文献 205

第8章　Hopfield网络的设计与应用 207

8.1　离散型Hopfield网络［1］ 207

8.1.1　离散型Hopfield网络工作原理 207

8.1.2　网络的权值设计 209

8.2　连续型Hopfield网络［1］ 210

8.3　Hopfield网络应用实例 212

8.3.1 DHNN网络在杭州西湖富营养化分类中的应用［2］ 212

8.3.2　DHNN在数字水印算法中的应用［3,4］ 215

8.3.3 DHNN在信用风险评价中的应用［5］ 218

8.3.4 CHNN网解决TSP优化计算问题［1］ 221

8.3.5 CHNN网络在原料混匀中的应用［6］ 225

8.3.6 CHNN在经济负荷分配中的应用［7］ 228

本章参考文献 231

第9章 时序递归网络的设计与应用 232

9.1　递归网络常用模型 232

9.1.1　输入输出递归网络通用模型［1］ 232

9.1.2　Elman网络模型 233

9.1.3　递归多层感知器模型 234

9.2　递归网络的学习算法［1］ 234

9.2.1　历时反向传播学习算法 235

9.2.2　实时递归学习算法 237

9.3　递归网络的应用实例 239

9.3.1 NARX网络在系统辨识中的应用［2］ 239

9.3.2　E1man网络在股票价格预测中的应用［3］ 241

9.3.3　Elman网络在故障诊断中的应用［4］ 243

9.3.4　Elman网络集成在诺西肽发酵过程建模中的应用［5］ 245

9.3.5　递归神经网络在化工动态系统建模中的应用［6,7］ 247

9.3.6　递归神经网络在非线性预测语音编码中的应用［8］ 250

本章参考文献 252

第10章　CMAC网络的设计与应用 253

10.1 CMAC网络工作原理与设计要点［1］ 253

10.2 CMAC网络的学习算法 258

10.3　CMAC网络应用实例 258

10.3.1 CMAC网络在板厚控制系统中的应用［2］ 259

10.3.2　CMAC网络在机器人的手臂协调控制中的应用［3］ 261

10.3.3 CMAC网络在短期电价预测中的应用［4］ 263

10.3.4 CMAC网络在系统辨识中的应用［5］ 266

10.3.5　CMAC网络在温度传感器校正中的应用［6］ 268

10.3.6 CMAC网络在变压器故障诊断中的应用［7］ 271

本章参考文献 274

第11章　支持向量机的设计与应用 275

11.1 支持向量机的基本思想和构建［1,2］ 275

11.1.1 最优超平面的概念和构建 275

11.1.2　支持向量机的基本原理 278

11.1.3　支持向量机用于多分类问题 280

11.1.4　支持向量机用于回归问题 281

11.2　支持向量机的学习算法［1,2］ 282

11.3 支持向量机的特点及影响因素［2,3］ 284

11.3.1 支持向量机的特点 284

11.3.2 支持向量机的影响因素 285

11.4 支持向量机设计的应用实例 286

11.4.1 用SVM解决XOR问题［1］ 286

11.4.2 SVM在手写体数字识别中的应用［3］ 289

11.4.3 支持向量机在混合气体种类光谱识别中的应用［4］ 292

11.4.4 支持向量机在高速公路车流量预测中的应用［5］ 296

11.4.5 基于SVM的沙尘暴预测模型［6］ 298

11.4.6 SVM在人耳识别中的应用［7］ 300

11.4.7 SVM在锅炉燃烧工况识别中的应用［8］ 302

11.4.8 SVM在烤烟烟叶生长部分判别中的应用［9］ 304

本章参考文献 305

第12章 人工神经元网络设计开发平台 307

12.1 MATLAB神经网络工具箱函数及其应用［1,2］ 307

12.1.1 感知器神经网络工具箱函数 307

12.1.2 线性神经网络工具箱函数 312

12.1.3 BP神经网络工具箱函数 317

12.1.4 径向基神经网络工具箱函数 325

12.1.5 自组织神经网络工具箱函数 329

12.1.6 学习向量量化（LVQ）神经网络工具箱函数 337

12.1.7 Elman神经网络工具箱函数 340

12.1.8 Hopfield神经网络工具箱函数 345

12.2 基于MATLAB Simulink的神经网络控制［3］ 348

12.2.1 控制系统模型分类 348

12.2.2 系统设计过程 349

12.2.3 神经网络预测控制系统实例 349

12.3 其他几种神经网络开发环境介绍［4-13］ 358

12.3.1 神经网络软件NeuroSolutions 358

12.3.2 神经网络软件NeuralWorks ProfessionalⅡ/PLUS V 5.5 359

12.3.3 神经网络软件LmNet PF 360

12.3.4 Plexi神经网络开发环境 360

12.3.5 Neuroshell神经网络开发环境 360

12.3.6 NETSETⅡ神经网络开发环境 361

12.3.7 N-NET210神经网络开发环境 361

12.3.8 CaseNet神经网络开发环境 361

12.3.9 FS-Neuro神经网络开发平台 361

12.3.10 金自天正人工神经元网络开发平台软件V1.0 362

本章参考文献 362