第1章 绪论 1
1.1机器感知 1
1.2一个例子 1
1.3模式识别系统 7
1.4设计循环 11
1.5学习和适应 12
1.6本章小结 13
全书各章概要 13
文献和历史评述 14
参考文献 15
第2章 贝叶斯决策论 16
2.1引言 16
2.2贝叶斯决策论——连续特征 18
2.3最小误差率分类 20
2.3.1极小化极大准则 21
2.3.2Neyman-Pearson准则 22
2.4分类器、判别函数及判定面 23
2.5正态密度 25
2.6正态分布的判别函数 28
2.7误差概率和误差积分 35
2.8正态密度的误差上界 36
2.9贝叶斯决策论——离散特征 40
2.10丢失特征和噪声特征 43
2.11贝叶斯置信网 44
2.12复合贝叶斯决策论及上下文 49
本章小结 50
文献和历史评述 51
习题 52
上机练习 63
参考文献 65
3.1引言 67
第3章 最大似然估计和贝叶斯参数估计 67
3.2最大似然估计 68
3.3贝叶斯估计 73
3.4贝叶斯参数估计：高斯情况 74
3.5贝叶斯参数估计：一般理论 78
3.6充分统计量 83
3.7维数问题 87
3.8成分分析和判别函数 94
3.9期望最大化算法 102
3.10隐马尔可夫模型 105
本章小结 114
文献和历史评述 115
习题 115
上机练习 127
参考文献 130
第4章 非参数技术 132
4.1引言 132
4.2概率密度的估计 132
4.3Parzen窗方法 134
4.4kn-近邻估计 143
4.5最近邻规则 146
4.6距离度量和最近邻分类 153
4.7模糊分类 157
4.8RCE网络 160
4.9级数展开逼近 161
本章小结 163
文献和历史评述 164
习题 165
上机练习 171
参考文献 175
5.2线性判别函数和判定面 177
5.1引言 177
第5章 线性判别函数 177
5.3广义线性判别函数 180
5.4两类线性可分的情况 183
5.5感知器准则函数最小化 186
5.6松弛算法 192
5.7不可分的情况 195
5.8最小平方误差方法 196
5.9Ho-Kashyap算法 203
5.10线性规划算法 209
5.11支持向量机 211
5.12推广到多类问题 216
本章小结 220
文献和历史评述 220
习题 221
上机练习 226
参考文献 229
第6章 多层神经网络 230
6.1引言 230
6.2前馈运算和分类 231
6.3反向传播算法 235
6.4误差曲面 241
6.5反向传播作为特征映射 243
6.6反向传播、贝叶斯理论及概率 246
6.7相关的统计技术 247
6.8改进反向传播的一些实用技术 248
6.9二阶技术 257
6.10其他网络和训练算法 262
6.11正则化、复杂度调节和剪枝 267
本章小结 269
文献和历史评述 269
习题 271
上机练习 277
参考文献 280
第7章 随机方法 284
7.1引言 284
7.2随机搜索 284
7.3Boltzmann学习 291
7.4Boltzmann网络和图示模型 300
7.5进化方法 302
7.6遗传规划 306
文献和历史评述 308
本章小结 308
习题 309
上机练习 313
参考文献 315
第8章 非度量方法 318
8.1引言 318
8.2判定树 318
8.3CART 320
8.4其他树方法 331
8.5串的识别 333
8.6文法方法 339
8.7文法推断 345
8.8基于规则的方法 347
本章小结 350
文献和历史评述 350
习题 351
上机练习 358
参考文献 362
第9章 独立于算法的机器学习 365
9.1引言 365
9.2没有天生优越的分类器 366
9.3偏差和方差 375
9.4统计量估计中的重采样技术 380
9.5分类器设计中的重采样技术 383
9.6分类器的评价和比较 389
9.7组合分类器 398
本章小结 401
文献和历史评述 402
习题 403
上机练习 408
参考文献 412
10.2混合密度和可辨识性 415
第10章 无监督学习和聚类 415
10.1引言 415
10.3最大似然估计 418
10.4对混合正态密度的应用 419
10.5无监督贝叶斯学习 426
10.6数据描述和聚类 432
10.7聚类的准则函数 435
10.8迭代最优化 440
10.9层次聚类 442
10.10验证问题 447
10.11在线聚类 449
10.12图论方法 455
10.13成分分析 456
10.14低维数据表示和多维尺度变换 460
本章小结 466
文献和历史评述 467
习题 468
上机练习 475
参考文献 477
A.1符号和记号 481
附录A数学基础 481
A.2线性代数 484
A.3拉格朗日乘数法 489
A.4概率论 490
A.5高斯函数的导数和积分 500
A.6假设检验 505
A.7信息论基础 507
A.8计算复杂度 509
文献评述 510
参考文献 510
索引 512