第一章 绪论 1
1.1 模式识别和模式的概念 1
1.2 模式识别系统 2
1.3 关于模式识别方法的一些问题 3
1.4 关于本书的内容安排 6
第二章 贝叶斯决策理论 8
2.1 引言 8
2.2 几种常用的决策规则 8
2.2.1 基于最小错误率的贝叶斯决策 8
2.2.2 基于最小风险的贝叶斯决策 12
2.2.3 在限定一类错误率条件下使另一类错误率为最小的两类别决策 15
2.2.4 最小最大决策 16
2.2.5 序贯分类方法 18
2.2.6 分类器设计 19
2.3 正态分布时的统计决策 23
2.3.1 正态分布概率密度函数的定义及性质 23
2.3.2 多元正态概型下的最小错误率贝叶斯判别函数和决策面 29
2.4 关于分类器的错误率问题 34
2.4.1 在一些特殊情况下错误率的理论计算 34
2.4.2 错误率的上界 37
习题 41
3.1 引言 44
第三章 概率密度函数的估计 44
3.2 参数估计的基本概念 45
3.2.1 最大似然估计 45
3.2.2 贝叶斯估计和贝叶斯学习 48
3.3 正态分布的监督参数估计 52
3.3.1 最大似然估计示例 52
3.3.2 贝叶斯估计和贝叶斯学习示例 53
3.4 非监督参数估计 57
3.4.1 非监督最大似然估计中的几个问题 57
3.4.2 正态分布情况下的非监督参数估计 60
3.5.1 基本方法 63
3.5 总体分布的非参数估计 63
3.5.2 parzen窗法 66
3.5.3 Kn-近邻估计 70
3.6 关于分类器错误率的估计问题 71
3.6.1 关于已设计好分类器时错误率的估计问题 71
3.6.2 关于未设计好分类器时错误率的估计问题 74
习题 79
第四章 线性判别函数 81
4.1 引言 81
4.1.1 线性判别函数的基本概念 81
4.1.2 广义线性判别函数 83
4.1.3 设计线性分类器的主要步骤 85
4.2 Fisher线性判别 85
4.3.1 几个基本概念 89
4.3 感知准则函数 89
4.3.2 感知准则函数及其梯度下降算法 91
4.4 最小错分样本数准则 93
4.4.1 解线性不等式组的共轭梯度法 93
4.4.2 解线性不等式组的搜索法 96
4.5 最小平方误差准则函数 99
4.5.1 平方误差准则函数及其伪逆解 99
4.5.2 MSE准则函数的梯度下降算法 102
4.5.3 随机MSE准则函数及其随机逼近算法 102
4.6.1 随机最小错误率线性判别准则函数 104
4.6 随机最小错误率线性判别准则函数 104
4.6.2 关于Jer(a)准则的随机逼近算法 107
4.6.3 设计考虑和应用实例 109
4.7 多类问题 110
4.7.1 多类问题的基本概念 110
4.7.2 决策树简介 111
习题 115
第五章 非线性判别函数 118
5.1 分段线性判别函数的基本概念 118
5.1.1 基于距离的分段线性判别函数 118
5.1.2 分段线性判别函数 120
5.1.3 分段线性分类器设计的一般考虑 120
5.2.1 分段线性判别函数的表示 123
5.2 用凹函数的并表示分段线性判别函数 123
5.2.2 算法步骤 124
5.3 用交遇区的样本设计分段线性分类器 127
5.3.1 算法基本思想 127
5.3.2 紧互对原型对与交遇区 127
5.3.3 局部训练法 128
5.3.4 决策规则 129
5.4 二次判别函数 131
习题 132
6.1.1 最近邻决策规则 133
6.1.2 最近邻法的错误率分析 133
6.1 最近邻法 133
第六章 近邻法 133
6.2 K-近邻法 137
6.3 关于减少近邻法计算量和存储量的考虑 140
6.3.1 近邻法的快速算法 140
6.3.2 剪辑近邻法 143
6.3.3 压缩近邻法 151
6.4 可做拒绝决策的近邻法 152
6.4.1 具有拒绝决策的K-近邻法 152
6.4.2 具有拒绝决策的剪辑近邻法 153
6.5 最佳距离度量近邻法 154
习题 158
第七章 经验风险最小化和有序风险最小化方法 159
7.1 平均风险最小化和经验风险最小化 159
7.2 有限事件类情况 160
7.3 线性分界权向量数的估计 161
7.4 事件出现频率一致收敛于其概率的条件 162
7.5 生长函数的性质 163
7.6 经验最优判决规则偏差的估计 164
7.7 经验最优判决规则偏差估计的改进 165
7.8 有序风险最小化方法 166
7.8.1 判决规则选择准则 167
7.8.2 几种判决规则类的排序方法 168
习题 172
8.1.2 一些基本概念 173
8.1.1 问题的提出 173
8.1 基本概念 173
第八章 特征的选择与提取 173
8.2 类别可分离性判据 175
8.2.1 基于距离的可分性判据--类内类间距离 175
8.2.2 基于概率分布的可分性判据 177
8.2.3 基于熵函数的可分性判据 180
8.3 特征提取 181
8.3.1 按欧氏距离度量的特征提取方法 182
8.3.2 按概率距离判据的特征提取方法 185
8.3.3 用散度准则函数的特征提取器 188
8.3.4 多类情况 190
8.3.5 基于判别熵最小化的特征提取 191
8.3.6 两维显示 193
8.4 特征选择 195
8.4.1 最优搜索算法 196
8.4.2 次优搜索法 199
8.4.3 可分性判据的递推计算 201
习题 201
第九章 基于Karhunen-Loeve展开式的特征提取 203
9.1 傅里叶级数展开式 203
9.2 Karhunen-Loeve展开式 204
9.3 K-L展开式的性质 206
9.3.1 展开系数 206
9.3.2 表示熵 207
9.3.3 总体熵 208
9.4 K-L坐标系的产生矩阵 209
9.5 从类平均向量中提取判别信息 209
9.6 包含在类平均向量中判别信息的最优压缩 211
9.7 包含在类中心化特征向量中判别信息的提取 212
9.8 用于非监督模式识别问题中的特征提取 214
习题 215
第十章 非监督学习方法 216
10.1 引言 216
10.2 单峰子集(类)的分离方法 216
10.2.1 投影方法 216
10.2.2 基于对称集性质的单峰子集分离法 218
10.2.3 单峰子集分离的迭代算法 219
10.3 类别分离的间接方法 220
10.3.1 动态聚类方法 221
10.3.2 近邻函数准则算法 227
10.4 分级聚类方法 230
10.5 非监督学习方法中的一些问题 233
习题 234
第十一章 一维数字信号的识别 236
11.1 引言 236
11.2 数字滤波器 236
11.3 谱分析 238
11.3.1 自相关函数估计 238
11.3.2 周期图 239
11.3.3 时间序列模型和谱估计 240
11.4 短时傅里叶分析 242
11.5 一维信号模式识别的几个例子 244
11.5.1 统计模式识别在地震波解释中的应用 244
11.5.2 利用声发射信号监测金属材料缺陷 246
11.5.3 核反应堆运行情况的监控应用 247
第十二章 二维图像的特征提取和识别 248
12.1 引言 248
12.1.1 二维图象模式 248
12.1.2 图象模式识别的目的 248
12.2 数字化图象的获取 248
12.3.1 一阶灰度统计量的分析 250
12.3 区域的灰度与纹理特性的度量 250
12.3.2 局部特性统计量的分析 252
12.3.3 联合灰度统计量分析 253
12.3.4 灰度游程长度统计量分析 257
12.3.5 功率谱的分析 258
12.4 图象分割 260
12.4.1 阈值分割技术 260
12.4.2 聚类分割技术 261
12.4.3 区域生长技术 262
12.4.4 区域的分裂与合并技术 263
12.5 边缘检测 265
12.5.1 边缘元素的检测 266
12.5.2 边界(轮廓)的跟踪 268
12.5.3 区域边界的链码表示 270
12.6 区域形状特性的度量 271
12.6.1 几何特征 271
12.6.2 矩 272
12.6.3 傅里叶描绘子 274
12.7 二维图象模式识别的应用实例 279
12.7.1 卫星遥感图象的识别 279
12.7.2 显微细胞图象的识别 282
参考书目 284
附录A 几种最优化算法 285