第一章 绪论 1
1.1 模式识别的概念 1
1.2 模式识别的方法 2
第二章 贝叶斯决策理论 4
2.1 最小错误贝叶斯决策规则 4
2.2 最小风险贝叶斯决策规则 9
2.3 聂曼—皮尔逊决策规则 12
2.4 最小最大决策 15
2.5 正态分布的统计决策 16
2.5.1 多元正态分布 17
2.5.2 正态分布模式的贝叶斯分类器 18
2.5.3 正态分布且等协方差时的错误率计算 20
习题 22
第三章 概率密度估计 25
(一)参数估计 25
3.1 均值向量和协方差矩阵的矩法估计 26
3.2 最大似然估计 27
3.3 贝叶斯估计 30
3.3.1 参数的贝叶斯估计 30
3.3.2 概率密度的贝叶斯估计 31
3.3.3 递推的贝叶斯估计 32
(二)非参数估计 37
3.4 直方图法 37
3.5 k近邻法 38
3.5.1 k近邻法估计密度 38
3.5.2 k近邻决策规则 39
3.5.3 最近邻决策的错误率 40
3.6 用基函数展开法 40
3.7 Parzen窗法 43
3.7.1 Parzen窗估计法 43
3.7.3 估计量?n(x)为密度函数的条件 44
3.7.2 窗函数的选择 44
3.7.4 窗宽hn对估计量?n(x)的影响 45
3.7.5 估计量?(x)的统计性质 45
习题 47
第四章 线性判别函数 50
4.1 线性判别函数的基本概念 50
4.1.1 线性判别函数 50
4.1.2 两类问题的决策规则和决策面 50
4.1.3 广义线性判别函数 52
4.1.4 设计线性分类器的主要步骤 53
4.2 Fisher线性判别 54
4.3 感知器准则函数 57
4.3.1 几个基本概念 57
4.3.2 感知器准则函数及其梯度下降算法 59
4.4.1 平方误差准则函数及其伪逆解 63
4.4 最小平方误差准则函数 63
4.4.2 与Fisher线性判别的关系 65
4.4.3 对贝叶斯判别函数的渐近逼近 67
4.4.4 MSE准则函数的梯度下降算法 68
4.5 支持向量机 69
4.5.1 样本线性可分 69
4.5.2 样本线性不可分 74
4.6 多类问题 75
习题 77
第五章 无监督学习和聚类 79
5.1 无监督的参数估计 79
5.1.1 混合密度及其可辨识性 79
5.1.2 最大似然估计 80
5.1.3 对混合正态密度的应用 83
5.2.1 模式间的相似测度 85
5.2 聚类分析的基本概念 85
5.2.2 聚类准则函数 88
5.3 聚类算法 91
5.3.1 层次聚类法 92
5.3.2 c-均值算法 93
习题 97
第六章 特征选择与提取 100
6.1 引言 100
6.2 基于几何距离的特征提取 100
6.2.1 基于距离的类别可分离性判据 100
6.2.2 按基于几何距离判据的特征提取方法 102
6.3 基于概率分布的特征提取 105
6.3.1 基于概率分布的可分性判据 105
6.3.2 用散度准则函数JD的特征提取方法 108
6.4.1 K-L变换 111
6.4 基于K-L变换的特征提取 111
6.4.2 基于K-L变换的特征提取 113
6.5 特征选择 118
6.5.1 最优搜索算法 119
6.5.2 次优搜索算法 120
习题 122
第七章 模糊模式识别 124
7.1 引言 124
7.2 模糊集合及其运算 124
7.2.1 普通集合及其特征函数 124
7.2.2 模糊集合的定义及其表示 125
7.2.3 模糊集合的基本运算 127
7.2.4 模糊集合的λ截集 129
7.3 模糊模式识别的一些方法 130
7.3.1 模糊模式识别的直接方法 130
7.3.2 基于择近原则的模糊模式识别 132
7.4 模糊关系 135
7.4.1 普通集合间的关系 135
7.4.2 模糊关系及模糊矩阵 137
7.5 模糊聚类分析 141
7.5.1 基于模糊等价关系的聚类方法 141
7.5.2 模糊c-均值算法 145
习题 148
第八章 人工神经网络 150
8.1 单层感知器网络 150
8.1.1 两类问题 150
8.1.2 多类情况 152
8.1.3 激励函数 152
8.2 前向多层神经网络 153
8.2.1 异或问题 153
8.2.2 前向多层神经网络的BP算法 155
8.2.3 关于BP算法的几点注解 159
8.3 广义线性分类器 160
8.3.1 广义线性分类器的结构 160
8.3.2 高阶神经网络 161
8.3.3 径向基函数网络 163
附录A 线性代数 166
A.1 矩阵运算 166
A.2 向量的内积与外积 168
A.3 矩阵的本征值与本征向量 168
A.4 矩阵的导数 170
附录B 多维随机变量 173
B.1 二维情形(X,Y) 173
B.2 多维情形X=(X1,…,Xd) 173
B.3 数学期望、均值向量和协方差矩阵 175
参考书目 177