出版者的话 1
译者序 1
前言 1
第1章 数据挖掘 1
1.1 引言 1
1.1.1 数据挖掘与知识发现 1
1.1.2 数据挖掘与数据分析 2
1.1.3 数据挖掘与统计学 2
1.1.4 数据挖掘与机器学习 3
1.2 数据挖掘—成功的例子 3
1.3 数据挖掘研究发展的主要原因 9
1.4 当前研究成果 9
1.5 图形模型和层次概率表示 10
1.6 新的应用 10
1.7 影响数据挖掘的趋势 11
1.8 研究挑战 12
1.9 实验平台和基础设施 13
参考文献 13
第2章 从商务角度看数据挖掘 15
2.1 引言 15
2.2 从数据挖掘工具到解决方案 16
2.3 数据挖掘系统的演变 17
2.4 知识发现过程 18
2.5 数据挖掘支撑技术概述 18
2.5.1 数据挖掘：验证与发现 19
2.5.2 决策支持系统 19
2.5.3 OLAP 20
2.5.4 桌面DSS 21
2.5.5 数据仓库 21
2.5.6 数据挖掘过程 22
2.6 数据挖掘技术 24
参考文献 25
第3章 数据挖掘算法的数据类型、输入和输出 26
3.1 引言 26
3.2 实例和特征 26
3.3 特征（数据）的不同类型 27
3.4 概念学习与概念描述 28
3.5 数据挖掘的输出—知识表示 30
3.5.1 分类学习算法的知识输出 30
3.5.2 聚类学习算法的输出 33
3.5.3 关联规则的输出 36
3.5.4 用于数值预测的树的输出 36
3.5.5 基于实例的学习和知识表示 38
参考文献 39
第4章 决策树—分类和回归树 40
4.1 引言 40
4.2 构造分类树 42
4.2.1 用于标称属性的ID3算法 42
4.2.2 信息论和信息熵 43
4.2.3 构造树 44
4.2.4 高分支属性 48
4.2.5 从ID3到C4.5 49
4.2.6 形象化地理解ID3和C4.5算法 49
4.3 CHAID 51
4.3.1 CHAID的数学工具 52
4.3.2 CHAID变量的类型 52
4.3.3 CHAID算法 52
4.3.4 CHAID算法描述 53
4.3.5 将CHAID用于气象数据 54
4.3.6 单调变量的预测子级别合并 56
4.4 CART（分类和回归树） 57
4.4.1 CART使用的不纯性度量 57
4.4.2 Gini指数 57
4.4.3 使用Gini指数—一个例子. 58
4.4.4 双化指数 59
4.4.5 有序双化 60
4.4.6 CART分析的步骤 60
4.5 回归树 60
4.5.1 回归树的一个例子 60
4.5.2 基于树的回归 61
4.5.3 最小二乘方回归树 63
4.5.4 LS回归树的有效生长 65
4.5.5 连续变量上的划分 66
4.5.6 离散变量上的划分 67
4.5.7 模型树 68
4.6 具有未知类值数据的类预测的一般问题 69
4.7 剪枝导论 71
4.8 模型评估 77
4.8.1 交叉确认：保持方法 78
4.8.2 模型比较 79
4.8.3 代价敏感的学习 80
习题 80
参考文献 84
第5章 数据挖掘的预处理和后处理 85
5.1 引言 85
5.2 数据预处理的步骤 85
5.3 离散化 86
5.3.1 人工方法 87
5.3.2 分箱 87
5.3.3 基于熵的离散化 88
5.3.4 找出分割点的其他简单方法 89
5.4 特征提取、选择和构造 91
5.4.1 特征提取 92
5.4.2 特征选择 94
5.4.3 特征构造 94
5.5 缺失数据及其处理方法和技术 94
5.5.1 什么是缺失数据 95
5.5.2 缺失数据的主要原因 95
5.5.3 缺失数据的机制 95
5.5.4 缺失数据的机制—一个人工例子 95
5.6 在决策树归纳中处理缺失数据的例子 97
5.7 后处理 99
参考文献 100
第6章 数据集 102
6.1 引言 102
6.2 隐形眼镜 102
6.3 莺尾属植物数据库 104
6.4 乳腺癌数据库 106
6.5 工资数据库 109
6.6 信用卡数据库 110
6.7 住宅数据库 111
6.8 1985年汽车进口数据库 114
6.9 徽章问题 117
6.9.1 问题描述 117
6.9.2 部分数据 118
第7章 关联规则挖掘 120
7.1 引言 120
7.2 事务数据库中关联规则的自动发现 120
7.3 Apriori算法 123
7.4 缺点 127
习题 127
参考文献 129
第8章 用开源和商业软件进行机器学习 130
8.1 用Weka进行机器学习 130
8.1.1 开始 130
8.1.2 装入数据 132
8.1.3 选择或过滤属性 134
8.1.4 离散化 135
8.1.5 关联规则挖掘 140
8.1.6 分类 142
8.1.7 聚类 146
8.2 XLMINER 150
参考文献 150
第9章 分类和回归算法 151
9.1 引言 151
9.2 朴素贝叶斯 151
9.2.1 朴素贝叶斯的零频率问题 153
9.2.2 缺失值和数值属性 153
9.3 多元回归分析 155
9.3.1 什么是回归分析 155
9.3.2 简单和多元回归分析 155
9.3.3 在市场营销中的应用 155
9.3.4 方法 155
9.3.5 使用Excel进行多元回归分析 156
9.3.6 输入数据 156
9.3.7 回归输出 158
9.4 逻辑斯谛回归 160
9.5 k-最近邻分类 163
9.5.1 k-近邻预测 165
9.5.2 k-NN算法的缺点 165
9.6 GMDH 166
9.6.1 引言 166
9.6.2 数据处理群组方法的背景 166
9.6.3 构建决策规则 168
9.6.4 实验结果 171
9.6.5 讨论和总结 171
9.7 进化计算和遗传算法 171
9.7.1 进化理论 172
9.7.2 遗传算法 175
9.7.3 使用遗传算法进行机器学习 177
习题 178
参考文献 180
第10章 支持向量机 182
10.1 引言 182
10.2 线性支持向量机的基本思想 185
10.3 软边缘SVM：线性核 187
10.3.1 线性SVM的线性规划公式表示 189
10.3.2 有训练误差的SVM：非线性核 190
10.4 邻近支持向量机 190
10.5 生成数据集 202
10.5.1 螺旋数据生成器 202
10.5.2 棋盘格数据集 203
10.5.3 多元正态分布数据生成器 204
10.6 问题及解答 206
习题 207
参考文献 207
第11章 聚类分析 209
11.1 引言 209
11.1.1 相似性及其度量 211
11.1.2 聚类的基本类型 218
11.2 划分聚类 230
11.3 k-中心点 233
11.4 现代聚类方法 234
11.5 BIRCH 236
11.6 DBSCAN 238
11.6.1 DBSCAN算法的概念 239
11.6.2 DBSCAN的基本概念和算法 240
11.6.3 算法 241
11.6.4 DBSCAN算法的优点 242
11.7 OPTICS 242
11.7.1 引言 242
11.7.2 OPTICS算法的动机 243
11.7.3 OPTICS采用的概念 243
11.7.4 OPTICS算法 243
11.7.5 可达图 250
11.7.6 优点 252
11.7.7 缺点 252
11.8 基于图划分的聚类 252
11.8.1 加权图划分 252
11.8.2 平衡图划分—基本原则 253
11.8.3 k路划分 256
11.9 CHAMELEON：两阶段聚类算法 256
11.9.1 数据建模 257
11.9.2 簇相似性建模 257
11.9.3 CHAMELEON的两个阶段 258
11.9.4 用例子说明CHAMELEON算法 259
11.10 COBWEB概念聚类算法 262
11.10.1 COBWEB算法 262
11.10.2 COBWEB：一个简单例子 264
11.11 GCLUTO：图形化聚类工具箱 270
11.11.1 概述 271
11.11.2 GCLUTO中的可用选项 277
11.11.3 使用GCLUTO进行文本挖掘 283
习题 285
参考文献 291
第12章 多维数据可视化 292
12.1 引言 292
12.2 多维可视化的图表表示 294
12.2.1 kiviat图 294
12.2.2 平行坐标系 295
12.2.3 3D散点图 295
12.2.4 3D曲线图 296
12.2.5 体积透视图 296
12.2.6 房图 297
12.2.7 Chernoff脸图 298
12.3 可视化数据挖掘 298
参考文献 299
附录A SVM公式：完全可分的线性分类器 300
附录B 图划分的矩阵形式 304