目录 1
前言 1
第1章 绪论 1
1.1 机器学习发展史 1
1.1.1 引言 1
1.1.2 热烈时期 2
1.1.3 冷静时期 3
1.1.4 复兴时期 3
1.1.5 蓬勃发展时期 4
1.2 机器学习研究基础 6
1.2.1 机器学习的一个实例 6
1.2.2 机器学习的基本模型 7
1.2.3 机器学习的主要策略 9
1.2.4 机器学习的算法基础 14
1.3 计算学习理论 17
1.3.1 可能近似正确学习模型（PAC） 18
1.3.2 有限假设空间的样本复杂度 20
1.3.3 与PAC模型有关的几种模型 21
1.3.4 假设空间复杂度的一个重要度量标准——VC-维 24
1.4 智能决策支持系统 25
1.4.1 智能决策支持系统发展过程 25
1.4.2 IDSS的系统功能与体系结构 27
1.4.3 IDSS的主要研究内容 29
1.4.4 智能决策支持系统的发展趋势 31
1.5 机器学习与智能决策支持系统 33
1.5.1 基于知识的IDSS发展中存在的问题 33
1.5.2 对智能的探讨 35
1.5.3 基于机器学习的IDSS框架 36
1.5.4 机器学习在智能决策支持系统中的应用 38
参考文献 40
第2章 归纳学习 41
2.1 概述 41
2.2 归纳学习 42
2.2.1 规则学习 42
2.2.2 决策树学习 43
2.2.3 科学发现 44
2.2.4 特征子集选择问题 45
2.3 归纳学习的逻辑基础 45
2.3.1 归纳逻辑与归纳推理 45
2.3.2 归纳推理规则 47
2.3.3 归纳学习中的知识表示 50
2.3.4 归纳偏置 52
2.4 决策树归纳学习 54
2.4.1 例子 54
2.4.2 CLS学习算法 55
2.4.3 ID系列学习算法 56
2.4.4 C4.5学习算法 64
2.5 关于决策树的深入讨论 65
2.5.1 决策树的评价标准 65
2.5.2 由决策树提取分类规则 67
2.5.3 测试属性的选择 68
2.5.4 树剪枝 70
2.5.5 测试属性空间的修改 75
参考文献 77
3.1 引言 79
第3章 范例推理 79
3.2 CBR研究的历史和现状 80
3.3 CBR中范例的表示方法及检索技术 82
3.4 CBR的修正技术 86
3.5 CBR系统的维护 89
3.5.1 引言 89
3.5.2 相关工作 90
3.5.3 CBR系统中范例库维护的定义及其构架 93
3.6 基于数据挖掘技术的范例推理系统 94
3.6.1 引言 94
3.6.2 范例推理中基于数据库的数据挖掘技术 95
3.6.3 范例库上知识发现的主要步骤与目标 96
3.6.4 范例库上知识发现的主要方法与技术 97
3.6.5 基于知识发现技术的CBR系统框架结构 99
3.7 基于神经网络的CBR系统 101
3.7.1 范例推理与神经网络 101
3.7.2 用IAC网络来构造CBR系统 102
3.8 CBR方法与其他方法的集成 105
3.8.1 相关研究 106
3.8.2 归纳技术与范例推理的结合 107
3.8.3 范例推理与专家系统的结合 108
3.9 CBR的进一步研究方向 110
参考文献 112
第4章 粗糙集 117
4.1 概述 117
4.1.1 粗糙集理论发展简史 117
4.1.2 粗糙集理论基本思想 118
4.1.3 粗糙集与其他不确定方法的比较 120
4.1.4 粗糙集理论研究现状 121
4.2 基本概念 123
4.2.1 知识与分类 123
4.2.2 不可分辨关系 125
4.3 粗糙集的基本理论 126
4.3.1 上近似集和下近似集 126
4.3.2 粗糙集中概念的物理意义 126
4.3.3 近似集的性质和近似精度 128
4.3.4 粗糙集的集合关系 130
4.4 知识的约简 132
4.4.1 知识的约简和核 132
4.4.2 知识的相对约简和相对核 133
4.4.3 知识的依赖性度量 135
4.5.1 数据表知识表达系统 136
4.5 决策表达逻辑 136
4.5.2 决策表 137
4.5.3 决策逻辑 139
4.5.4 决策表的约简 140
4.5.5 属性约简的差别矩阵方法 143
4.5.6 差别矩阵方法的约简 145
4.6 粗糙集的具体实现和应用 146
4.6.1 离散归一化 146
4.6.2 引入领域知识的数据约简 147
4.6.3 医疗数据分析 148
4.6.4 模式识别 150
4.7 相似粗糙集及其应用 153
4.7.1 相似粗糙集理论 153
4.7.2 相似粗糙集的应用：气象系统权值发现 154
参考文献 158
5.1 遗传算法的主要特征 160
第5章 遗传算法 160
5.1.1 标准遗传算法 161
5.1.2 遗传算法的优缺点 164
5.2 遗传算法的基本原理 165
5.2.1 模式定理（schema theorem） 165
5.2.2 积木块假设 167
5.2.3 欺骗问题 168
5.2.4 隐并行性 171
5.3 遗传算法的关键问题及方法 171
5.3.1 编码 171
5.3.2 适应度函数 172
5.3.3 遗传操作 175
5.3.4 未成熟收敛问题 179
5.4.1 遗传算法与知识发现 182
5.4 遗传算法的应用 182
5.4.2 遗传算法在神经网络中的应用 185
5.4.3 佳点集遗传算法与货郎担问题 187
5.5 遗传算法的改进 192
5.5.1 统计遗传算法 192
5.5.2 并行遗传算法 195
参考文献 197
第6章 决策支持系统 200
6.1 概述 200
6.1.1 DSS的产生 200
6.1.2 决策支持系统的基本概念 202
6.1.3 DSS与MIS的关系 204
6.1.4 DSS在发展中面临的问题 205
6.1.5 DSS的发展趋势 207
6.2.1 引言 210
6.2 DSS的基本体系结构 210
6.2.2 人机交互子系统 214
6.2.3 数据库系统 218
6.2.4 模型库系统 221
6.2.5 方法库系统 228
6.3 DSS的开发与设计 230
6.3.1 DSS的开发过程 230
6.3.2 决策支持系统的开发方法 233
6.3.3 决策支持系统的设计 234
6.4 智能决策支持系统 235
6.4.1 IDSS的三种体系结构及其比较 236
6.4.2 IDSS的模型库系统 238
6.4.3 IDSS的知识库系统 240
6.4.4 IDSS的研究现状和存在的问题 244
6.4.5 IDSS的研究方向 248
参考文献 251
第7章 基于机器学习的智能决策支持系统 254
7.1 基于机器学习的IDSS 254
7.1.1 概述 254
7.1.2 基于机器学习的IDSS的体系结构 255
7.1.3 基于机器学习的IDSS知识库和知识表示系统 258
7.2 基于神经网络学习的智能决策支持 261
7.2.1 神经网络的学习算法 261
7.2.2 基于神经网络的IDSS的总体框架 266
7.2.3 基于神经网络的IDSS自动模型选择 267
7.2.4 基于神经网络和专家系统的IDSS 268
7.3 基于范例推理的智能决策支持系统 270
7.3.1 引言 270
7.3.2 基于范例推理的决策支持系统 271
7.3.3 基于数据挖掘和范例推理的IDSS 274
7.3.4 基于范例的集成推理模型的IDSS 275
7.3.5 基于范例推理的决策支持系统的应用实例 276
7.3.6 总结与展望 277
7.4 遗传算法与智能决策支持系统 278
7.4.1 遗传算法在IDSS中的应用 278
7.4.2 基于遗传算法的决策支持系统模型设计 281
7.4.3 一个基于遗传算法的建模实例 285
7.4.4 展望与总结 287
7.5 基于归纳学习的IDSS 287
7.5.1 基于归纳学习的IDSS的技术 287
7.5.2 应用实例 293
7.6.1 引言 294
7.6 基于粗糙集的智能决策支持系统 294
7.6.2 基于粗糙集数据分析的智能决策支持系统 296
7.6.3 小结 300
7.7 其他的机器学习技术在IDSS中的应用 301
7.7.1 基于强化学习的IDSS 301
7.7.2 基于Bayes网络的IDSS 307
7.7.3 统计机器学习及其在IDSS中的应用 311
参考文献 315
第8章 智能决策支持系统相关新技术的发展 320
8.1 数据仓库 320
8.1.1 数据仓库产生的背景 320
8.1.2 数据仓库的概念 320
8.1.3 数据仓库的特征 321
8.1.4 数据仓库与传统数据库比较 322
8.1.5 数据仓库系统 322
8.1.6 数据仓库系统的结构 325
8.1.7 元数据 326
8.1.8 数据仓库的设计 326
8.1.9 OLAP 327
8.2 数据挖掘 330
8.2.1 知识发现和数据挖掘概述 330
8.2.2 数据挖掘的功能 331
8.2.3 数据挖掘常用技术 332
8.3 结合数据仓库、OLAP和数据挖掘的IDSS 335
8.3.1 结合数据仓库、OLAP和数据挖掘的IDSS的体系结构 335
8.3.2 商业智能IDSS 338
8.4 基于Agent的智能决策支持系统 342
8.4.1 Agent概述 343
8.4.2 Agent的类型 344
8.4.3 基于Agent的决策支持系统设计方法 347
8.4.4 基于Agent的决策支持系统框架结构 348
8.4.5 基于多Agent的分布式群体决策支持系统 349
8.4.6 基于Agent技术的模型表示及其管理方法 350
8.4.7 IDSS中Agent的机器学习和知识发现 351
8.5 基于地理信息系统的IDSS 353
8.5.1 基于地理信息系统的IDSS概念的提出 353
8.5.2 基于地理信息系统的IDSS的关键技术 354
8.5.3 基于地理信息系统的IDSS的结构框架 364
8.6 IDSS中的新理论与新技术 366
8.6.1 熵理论及其应用 366
8.6.2 证据理论 371
8.6.3 不确定性推理方法在模型管理系统中的应用 373
8.6.4 定性推理及其在IDSS中的应用 374
参考文献 380