机器学习导论 2版PDF电子书下载

第1章 绪论 1

1.1什么是机器学习 1

1.2机器学习的应用实例 3

1.2.1学习关联性 3

1.2.2分类 3

1.2.3回归 6

1.2.4非监督学习 7

1.2.5增强学习 8

1.3注释 8

1.4相关资源 10

1.5习题 11

1.6参考文献 12

第2章 监督学习 13

2.1由实例学习类 13

2.2 VC维 15

2.3概率逼近正确学习 16

2.4噪声 17

2.5学习多类 18

2.6回归 19

2.7模型选择与泛化 21

2.8监督机器学习算法的维 23

2.9注释 24

2.10习题 25

2.11参考文献 25

第3章 贝叶斯决策定理 27

3.1引言 27

3.2分类 28

3.3损失与风险 29

3.4判别式函数 31

3.5效用理论 31

3.6关联规则 32

3.7注释 33

3.8习题 33

3.9参考文献 34

第4章 参数方法 35

4.1引言 35

4.2最大似然估计 35

4.2.1伯努利密度 36

4.2.2多项密度 36

4.2.3高斯（正态）密度 37

4.3评价估计：偏倚和方差 37

4.4贝叶斯估计 38

4.5参数分类 40

4.6回归 43

4.7调整模型的复杂度：偏倚/方差两难选择 45

4.8模型选择过程 47

4.9注释 50

4.10习题 50

4.11参考文献 51

第5章 多元方法 52

5.1多元数据 52

5.2参数估计 52

5.3缺失值估计 53

5.4多元正态分布 54

5.5多元分类 56

5.6调整复杂度 59

5.7离散特征 61

5.8多元回归 62

5.9注释 63

5.10习题 63

5.11参考文献 64

第6章 维度归约 65

6.1引言 65

6.2子集选择 65

6.3主成分分析 67

6.4因子分析 71

6.5多维定标 77

6.6线性判别分析 77

6.7等距特征映射 80

6.8局部线性嵌入 81

6.9注释 83

6.10习题 84

6.11参考文献 85

第7章 聚类 86

7.1引言 86

7.2混合密度 86

7.3 k-均值聚类 87

7.4期望最大化算法 90

7.5潜在变量混合模型 93

7.6聚类后的监督学习 94

7.7层次聚类 95

7.8选择簇个数 96

7.9注释 96

7.10习题 97

7.11参考文献 97

第8章 非参数方法 99

8.1引言 99

8.2非参数密度估计 99

8.2.1直方图估计 100

8.2.2核估计 101

8.2.3 k-最近邻估计 102

8.3到多元数据的推广 103

8.4非参数分类 104

8.5精简的最近邻 105

8.6非参数回归：光滑模型 106

8.6.1移动均值光滑 106

8.6.2核光滑 108

8.6.3移动线光滑 108

8.7如何选择光滑参数 109

8.8注释 110

8.9习题 111

8.10参考文献 112

第9章 决策树 113

9.1引言 113

9.2单变量树 114

9.2.1分类树 114

9.2.2回归树 118

9.3剪枝 119

9.4由决策树提取规则 120

9.5由数据学习规则 121

9.6多变量树 124

9.7注释 125

9.8习题 126

9.9参考文献 127

第10章 线性判别式 129

10.1引言 129

10.2推广线性模型 130

10.3线性判别式的几何意义 131

10.3.1两类问题 131

10.3.2多类问题 132

10.4逐对分离 132

10.5参数判别式的进一步讨论 133

10.6梯度下降 135

10.7逻辑斯谛判别式 135

10.7.1两类问题 135

10.7.2多类问题 138

10.8回归判别式 141

10.9注释 142

10 10习题 143

10.11参考文献 143

第11章 多层感知器 144

11.1引言 144

11.1.1理解人脑 144

11.1.2神经网络作为并行处理的典范 145

11.2感知器 146

11.3训练感知器 148

11.4学习布尔函数 150

11.5多层感知器 151

11.6作为普适近似的MLP 153

11.7后向传播算法 154

11.7.1非线性回归 154

11.7.2两类判别式 157

11.7.3多类判别式 158

11.7.4多个隐藏层 158

11.8训练过程 158

11.8.1改善收敛性 158

11.8.2过分训练 159

11.8.3构造网络 161

11.8.4线索 162

11.9调整网络规模 163

11.10学习的贝叶斯观点 164

11.11维度归约 165

11.12学习时间 167

11.12.1时间延迟神经网络 167

11.12.2递归网络 168

11.13注释 169

11.14习题 170

11.15 参考文献 170

第12章 局部模型 173

12.1引言 173

12.2竞争学习 173

12.2.1在线k-均值 173

12.2.2自适应共鸣理论 176

12.2.3自组织映射 177

12.3径向基函数 178

12.4结合基于规则的知识 182

12.5规范化基函数 182

12.6竞争的基函数 184

12.7学习向量量化 186

12.8混合专家模型 186

12.8.1协同专家模型 188

12.8.2竞争专家模型 188

12.9层次混合专家模型 189

12.10注释 189

12.11习题 190

12.12参考文献 190

第13章 核机器 192

13.1引言 192

13.2最佳分离超平面 193

13.3不可分情况：软边缘超平面 195

13.4v-SVM 197

13.5核技巧 198

13.6向量核 199

13.7定义核 200

13.8多核学习 201

13.9多类核机器 202

13.10用于回归的核机器 203

13.11一类核机器 206

13.12核维度归约 208

13.13注释 209

13.14习题 209

13.15 参考文献 210

第14章 贝叶斯估计 212

14.1引言 212

14.2分布参数的估计 213

14.2.1离散变量 213

14.2.2连续变量 215

14.3函数参数的贝叶斯估计 216

14.3.1回归 216

14.3.2基函数或核函数的使用 218

14.3.3贝叶斯分类 219

14.4高斯过程 221

14.5注释 223

14.6习题 224

14.7参考文献 224

第15章 隐马尔可夫模型 225

15.1引言 225

15.2离散马尔可夫过程 225

15.3隐马尔可夫模型 227

15.4 HMM的三个基本问题 229

15.5估值问题 229

15.6寻找状态序列 231

15.7学习模型参数 233

15.8连续观测 235

15.9带输入的HMM 236

15.10 HMM中的模型选择 236

15.11注释 237

15.12习题 238

15.13参考文献 239

第16章 图方法 240

16.1引言 240

16.2条件独立的典型情况 241

16.3图模型实例 245

16.3.1朴素贝叶斯分类 245

16.3.2隐马尔可夫模型 246

16.3.3线性回归 248

16.4 d-分离 248

16.5信念传播 249

16.5.1链 249

16.5.2树 250

16.5.3多树 251

16.5.4结树 252

16.6无向图：马尔可夫随机场 253

16.7学习图模型的结构 254

16.8影响图 255

16.9注释 255

16.10习题 256

16.11参考文献 256

第17章 组合多学习器 258

17.1基本原理 258

17.2产生有差异的学习器 258

17.3模型组合方案 260

17.4投票法 261

17.5纠错输出码 263

17.6装袋 265

17.7提升 265

17.8重温混合专家模型 267

17.9层叠泛化 268

17.10调整系综 268

17.11级联 269

17.12注释 270

17.13习题 271

17.14参考文献 272

第18章 增强学习 275

18.1引言 275

18.2单状态情况：K臂赌博机问题 276

18.3增强学习基础 277

18.4基于模型的学习 278

18.4.1价值迭代 279

18.4.2策略迭代 279

18.5时间差分学习 280

18.5.1探索策略 280

18.5.2确定性奖励和动作 280

18.5.3非确定性奖励和动作 282

18.5.4资格迹 283

18.6推广 285

18.7部分可观测状态 286

18.7.1场景 286

18.7.2例子：老虎问题 287

18.8注释 290

18.9习题 291

18.10参考文献 292

第19章 机器学习实验的设计与分析 294

19.1引言 294

19.2因素、响应和实验策略 296

19.3响应面设计 297

19.4随机化、重复和阻止 298

19.5机器学习实验指南 298

19.6交叉验证和再抽样方法 300

19.6.1 K-折交叉验证 300

19.6.2 5 x2交叉验证 301

19.6.3自助法 302

19.7度量分类器的性能 302

19.8区间估计 304

19.9假设检验 307

19.10评估分类算法的性能 308

19.10.1二项检验 308