第1章 绪论 1
1.1 从两个问题谈起 1
1.2 模型评估与模型参数选择 4
1.2.1 验证 5
1.2.2 正则化 5
1.3 机器学习算法分类 5
1.3.1 监督学习 6
1.3.2 非监督学习 7
习题 8
第2章 回归 9
2.1 线性回归 9
2.2 Logistic回归 12
习题 13
第3章 LDA主题模型 14
3.1 LDA简介 14
3.2 数学基础 15
3.2.1 多项分布 15
3.2.2 Dirichlet分布 16
3.2.3 共轭先验分布 17
3.3 LDA主题模型 18
3.3.1 基础模型 18
3.3.2 PLSA模型 19
3.3.3 LDA模型 21
3.4 LDA模型应用实例 23
3.4.1 配置安装 24
3.4.2 文本预处理 25
3.4.3 使用Gensim 28
习题 32
第4章 决策树 33
4.1 决策树简介 33
4.1.1 一个小例子 33
4.1.2 几个重要的术语及决策树构造思路 34
4.2 离散型决策树的构造 36
4.3 连续性数值的处理 36
4.4 决策树剪枝 37
习题 38
第5章 支持向量机 39
5.1 分离超平面与最大间隔 39
5.2 线性支持向量机 40
5.2.1 硬间隔 40
5.2.2 软间隔 42
5.3 非线性支持向量机 43
5.3.1 核方法 44
5.3.2 常用的核函数 44
5.4 操作实例：应用MATLAB多分类SVM、二分类SVM、决策树算法进行分类 45
5.4.1 数据集选择 45
5.4.2 数据预处理 47
5.4.3 模型表现 48
5.4.4 经验总结 51
习题 56
第6章 提升方法 57
6.1 随机森林 57
6.1.1 随机森林介绍 57
6.1.2 Bootstrap Aggregation 57
6.1.3 随机森林训练过程 60
6.1.4 随机森林的优点与缺点 60
6.2 Adaboost 60
6.2.1 引入 60
6.2.2 Adaboost实现过程 61
6.2.3 Adaboost总结 62
6.3 随机森林算法应用举例 62
6.3.1 MATLAB中随机森林算法 63
6.3.2 操作实例1：基于集成方法的IRIS数据集分类 63
6.3.3 操作实例2：基于ensemble方法的人脸识别 69
习题 72
第7章 神经网络基础 74
7.1 基础概念 74
7.2 感知机 78
7.2.1 单层感知机 78
7.2.2 多层感知机 79
7.3 BP神经网络 79
7.3.1 梯度下降 79
7.3.2 后向传播 80
7.4 径向基函数网络 81
7.4.1 精确插值与径向基函数 81
7.4.2 径向基函数网络 82
7.5 Hopfield网络 84
7.5.1 Hopfield网络的结构 84
7.5.2 Hopfield网络的训练 85
7.5.3 Hopfield网络状态转移 85
7.6 Boltzmann机 86
7.7 自组织映射网络 87
7.7.1 网络结构 87
7.7.2 训练算法 89
7.8 实例：使用MATLAB进行Batch Normalization 90
7.8.1 浅识Batch Normalization 90
7.8.2 MATLAB nntool使用简介 92
习题 100
第8章 深度神经网络 102
8.1 什么是深度神经网络 102
8.2 卷积神经网络 103
8.2.1 卷积神经网络的基本思想 103
8.2.2 卷积操作 104
8.2.3 池化层 106
8.2.4 卷积神经网络 106
8.3 循环神经网络 107
8.3.1 循环单元 108
8.3.2 通过时间后向传播 108
8.3.3 带有门限的循环单元 109
8.4 MATLAB深度学习工具箱简介 110
8.5 利用Theano搭建和训练神经网络 115
8.5.1 Theano简介 115
8.5.2 Theano的基本使用 115
8.5.3 搭建训练神经网络的项目 116
习题 126
第9章 聚类算法 127
9.1 简介 127
9.1.1 聚类任务 127
9.1.2 基本表示 128
9.2 K-Means算法 129
9.2.1 算法简介 129
9.2.2 算法流程 129
9.2.3 K-Means的一些改进 131
9.2.4 选择合适的K 131
9.2.5 X-Means 133
9.3 层次聚类 134
9.4 聚类算法拓展 134
9.4.1 聚类在信号处理领域的应用 134
9.4.2 以语义聚类的形式展示网络图像搜索结果 135
习题 136
第10章 寻优算法之遗传算法 137
10.1 简介 137
10.1.1 算法起源 137
10.1.2 基本过程 137
10.1.3 基本表示 138
10.1.4 输入输出 138
10.1.5 优缺点及应用 139
10.2 算法原型 139
10.2.1 初始化 139
10.2.2 评估 140
10.2.3 选择优秀个体 141
10.2.4 交叉 142
10.2.5 变异 143
10.2.6 迭代 143
10.3 算法拓展 144
10.3.1 精英主义思想 144
10.3.2 灾变 144
习题 145
第11章 项目实践：基于机器学习的监控视频行人检测与追踪系统 146
11.1 引言 146
11.2 相关算法与指标 147
11.2.1 方向梯度直方图 147
11.2.2 支持向量机 147
11.2.3 结构相似性 147
11.2.4 Haar-Like特征 148
11.2.5 级联分类器 148
11.2.6 特征脸 148
11.3 系统设计与实现 148
11.3.1 视频处理模块 149
11.3.2 图像识别模块 151
11.3.3 目标追踪模块 152
11.4 系统测试 152
11.4.1 测试环境 152
11.4.2 系统单元测试与集成测试 153
11.4.3 性能测试 153
11.4.4 系统识别准确率测试 154
11.5 结语 154
参考文献 156