深度学习基础篇 2
第1章 绪论 2
1.1引言 2
1.1.1Google的深度学习成果 2
1.1.2Microsoft的深度学习成果 3
1.1.3国内公司的深度学习成果 3
1.2深度学习技术的发展历程 4
1.3深度学习的应用领域 6
1.3.1图像识别领域 6
1.3.2语音识别领域 6
1.3.3自然语言理解领域 7
1.4如何开展深度学习的研究和应用开发 7
参考文献 11
第2章 国内外深度学习技术研发现状及其产业化趋势 13
2.1Google在深度学习领域的研发现状 13
2.1.1深度学习在Google的应用 13
2.1.2Google的TensorFlow深度学习平台 14
2.1.3Google的深度学习芯片TPU 15
2.2Facebook在深度学习领域的研发现状 15
2.2.1Torchnet 15
2.2.2DeepText 16
2.3百度在深度学习领域的研发现状 17
2.3.1光学字符识别 17
2.3.2商品图像搜索 17
2.3.3在线广告 18
2.3.4以图搜图 18
2.3.5语音识别 18
2.3.6百度开源深度学习平台MXNet及其改进的深度语音识别系统Warp-CTC 19
2.4阿里巴巴在深度学习领域的研发现状 19
2.4.1拍立淘 19
2.4.2阿里小蜜——智能客服Messenger 20
2.5京东在深度学习领域的研发现状 20
2.6腾讯在深度学习领域的研发现状 21
2.7科创型公司（基于深度学习的人脸识别系统） 22
2.8深度学习的硬件支撑——NVIDIA GPU 23
参考文献 24
深度学习理论篇 30
第3章 神经网络 30
3.1神经元的概念 30
3.2神经网络 31
3.2.1后向传播算法 32
3.2.2后向传播算法推导 33
3.3神经网络算法示例 36
参考文献 38
第4章 卷积神经网络 39
4.1卷积神经网络特性 39
4.1.1局部连接 40
4.1.2权值共享 41
4.1.3空间相关下采样 42
4.2卷积神经网络操作 42
4.2.1卷积操作 42
4.2.2下采样操作 44
4.3卷积神经网络示例：LeNet-5 45
参考文献 48
深度学习工具篇 50
第5章 深度学习工具Caffe 50
5.1Caffe的安装 50
5.1.1安装依赖包 51
5.1.2CUDA安装 51
5.1.3MATLAB和Python安装 54
5.1.4OpenCV安装（可选） 59
5.1.5Intel MKL或者BLAS安装 59
5.1.6Caffe编译和测试 59
5.1.7Caffe安装问题分析 62
5.2Caffe框架与源代码解析 63
5.2.1数据层解析 63
5.2.2网络层解析 74
5.2.3网络结构解析 92
5.2.4网络求解解析 104
参考文献 109
第6章 深度学习工具Pylearn2 110
6.1Pyleam2的安装 110
6.1.1相关依赖安装 110
6.1.2安装Pylearn2 112
6.2Pylearn2的使用 112
参考文献 116
深度学习实践篇（入门与进阶） 118
第7章 基于深度学习的手写数字识别 118
7.1数据介绍 118
7.1.1MNIST数据集 118
7.1.2提取MNIST数据集图片 120
7.2手写数字识别流程 121
7.2.1模型介绍 121
7.2.2操作流程 126
7.3实验结果分析 127
参考文献 128
第8章 基于深度学习的图像识别 129
8.1数据来源 129
8.1.1Cifar10数据集介绍 129
8.1.2Cifar10数据集格式 129
8.2Cifar10识别流程 130
8.2.1模型介绍 130
8.2.2操作流程 136
8.3实验结果分析 139
参考文献 140
第9章 基于深度学习的物体图像识别 141
9.1数据来源 141
9.1.1Caltech101数据集 141
9.1.2Caltech101数据集处理 142
9.2物体图像识别流程 143
9.2.1模型介绍 143
9.2.2操作流程 144
9.3实验结果分析 150
参考文献 151
第10章 基于深度学习的人脸识别 152
10.1数据来源 152
10.1.1AT＆T Facedatabase数据库 152
10.1.2数据库处理 152
10.2人脸识别流程 154
10.2.1模型介绍 154
10.2.2操作流程 155
10.3实验结果分析 159
参考文献 160
深度学习实践篇（高级应用） 162
第11章 基于深度学习的人脸识别——DeepID算法 162
11.1问题定义与数据来源 162
11.2算法原理 163
11.2.1数据预处理 163
11.2.2模型训练策略 164
11.2.3算法验证和结果评估 164
11.3人脸识别步骤 165
11.3.1数据预处理 165
11.3.2深度网络结构模型 168
11.3.3提取深度特征与人脸验证 171
11.4实验结果分析 174
11.4.1实验数据 174
11.4.2实验结果分析 175
参考文献 176
第12章 基于深度学习的表情识别 177
12.1表情数据 177
12.1.1Cohn-Kanade（CK＋）数据库 177
12.1.2JAFFE数据库 178
12.2算法原理 179
12.3表情识别步骤 180
12.3.1数据预处理 180
12.3.2深度神经网络结构模型 181
12.3.3提取深度特征及分类 182
12.4实验结果分析 184
12.4.1实现细节 184
12.4.2实验结果对比 185
参考文献 188
第13章 基于深度学习的年龄估计 190
13.1问题定义 190
13.2年龄估计算法 190
13.2.1数据预处理 190
13.2.2提取深度特征 192
13.2.3提取LBP特征 196
13.2.4训练回归模型 196
13.3实验结果分析 199
参考文献 199
第14章 基于深度学习的人脸关键点检测 200
14.1问题定义和数据来源 200
14.2基于深度学习的人脸关键点检测的步骤 201
14.2.1数据预处理 201
14.2.2训练深度学习网络模型 206
14.2.3预测和处理关键点坐标 207
参考文献 212
深度学习总结与展望篇 214
第15章 总结与展望 214
15.1深度学习领域当前的主流技术及其应用领域 214
15.1.1图像识别 214
15.1.2语音识别与自然语言理解 215
15.2深度学习的缺陷 215
15.2.1深度学习在硬件方面的门槛较高 215
15.2.2深度学习在软件安装与配置方面的门槛较高 216
15.2.3深度学习最重要的问题在于需要海量的有标注的数据作为支撑 216
15.2.4深度学习的最后阶段竟然变成枯燥、机械、及其耗时的调参工作 217
15.2.5深度学习不适用于数据量较小的数据 218
15.2.6深度学习目前主要用于图像、声音的识别和自然语言的理解 218
15.2.7研究人员从事深度学习研究的困境 219
15.3展望 220
参考文献 220