第1章 深度学习简介 1
1.1 人工智能、机器学习与深度学习 2
1.2 深度学习的发展历程 6
1.3 深度学习的应用 10
1.3.1 计算机视觉 10
1.3.2 语音识别 13
1.3.3 自然语言处理 14
1.3.4 人机博弈 17
1.4 深度学习工具介绍和对比 19
小结 22
第2章 TensorFlow环境搭建 24
2.1 TensorFlow的主要依赖包 24
2.1.1 Protocol Buffer 24
2.1.2 Bazel 26
2.2 TensorFlow安装 28
2.2.1 使用Docker安装 29
2.2.2 使用pip安装 31
2.2.3 从源代码编译安装 32
2.3 TensorFlow测试样例 36
小结 37
第3章 TensorFlow入门 39
3.1 TensorFlow计算模型——计算图 39
3.1.1 计算图的概念 39
3.1.2 计算图的使用 40
3.2 TensorFlow数据模型——张量 42
3.2.1 张量的概念 42
3.2.2 张量的使用 44
3.3 TensorFlow运行模型——会话 45
3.4 TensorFlow实现神经网络 47
3.4.1 TensorFlow游乐场及神经网络简介 47
3.4.2 前向传播算法简介 50
3.4.3 神经网络参数与TensorFlow变量 53
3.4.4 通过TensorFlow训练神经网络模型 57
3.4.5 完整神经网络样例程序 61
小结 64
第4章 深层神经网络 65
4.1 深度学习与深层神经网络 65
4.1.1 线性模型的局限性 66
4.1.2 激活函数实现去线性化 69
4.1.3 多层网络解决异或运算 72
4.2 损失函数定义 73
4.2.1 经典损失函数 74
4.2.2 自定义损失函数 78
4.3 神经网络优化算法 80
4.4 神经网络进一步优化 84
4.4.1 学习率的设置 84
4.4.2 过拟合问题 86
4.4.3 滑动平均模型 90
小结 91
第5章 MNIST数字识别问题 93
5.1 MNIST数据处理 93
5.2 神经网络模型训练及不同模型结果对比 96
5.2.1 TensorFlow训练神经网络 96
5.2.2 使用验证数据集判断模型效果 101
5.2.3 不同模型效果比较 102
5.3 变量管理 106
5.4 TensorFlow模型持久化 111
5.4.1 持久化代码实现 111
5.4.2 持久化原理及数据格式 116
5.5 TensorFlow最佳实践样例程序 125
小结 131
第6章 图像识别与卷积神经网络 133
6.1 图像识别问题简介及经典数据集 134
6.2 卷积神经网络简介 138
6.3 卷积神经网络常用结构 141
6.3.1 卷积层 141
6.3.2 池化层 146
6.4 经典卷积网络模型 148
6.4.1 LeNet-5模型 149
6.4.2 Inception-v3模型 155
6.5 卷积神经网络迁移学习 159
6.5.1 迁移学习介绍 159
6.5.2 TensorFlow实现迁移学习 160
小结 168
第7章 图像数据处理 169
7.1 TFRecord输入数据格式 169
7.1.1 TFRecord格式介绍 170
7.1.2 TFRecord样例程序 170
7.2 图像数据处理 172
7.2.1 TensorFlow图像处理函数 173
7.2.2 图像预处理完整样例 182
7.3 多线程输入数据处理框架 184
7.3.1 队列与多线程 185
7.3.2 输入文件队列 189
7.3.3 组合训练数据（batching） 192
7.3.4 输入数据处理框架 195
小结 197
第8章 循环神经网络 199
8.1 循环神经网络简介 199
8.2 长短时记忆网络（LTSM）结构 205
8.3 循环神经网络的变种 208
8.3.1 双向循环神经网络和深层循环神经网络 208
8.3.2 循环神经网络的dropout 210
8.4 循环神经网络样例应用 211
8.4.1 自然语言建模 212
8.4.2 时间序列预测 222
小结 227
第9章 TensorBoard可视化 228
9.1 TensorBoard简介 228
9.2 TensorFlow计算图可视化 230
9.2.1 命名空间与TensorBoard图上节点 230
9.2.2 节点信息 237
9.3 监控指标可视化 242
小结 247
第10章 TensorFlow计算加速 248
10.1 TensorFlow使用GPU 248
10.2 深度学习训练并行模式 253
10.3 多GPU并行 256
10.4 分布式TensorFlow 263
10.4.1 分布式TensorFlow原理 264
10.4.2 分布式TensorFlow模型训练 267
10.4.3 使用Caicloud运行分布式TensorFlow 277
小结 282