第1章 Theano基础 1
1.1张量所需 1
1.2安装和加载Theano 2
1.2.1 Conda软件包和环境管理器 2
1.2.2在CPU上安装和运行Theano 2
1.2.3 GPU驱动和相关库 3
1.2.4在GPU上安装和运行Theano 4
1.3张量 5
1.4计算图和符号计算 8
1.5张量操作 11
1.5.1维度操作算子 13
1.5.2元素操作算子 14
1.5.3约简操作算子 16
1.5.4线性代数算子 16
1.6内存和变量 18
1.7函数和自动微分 20
1.8符号计算中的循环运算 22
1.9配置、分析和调试 26
1.10小结 29
第2章 基于前馈神经网络的手写体数字分类 30
2.1 MNIST数据集 30
2.2训练程序架构 32
2.3分类损失函数 33
2.4单层线性模型 34
2.5成本函数和误差 35
2.6反向传播算法和随机梯度下降 36
2.7多层模型 37
2.8卷积层和最大池化层 43
2.9训练 47
2.10退出 52
2.11推理 52
2.12优化和其他更新规则 52
2.13延伸阅读 56
2.14小结 57
第3章 单词的向量编码 58
3.1编码和嵌入 58
3.2数据集 60
3.3连续词袋模型 62
3.4模型训练 66
3.5可视化学习嵌入 68
3.6嵌入评价——类比推理 70
3.7嵌入评价——量化分析 72
3.8单词嵌入应用 72
3.9权重绑定 73
3.10延伸阅读 73
3.11小结 74
第4章 基于递归神经网络的文本生成 75
4.1 RNN所需 75
4.2自然语言数据集 76
4.3简单递归网络 79
4.3.1 LSTM网络 81
4.3.2门控递归网络 83
4.4自然语言性能评测 84
4.5训练损失比较 84
4.6预测示例 86
4.7 RNN的应用 87
4.8延伸阅读 88
4.9小结 89
第5章 基于双向LSTM的情感分析 90
5.1 Keras的安装和配置 90
5.1.1 Keras编程 91
5.1.2 SemEval2013数据集 93
5.2文本数据预处理 94
5.3模型架构设计 96
5.3.1单词的向量表征 96
5.3.2基于双向LSTM的语句表征 97
5.3.3 softmax分类器的输出概率 98
5.4模型编译与训练 99
5.5模型评估 99
5.6模型保存与加载 100
5.7示例运行 100
5.8延伸阅读 100
5.9小结 101
第6章 基于空间变换网络的定位 102
6.1基于Lasagne的MNIST CNN模型 102
6.2定位网络 104
6.2.1 RNN在图像中的应用 108
6.3基于共定位的非监督式学习 112
6.4基于区域的定位网络 112
6.5延伸阅读 113
6.6小结 114
第7章 基于残差网络的图像分类 115
7.1自然图像数据集 115
7.1.1批处理标准化 116
7.1.2全局平均池化 117
7.2残差连接 118
7.3随机深度 123
7.4密集连接 124
7.5多GPU 125
7.6数据增强 126
7.7延伸阅读 127
7.8小结 127
第8章 基于编码—解码网络的翻译与解释 128
8.1序列—序列网络在自然语言处理中的应用 128
8.2序列—序列网络在语言翻译中的应用 133
8.3序列—序列网络在聊天机器人中的应用 134
8.4序列—序列网络的效率提高 134
8.5图像反卷积 136
8.6多模态深度学习 140
8.7延伸阅读 140
8.8小结 142
第9章 基于注意力机制的相关输入或记忆选择 143
9.1注意力可微机制 143
9.1.1基于注意力机制的最佳翻译 144
9.1.2基于注意力机制的最佳图像注释 145
9.2神经图灵机中的信息存储和检索 146
9.3记忆网络 148
9.3.1基于动态记忆网络的情景记忆 149
9.4延伸阅读 150
9.5小结 151
第10章 基于先进递归神经网络的时间序列预测 152
10.1 RNN的退出 152
10.2 RNN的深度学习方法 153
10.3层叠递归网络 154
10.4深度转移递归网络 157
10.5高速网络设计原理 157
10.6递归高速网络 158
10.7延伸阅读 159
10.8小结 159
第11章 强化环境学习 160
11.1强化学习任务 160
11.2仿真环境 161
11.3 Q学习 164
11.4深度Q学习网络 166
11.5训练稳定性 167
11.6基于REINFORCE算法的策略梯度 169
11.7延伸阅读 171
11.8小结 172
第12章 基于非监督式网络的特征学习 173
12.1生成模型 173
12.1.1受限玻耳兹曼机 173
12.1.2深度信念网络 177
12.1.3生成性对抗网络 178
12.1.4改进GAN 182
12.2半监督式学习 182
12.3延伸阅读 183
12.4小结 184
第13章 基于Theano的深度学习扩展 185
13.1 CPU中Python实现的Theano操作 185
13.2 GPU中Python实现的Theano操作 188
13.3 CPU中C实现的Theano操作 190
13.4 GPU中C实现的Theano操作 193
13.5通过共享内存的合并转置，NVIDIA并行 196
13.5.1模型转换 197
13.6人工智能的未来发展 199
13.7延伸阅读 201
13.8小结 202