1 引言 1
1.1 如何训练深度结构 4
1.2 中间层表示：在不同的任务中共享特征和抽象 5
1.3 学习人工智能的必经之路 7
1.4 本书大纲 8
2 深度结构的理论优势 9
2.1 计算复杂性 12
2.2 一些非正式的论证 13
3 局部与非局部泛化性 16
3.1 局部模板匹配的局限性 16
3.2 学习分布式表示 21
4 具有深度结构的神经网络 24
4.1 多层神经网络 24
4.2 训练深度神经网络的挑战 25
4.3 深度结构的无监督学习 31
4.4 深度生成结构 32
4.5 卷积神经网络 35
4.6 自动编码器 37
5 能量模型和玻尔兹曼机 40
5.1 能量模型和专家乘积系统 40
5.2 玻尔兹曼机 44
5.3 受限玻尔兹曼机 46
5.4 对比散度 50
6 深层结构的逐层贪心训练 58
6.1 深度置信网络的逐层训练 58
6.2 堆叠自动编码器训练 61
6.3 半监督与部分监督训练 63
7 受限玻尔兹曼机和自动编码器的变体 64
7.1 自动编码器和受限玻尔兹曼机的稀疏化表示 64
7.2 降噪自动编码器 69
7.3 层内连接 71
7.4 条件RBM和时序RBM 72
7.5 分解式RBM 74
7.6 受限玻尔兹曼机和对比散度的推广 75
8 DBN各层联合优化中的随机变分边界 78
8.1 将RBM展开为无限有向置信网络 79
8.2 逐层贪心训练的变分证明 80
8.3 所有层的联合无监督训练 83
9 展望 87
9.1 全局优化策略 87
9.2 无监督学习的重要性 92
9.3 开放的问题 93
10 总结 96
致谢 98
参考文献 99