第1章 引言 1
1.1 背景与动机 1
1.1.1 什么是表示 1
1.1.2 表示与函数重构 1
1.1.3 基函数表示 2
1.1.4 框架表示 3
1.1.5 Riesz基表示 4
1.1.6 投影表示 5
1.1.7 伽辽金表示 5
1.1.8 词典表示 6
1.2 本书架构 7
1.3 小结 9
第2章 插值 10
2.1 引言 10
2.2 拉格朗日插值 10
2.2.1 拉格朗日插值误差 11
2.2.2 拉格朗日线性插值 11
2.2.3 拉格朗日二阶插值 12
2.3 牛顿插值 12
2.4 Hermite插值 13
2.5 样条插值 14
2.6 插值方法在数字图像处理中的应用 14
2.7 小结 16
第3章 奇异值分解和主成分分析 17
3.1 基本概念 17
3.1.1 内积空间 17
3.1.2 范数 18
3.1.3 正交基 18
3.1.4 特征值与奇异值 18
3.2 奇异值分解 20
3.3 主成分分析 21
3.4 应用 22
3.4.1 伪逆与最小二乘 22
3.4.2 数据表示与分析 24
3.4.3 线性判别分析 24
3.4.4 特征脸 25
3.4.5 潜在语义分析 25
3.5 小结 28
第4章 傅里叶变换与小波变换 29
4.1 函数与变换 29
4.2 傅里叶变换：时间遇到频率 30
4.2.1 连续傅里叶变换 30
4.2.2 离散傅里叶变换 31
4.2.3 通过傅里叶变换实现稀疏表示 33
4.2.4 傅里叶变换的应用 35
4.3 小波变换 37
4.3.1 多分辨率表示：嵌套网格逼近 37
4.3.2 连续小波变换 42
4.3.3 离散小波变换 42
4.3.4 小波变换实例 43
4.3.5 通过小波表示函数 45
4.3.6 小波应用 46
4.4 傅里叶变换与小波变换比较 48
4.5 小结 49
第5章 人工神经网络——通用逼近算子 50
5.1 引言 50
5.2 基本概念 50
5.2.1 网络架构 51
5.2.2 激活函数 51
5.3 简单神经元 54
5.4 单层神经元 55
5.5 多层感知器 57
5.5.1 多层感知器的激活函数 58
5.5.2 后向传播算法 58
5.5.3 多层感知器的表达与逼近能力 59
5.6 径向基神经网络 60
5.6.1 径向基网络与多层感知器比较 62
5.6.2 例子 62
5.7 小结 65
第6章 稀疏表示 66
6.1 为什么要用稀疏表示 66
6.2 问题转换 66
6.3 将问题转换为线性规划问题 68
6.4 稀疏表示的几何解释 69
6.5 贪婪算法 71
6.5.1 匹配追踪 72
6.5.2 正交匹配追踪 74
6.5.3 基追踪 75
6.5.4 松弛方法 76
6.6 小结 76
第7章 压缩传感 78
7.1 引言 78
7.2 理论基础与问题描述 80
7.2.1 稀疏性 80
7.2.2 压缩传感问题描述 81
7.3 测量矩阵与感知矩阵 81
7.3.1 有限等距性质 82
7.3.2 感知矩阵 83
7.3.3 相关性 83
7.4 问题求解与信号恢复 83
7.4.1 e2范数重构 84
7.4.2 e0范数重构 84
7.4.3 e1范数重构 84
7.5 重构算法 85
7.5.1 凸优化松弛方法 85
7.5.2 贪婪迭代算法 85
7.5.3 迭代阈值算法 85
7.5.4 组合算法与子线性算法 86
7.5.5 非凸优化算法 86
7.6 应用 86
7.6.1 数据压缩 86
7.6.2 校验编码 87
7.6.3 逆问题 87
7.6.4 数据与图像获取 87
7.7 小结 87
第8章 深度学习与特征学习 88
8.1 引言 88
8.2 深度框架 90
8.2.1 构造深度框架的动机 91
8.2.2 计算框架的深度和类型 92
8.2.3 逐层预训练 92
8.3 卷积神经网络 94
8.3.1 稀疏连接 94
8.3.2 加权共享 94
8.3.3 极大池化 95
8.3.4 完整模型：LeNet 96
8.4 深度置信网络 96
8.4.1 限制玻尔兹曼机 96
8.4.2 堆叠限制玻尔兹曼机构建深度置信网络 101
8.5 堆叠自动编码器 102
8.5.1 自动编码器神经网络 102
8.5.2 去噪自动编码器 105
8.5.3 堆叠自动编码器构造 105
8.5.4 稀疏自动编码器 107
8.6 深度学习相关软件包 109
8.7 小结 110
第9章 深度学习应用于自然语言处理：词向量 111
9.1 语言模型 111
9.2 One-Hot表示方法 112
9.3 词向量 113
9.4 词向量的训练 113
9.4.1 Yoshua Bengio语言模型 114
9.4.2 Ronan Collobert-Jason Weston方法 115
9.4.3 Andriy Mnih-Geoffrey Hinton方法（HLBL） 116
9.4.4 Tomas Mikolov循环神经网络方法 116
9.5 Google词向量工具包word2vec 117
参考文献 119