压缩感知理论与应用PDF电子书下载

第1章 压缩感知简介 1

1.1 引言 1

1.2 向量空间综述 3

1.2.1 赋范向量空间 3

1.2.2 基底和框架 4

1.3 低维信号模型 5

1.3.1 稀疏模型 6

1.3.2 子空间的有限集合 9

1.3.3 模拟信号模型的子空间集合 10

1.3.4 低秩矩阵模型 10

1.3.5 流形和参数模型 11

1.4 感知矩阵 11

1.4.1 零空间条件 12

1.4.2 约束等距性质（RIP） 14

1.4.3 相干性 18

1.4.4 构造感知矩阵 19

1.5 基于？1最小化方法的信号重建 20

1.5.1 不含噪声的信号重建 21

1.5.2 含噪声的信号重建 22

1.5.3 情况-最优保证条件回顾 26

1.5.4 正多面体与相位变化 27

1.6 信号重建算法 28

1.7 多维测量向量 31

1.8 总结 33

附录 第1章的证明 33

A.1 定理1.4的证明 33

A.2 引理1.3的证明 34

A.3 引理1.6的证明 36

A.4 定理1.13的证明 37

参考文献 38

第2章 第二代稀疏建模：结构化和协作信号分析 51

2.1 引言 51

2.2 图像复原和逆问题 52

2.2.1 传统稀疏模型 53

2.2.2 结构化稀疏模型 54

2.2.3 实验结果 57

2.3 用结构和协作模型鉴别和分离源 59

2.3.1 分组Lasso 60

2.3.2 分层Lasso 61

2.3.3 协作分层Lasso 62

2.3.4 实验结果 63

2.4 总结 65

参考文献 66

第3章 Xampling：模拟信号的压缩感知 69

3.1 引言 69

3.2 从子空间到联合空间 71

3.3 Xampling 73

3.3.1 子空间联合 73

3.3.2 架构 74

3.4 稀疏平移不变框架 76

3.4.1 平移不变子空间中的采样 76

3.4.2 SI子空间的稀疏联合 77

3.4.3 无限测量模型和连续有限测量模型 79

3.5 从理论到多频段采样的硬件 81

3.5.1 信号模型和稀疏SI公式 81

3.5.2 通过不均匀采样的模拟压缩感知 82

3.5.3 建模实用的ADC器件 84

3.5.4 调制宽带转换器 85

3.5.5 硬件设计 86

3.5.6 亚奈奎斯特信号处理 90

3.6 有限新息率信号 91

3.6.1 模拟信号模型 91

3.6.2 压缩信号采集 92

3.6.3 恢复算法 94

3.7 新息信号序列 95

3.7.1 模拟信号模型 96

3.7.2 压缩信号采集 96

3.7.3 恢复算法 97

3.7.4 应用 98

3.8 联合建模与有限离散化 99

3.8.1 随机解调器 99

3.8.2 有限模型灵敏度 100

3.8.3 硬件复杂度 102

3.8.4 计算负载 105

3.8.5 模拟与离散CS雷达 106

3.9 讨论 107

3.9.1 将CS扩展到模拟信号 108

3.9.2 CS是否是一个通用采样方案 109

3.9.3 总结 110

参考文献 111

第4章 新息率采样：理论和应用 116

4.1 引言 116

4.1.1 采样方案 117

4.1.2 FRI历史 118

4.1.3 本章概览 119

4.1.4 符号和约定 119

4.2 有限新息率信号 120

4.2.1 FRI信号定义 120

4.2.2 FRI信号例子 121

4.3 无噪声环境中FRI信号的采样与恢复 124

4.3.1 使用sinc核进行采样 124

4.3.2 使用加和的sinc核进行采样 126

4.3.3 使用指数生成核进行采样 129

4.3.4 多通道采样 131

4.4 噪声对FRI恢复的影响 136

4.4.1 连续时间噪声下的性能界限 137

4.4.2 采样噪声下的性能界限 139

4.4.3 提高采样噪声鲁棒性的FRI技术 141

4.5 仿真 143

4.5.1 无噪声环境下的采样和重建 143

4.5.2 噪声环境下的采样和重建 144

4.5.3 周期FRI信号与半周期FRI信号 147

4.6 扩展和应用 149

4.6.1 采样分段正弦信号 149

4.6.2 信号压缩 151

4.6.3 超分辨率成像 152

4.6.4 超声成像 152

4.6.5 多径介质识别 153

4.6.6 超分辨率雷达 154

附录 Cramér-Rao界限推导 155

参考文献 159

第5章 随机矩阵的非渐近分析 162

5.1 引言 162

5.1.1 渐近和非渐近的体系 162

5.1.2 高矩阵是近似等距同构的 163

5.1.3 模型和方法 163

5.1.4 应用 164

5.1.5 相关资源 164

5.2 预备知识 165

5.2.1 矩阵及其奇异值 165

5.2.2 网络 166

5.2.3 亚高斯随机变量 167

5.2.4 亚指数随机变量 170

5.2.5 各向同性随机向量 172

5.2.6 独立随机矩阵的求和 174

5.3 具有独立元素的随机矩阵 176

5.3.1 极限定理和高斯矩阵 176

5.3.2 具有独立元素的一般随机矩阵 178

5.4 具有独立行的随机矩阵 178

5.4.1 亚高斯行 179

5.4.2 重尾行 181

5.4.3 应用：估算协方差矩阵 185

5.4.4 应用：随机子矩阵和子框架 187

5.5 具有独立列的随机矩阵 189

5.5.1 亚高斯列 190

5.5.2 重尾列 193

5.6 约束等距同构 196

5.6.1 亚高斯约束等距同构 197

5.6.2 重尾约束等距同构 199

5.7 注释 202

参考文献 205

第6章 自适应感知的稀疏重建 210

6.1 引言 210

6.1.1 去噪 210

6.1.2 逆问题 212

6.1.3 贝叶斯的角度 212

6.1.4 结构稀疏性 213

6.2 贝叶斯自适应感知 214

6.2.1 使用一个简单生成模型进行贝叶斯推理 216

6.2.2 使用多成分模型进行贝叶斯推理 219

6.2.3 量化性能 221

6.3 准贝叶斯自适应感知 223

6.3.1 用非自适应测量去噪 223

6.3.2 蒸馏感知 224

6.3.3 压缩感知中的蒸馏法 229

6.4 相关工作和进一步阅读的建议 233

参考文献 233

第7章 压缩感知的基本阈值方法：一种高维几何方法 236

7.1 引言 236

7.1.1 ？1最小化鲁棒性的阈值边界 238

7.1.2 加权和迭代重加权？1最小化阈值 239

7.1.3 与其他阈值边界的比较 240

7.1.4 高维几何的一些概念 241

7.1.5 组织结构 242

7.2 零空间特征 242

7.3 零空间特征的Grassmann角框架 245

7.4 评估阈值界限ζ 248

7.5 内角指数的计算 250

7.6 外角指数的计算 252

7.7 ρN（δ，C）的存在性与缩放 254

7.8 弱、部分和强鲁棒性 254

7.9 ζ界限的数值计算 257

7.10 加权？1最小化的恢复阈值 259

7.11 近似支撑恢复和迭代重加权？1 262

7.12 总结 262

7.13 附录 263

7.13.1 内角的推导 263

7.13.2 外角的推导 264

7.13.3 引理7.7的证明 266

7.13.4 引理7.8的证明 266

参考文献 267

第8章 压缩感知贪婪算法 270

8.1 贪婪算法，凸集最优化的一个灵活替代算法 270

8.2 贪婪追踪 270

8.2.1 基本框架 271

8.2.2 系数更新变型 273

8.2.3 元素选择的几种变型 275

8.2.4 计算 277

8.2.5 性能保证 278

8.2.6 经验比较 280

8.3 阈值类算法 281

8.3.1 迭代硬阈值 281

8.3.2 压缩采样匹配追踪和子空间追踪 286

8.3.3 实验比较 288

8.3.4 恢复证明 289

8.4 由贪婪算法推广到结构化模型 291

8.4.1 子空间联合模型 291

8.4.2 采样并重建子空间联合信号 293

8.4.3 性能保证 295

8.4.4 恢复条件何时成立 298

8.4.5 实验比较 300

8.4.6 MMV问题中的秩结构 300

8.5 总结 303

参考文献 304

第9章 压缩感知中的图模型概念 308

9.1 引言 308

9.2 基本模型及其图结构 310

9.3 标量情形 311

9.4 消息传递的推导 315

9.4.1 最小和算法 315

9.4.2 通过二次近似简化最小和 316

9.5 近似消息传递 317

9.5.1 AMP算法及其性质 317

9.5.2 AMP算法的推导 319

9.6 高维分析 320

9.6.1 AMP算法的一些数值实验 320

9.6.2 状态演变 322

9.6.3 LASSO的风险 325

9.6.4 去耦原理 327

9.6.5 状态演变的启发式推导 328

9.6.6 噪声敏感度相变 329

9.6.7 普适性 331

9.6.8 与其他分析方法的比较 332

9.7 范化 333

9.7.1 结构化先验信息 334

9.7.2 稀疏感知矩阵 336

9.7.3 矩阵的填充 337

9.7.4 广义回归 338

参考文献 338

第10章 在压缩干草堆中找针 343

10.1 引言 343

10.2 背景及符号 344

10.2.1 符号 344

10.2.2 集中不等式 345

10.2.3 群论 345

10.3 支持向量机 345

10.4 近等距投影 347

10.5 定理10.3的证明 348

10.6 通过Johnson-Lindenstrauss特性的距离保真 351

10.7 通过随机投影矩阵的最坏情况JL特性 355

10.7.1 Johnson-Lindenstrauss和随机感知 355

10.7.2 实验结果 357

10.8 通过显式投影矩阵的平均情况JL特性 358

10.8.1 相干性的全局测量 358

10.8.2 平均情况压缩学习 358

10.8.3 两个基本的相干性测量及它们在压缩学习中的作用 359

10.8.4 使用Delsarte-Goethals框架的平均情况距离保真 362

10.9 主要平均情况压缩学习结果的证明 370

10.9.1 引理10.5的证明 370

10.9.2 定理10.6的证明 372

10.10 总结 374

参考文献 374

第11章 基于稀疏表示的数据分离 377

11.1 引言 377

11.1.1 形态学成分分析 378

11.1.2 分离算法 378

11.1.3 分离结果 378

11.1.4 稀疏字典的设计 379

11.1.5 提纲 379

11.2 分离估计 379

11.2.1 数据分离估计与欠定问题的关系 380

11.2.2 一般性的分离估计 381

11.2.3 创新观点：聚集稀疏 383

11.2.4 与测不准原理的关系 387

11.3 信号分离 388

11.3.1 正弦和尖峰的分离 388

11.3.2 进一步研究 390

11.4 图像分离 390

11.4.1 实证研究 391

11.4.2 理论结果 393

参考文献 397

第12章 人脸识别的稀疏表示 399

12.1 引言 399

12.2 问题公式表达：基于稀疏表示的分类 401

12.3 降维 403

12.4 识别损坏的和遮挡的图像 404

12.5 人脸对准 405

12.6 快速？1最小化算法 409

12.7 建立一个完整的人脸识别系统 412

12.8 整个系统的评估 413

12.9 总结和讨论 415

参考文献 416