第1章 概率论 1
1.1 引言 1
1.1.1 结果 1
1.1.2 随机事件 2
1.1.3 和事件与积事件 2
1.1.4 概率论公理 3
1.1.5 主观概率和客观概率 3
1.2 联合概率和条件概率 4
1.2.1 联合概率 5
1.2.2 条件概率 5
1.2.3 贝叶斯公式 7
1.3 随机变量 9
1.3.1 随机分布 10
1.3.2 累积密度函数 11
1.3.3 从任意随机分布生成随机数值 12
1.3.4 随机变量的数学期望 12
1.3.5 随机变量的方差 13
1.4 矩和矩生成函数 14
1.4.1 矩 14
1.4.2 矩生成函数 15
1.4.3 矩生成函数的特征 16
1.5 标准离散分布 17
1.5.1 伯努利分布 17
1.5.2 二项分布 17
1.5.3 几何分布 18
1.5.4 泊松分布 18
1.6 标准连续分布 19
1.6.1 均匀分布 20
1.6.2 高斯分布（正态分布） 20
1.6.3 指数分布 22
1.6.4 幂律分布 23
1.7 常用定理 24
1.7.1 马尔可夫不等式 24
1.7.2 切比雪夫不等式 25
1.7.3 切诺夫限 25
1.7.4 强大数定律 26
1.7.5 中心极限定理 27
1.8 联合分布的随机变量 28
1.8.1 贝叶斯网络 30
1.9 进一步阅读 32
1.10 习题 32
第2章 统计学 35
2.1 总体抽样 35
2.1.1 抽样类型 36
2.1.2 标度 37
2.1.3 异常数据 37
2.2 简洁地描述样本 37
2.2.1 表 38
2.2.2 柱状图、直方图及累计直方图 38
2.2.3 样本均值 39
2.2.4 样本中值 41
2.2.5 差异的度量 42
2.3 根据样本参数推断总体参数 43
2.4 实验结果的假设检验 46
2.4.1 假设检验 46
2.4.2 假设检验的差错 47
2.4.3 形式化构造一个假设 47
2.4.4 将结果与固定值比较 48
2.4.5 比较两个实验的结果 49
2.4.6 以顺序标度测量的统计量的假设检验 51
2.4.7 分布拟合 53
2.4.8 力度 55
2.5 独立与依赖：回归与相关 55
2.5.1 独立 56
2.5.2 回归 57
2.5.3 相关 59
2.6 同时比较多个结果：方差分析 62
2.6.1 单因素设计 62
2.6.2 多因素设计 64
2.7 实验设计 64
2.8 处理大数据集 65
2.9 统计分析中的常见错误 67
2.9.1 定义总体 67
2.9.2 比较结果缺乏置信区间 67
2.9.3 没有声明原假设 67
2.9.4 样本过小 68
2.9.5 样本过大 68
2.9.6 在收集观测结果时没有控制所有变量 68
2.9.7 将顺序标度转换为间隔标度 68
2.9.8 忽略异常数据 68
2.10 进一步阅读 68
2.11 习题 69
第3章 线性代数 71
3.1 矢量和矩阵 71
3.2 矢量和矩阵的代数运算 72
3.2.1 加法 72
3.2.2 转置 72
3.2.3 乘法 73
3.2.4 方阵 74
3.2.5 矩阵幂运算 74
3.2.6 矩阵指数 74
3.3 线性组合、独立性、基和维度 74
3.3.1 线性组合 74
3.3.2 线性无关 75
3.3.3 矢量空间、基和维度 76
3.4 使用矩阵代数求解线性方程组 76
3.4.1 表示 76
3.4.2 初等行运算与高斯消元法 77
3.4.3 秩 78
3.4.4 行列式 79
3.4.5 克莱姆定理 80
3.4.6 逆矩阵 81
3.5 线性变换、特征值和特征向量 81
3.5.1 矩阵的线性变换 81
3.5.2 矩阵的特征值 82
3.5.3 计算矩阵的特征值 84
3.5.4 特征值的重要性 86
3.5.5 主特征值的作用 87
3.5.6 寻找特征值和特征向量 87
3.5.7 相似性与对角化 89
3.6 随机矩阵 90
3.6.1 使用随机矩阵进行状态转移计算 91
3.6.2 随机矩阵的特征值 91
3.7 习题 93
第4章 最优化 96
4.1 系统建模和优化 96
4.2 最优化导引 97
4.3 优化线性系统 99
4.3.1 网络流 102
4.4 整数线性规划 102
4.4.1 完全单模性 104
4.4.2 加权二分图匹配 104
4.5 动态规划 105
4.6 非线性约束优化 106
4.6.1 拉格朗日技术 107
4.6.2 非线性优化的Karush-Kuhn-Tucker条件 108
4.7 启发式非线性优化 108
4.7.1 爬山法 108
4.7.2 遗传算法 110
4.8 习题 110
第5章 信号、系统和变换 112
5.1 背景知识 112
5.1.1 正弦曲线 112
5.1.2 复数 113
5.1.3 欧拉公式 114
5.1.4 离散时间卷积和脉冲函数 116
5.1.5 连续时间卷积和狄拉克δ函数 118
5.2 信号 120
5.2.1 复指数信号 120
5.3 系统 122
5.4 线性时不变系统的分析 123
5.4.1 线性时不变系统对复指数输入信号的输出情况 123
5.4.2 线性时不变系统对0输入信号的输出情况 124
5.4.3 LTI系统对任意输入信号的输出情况 126
5.4.4 LTI系统的稳定性 127
5.5 变换 127
5.6 傅里叶级数 128
5.7 傅里叶变换及其特性 130
5.8 拉普拉斯变换 135
5.8.1 极点、零点和收敛域 136
5.8.2 拉普拉斯变换的属性 137
5.9 离散傅里叶变换和快速傅里叶变换 139
5.9.1 脉冲序列 139
5.9.2 离散时间傅里叶变换 140
5.9.3 混叠 141
5.9.4 离散时频傅里叶变换 143
5.9.5 快速傅里叶变换 144
5.10 Z变换 146
5.10.1 Z变换与拉普拉斯变换之间的关系 147
5.1 0.2 Z变换的属性 148
5.11 进一步阅读 150
5.12 习题 150
第6章 随机过程与排队论 153
6.1 概述 153
6.1.1 一般排队系统 153
6.1.2 Little定理 154
6.2 随机过程 154
6.2.1 离散型和连续型随机过程 156
6.2.2 马尔可夫过程 156
6.2.3 齐次性、状态转移图和切普曼-柯尔莫戈洛夫方程 157
6.2.4 不可简约性 159
6.2.5 常返性 159
6.2.6 周期性 159
6.2.7 各态历经性 160
6.2.8 一个基本定理 161
6.2.9 马尔可夫链的平稳（均衡）概率 161
6.2.10 第二个基本定理 162
6.2.11 在一个状态的平均停留时间 162
6.3 连续时间马尔可夫链 163
6.3.1 连续时间随机过程的马尔可夫性质 163
6.3.2 连续时间马尔可夫链中的停留时间 163
6.3.3 连续时间马尔可夫链中的平稳概率分布 164
6.4 生灭过程 164
6.4.1 生灭过程的时间演化 165
6.4.2 生灭过程的平稳概率分布 165
6.4.3 计算转移速率矩阵 166
6.4.4 纯生（泊松）过程 167
6.4.5 生灭过程的平稳概率分布 168
6.5 M/M/1队列 169
6.6 M/M/1队列的两个变体 172
6.6.1 M/M／∞队列：及时响应的服务器 172
6.6.2 M/M／1/K：有限缓存 173
6.7 其他排队系统 174
6.7.1 M/D/1：确定服务时间 175
6.7.2 G/G/1 175
6.7.3 队列网络 175
6.8 进一步阅读 176
6.9 习题 176
第7章 博弈论 179
7.1 概念与术语 179
7.1.1 偏好与偏好排序 179
7.1.2 术语 181
7.1.3 策略 182
7.1.4 博弈表示 183
7.1.5 反应与最佳反应 185
7.1.6 占优策略与次优策略 185
7.1.7 贝叶斯博弈 186
7.1.8 重复博弈 187
7.2 博弈求解 188
7.2.1 解的概念与均衡 188
7.2.2 占优策略均衡 188
7.2.3 重复消除次优策略 189
7.2.4 最大最小均衡 190
7.2.5 纳什均衡 191
7.2.6 相关均衡 193
7.2.7 其他解的概念 194
7.3 机制设计 195
7.3.1 实际存在的机制 195
7.3.2 三个负面结果 195
7.3.3 机制设计的例子 197
7.3.4 形式化 198
7.3.5 机制的理想性质 199
7.3.6 显示原理 200
7.3.7 VCG机制 201
7.3.8 VCG机制的问题 203
7.4 博弈论的局限性 204
7.5 进一步阅读 204
7.6 习题 205
第8章 控制论基础 207
8.1 控制系统概述 207
8.2 系统建模 209
8.2.1 建模方式 209
8.2.2 数学表示 210
8.3 一阶系统 213
8.4 二阶系统 214
8.4.1 情况1（无阻尼系统）：ζ=0 215
8.4.2 情况2（欠阻尼系统）：0＜ζ＜1 215
8.4.3 情况3（临界阻尼系统）：ζ=1 216
8.4.4 情况4（过阻尼系统）：ζ＞ 1 217
8.5 反馈控制基础 218
8.5.1 系统目标 219
8.5.2 约束条件 220
8.6 PID控制 221
8.6.1 比例模式控制 221
8.6.2 积分模式控制 222
8.6.3 导数模式控制 223
8.6.4 组合模式 224
8.7 高级控制概念 224
8.7.1 层级控制 225
8.7.2 控制时延 225
8.8 稳定性 228
8.8.1 线性时不变系统的BIBO稳定性分析 229
8.8.2 SISO线性时不变系统的零输入稳定性分析 231
8.8.3 放置系统的根 232
8.8.4 李雅普诺夫稳定性 232
8.9 基于状态空间的建模与控制 233
8.9.1 基于状态空间的分析 234
8.9.2 能观性和能控性 235
8.9.3 控制器设计 235
8.10 数字控制 236
8.11部分分式展开 238
8.11.1 不同根 238
8.11.2 复共轭根 239
8.11.3 重根 239
8.12 进一步阅读 240
8.13 习题 240
第9章 信息论 242
9.1 引言 242
9.2 通信的数学模型 242
9.3 从消息到符号 245
9.4 信源编码 246
9.5 通信信道的容量 250
9.5.1 信源建模 251
9.5.2 无噪声信道的容量 252
9.5.3 噪声信道 252
9.6 高斯信道 258
9.6.1 连续信源建模 258
9.6.2 高斯信道 260
9.6.3 高斯信道的容量 261
9.7 进一步阅读 263
9.8 练习 264
习题答案 266
第1章 习题答案 266
第2章 习题答案 269
第3章 习题答案 272
第4章 习题答案 276
第5章 习题答案 279
第6章 习题答案 283
第7章 习题答案 286
第8章 习题答案 290
第9章 习题答案 292