系统辨识 辨识方法性能分析PDF电子书下载

第1章 随机过程与鞅理论 1

1.1 引言 1

1.2 随机过程的数学描述 1

1.2.1 随机过程的概念 1

1.2.2 随机过程的数字特征 2

1.2.3 宽平稳过程和各态遍历性 2

1.2.4 随机过程的谱分解及谱密度函数 5

1.3 激励信号与激励条件 7

1.3.1 激励信号 7

1.3.2 白噪声及其产生方法 9

1.3.3 基本激励条件 14

1.4 线性系统在随机信号输入下的响应 17

1.4.1 谱密度函数和相关函数 17

1.4.2 互谱密度函数与互相关函数 18

1.5 系统的噪信比及其计算 23

1.5.1 单输入单输出系统 23

1.5.2 多输入多输出系统 30

1.6 参数估计性质及收敛性 32

1.6.1 参数估计的统计性质 32

1.6.2 Cramer-Rao不等式 34

1.6.3 实用有界收敛性 34

1.7 随机鞅理论与收敛定理 36

1.7.1 鞅的基本知识 36

1.7.2 鞅收敛定理 38

1.7.3 鞅超收敛定理 41

1.8 小结 43

1.9 思考题 44

第2章 最小二乘类辨识方法及其收敛性 52

2.1 引言 52

2.2 最小二乘参数估计及其性质 55

2.2.1 最小二乘估计 55

2.2.2 最小二乘估计的性质 57

2.2.3 噪声方差估计定理 58

2.3 递推最小二乘辨识方法 61

2.3.1 CAR模型的最小二乘估计 61

2.3.2 递推最小二乘算法 63

2.3.3 递推最小二乘算法的收敛性 66

2.3.4 RLS算法和基本引理 67

2.3.5 RLS算法的收敛定理 71

2.4 递推增广最小二乘辨识方法 79

2.4.1 递推增广最小二乘算法 79

2.4.2 R-RELS算法的收敛性 87

2.4.3 I-RELS算法的收敛性 98

2.5 递推广义增广最小二乘辨识方法 106

2.5.1 递推广义最小二乘算法 107

2.5.2 递推广义增广最小二乘算法 107

2.5.3 RGELS算法的收敛性 110

2.6 辅助模型递推最小二乘辨识方法 112

2.6.1 辅助模型递推最小二乘算法 112

2.6.2 AM-RLS算法的收敛性 114

2.7 辅助模型递推广义增广最小二乘辨识方法 118

2.7.1 辅助模型递推增广最小二乘算法 119

2.7.2 辅助模型递推广义最小二乘算法 121

2.7.3 辅助模型递推广义增广最小二乘算法 122

2.7.4 AM-RGELS算法的收敛性 125

2.8 递阶最小二乘辨识方法 127

2.8.1 递阶最小二乘辨识算法 128

2.8.2 HLS算法的收敛性 131

2.9 小结 136

2.10 思考题 137

第3章 最小二乘类辨识方法有界收敛性 148

3.1 引言 148

3.2 递推最小二乘辨识方法 148

3.2.1 递推最小二乘算法 148

3.2.2 MRLS参数估计误差界 150

3.2.3 仿真试验 156

3.3 遗忘因子递推最小二乘辨识方法 161

3.3.1 遗忘因子递推最小二乘算法 162

3.3.2 FF-RLS算法参数估计误差界 164

3.3.3 仿真实验 169

3.4 辅助变量递推最小二乘辨识方法 173

3.4.1 辅助变量最小二乘估计 173

3.4.2 辅助变量递推最小二乘算法 175

3.4.3 IV-RLS算法参数估计误差界 175

3.5 衰减激励下递推最小二乘辨识算法误差界 181

3.5.1 RLS算法与基本引理 181

3.5.2 RLS算法参数估计误差上界 184

3.6 衰减激励下递阶最小二乘辨识算法误差界 187

3.6.1 HLS算法与基本引理 187

3.6.2 HLS算法参数估计误差上界 190

3.7 时变系统遗忘因子最小二乘辨识方法 192

3.7.1 时变系统的递推最小二乘类辨识方法 194

3.7.2 遗忘因子最小二乘算法的误差上界（Ⅰ） 199

3.7.3 遗忘因子最小二乘算法的误差上界（Ⅱ） 207

3.7.4 变遗忘因子递推最小二乘算法 216

3.7.5 有限数据窗递推最小二乘算法性能分析 219

3.8 小结 227

3.9 思考题 229

第4章 随机梯度类辨识方法及其收敛性 237

4.1引言 237

4.2 随机梯度辨识方法 237

4.2.1 随机梯度辨识算法 238

4.2.2 仿真试验 239

4.2.3 SG算法的收敛性 244

4.3 修正随机梯度辨识方法 252

4.3.1 修正随机梯度算法 252

4.3.2 仿真试验 253

4.3.3 M-SG算法的收敛性 257

4.4 增广随机梯度辨识方法 264

4.4.1 基于残差的增广随机梯度算法 264

4.4.2 R-ESG算法的收敛性 269

4.4.3 基于新息的增广随机梯度算法 276

4.4.4 I-ESG算法的收敛性 278

4.5 广义增广随机梯度辨识方法 281

4.5.1 广义随机梯度算法 281

4.5.2 广义增广随机梯度算法 282

4.5.3 GESG算法的收敛性 284

4.6 辅助模型广义增广随机梯度辨识方法 286

4.6.1 辅助模型随机梯度算法 286

4.6.2 AM-SG算法的收敛性 288

4.6.3 辅助模型广义增广随机梯度算法 292

4.6.4 AM-GESG算法的收敛性 294

4.7 时变系统遗忘因子随机梯度辨识方法 297

4.7.1 遗忘梯度算法与基本引理 298

4.7.2 遗忘梯度算法的误差上界（Ⅰ） 303

4.7.3 遗忘梯度算法的误差上界（Ⅱ） 306

4.8 小结 314

4.9 思考题 315

第5章 最小均方类辨识方法及其收敛性 321

5.1 引言 321

5.2 时不变确定性系统投影辨识方法 325

5.2.1 确定性系统的投影算法 325

5.2.2 投影辨识算法的收敛性 327

5.3 时变系统广义投影辨识方法 334

5.3.1 广义投影辨识算法 334

5.3.2 广义投影算法参数估计误差上界 335

5.4 时不变系统最小均方辨识方法 342

5.4.1 LMS算法与基本引理 342

5.4.2 LMS算法参数估计收敛性 345

5.5 时变系统最小均方辨识方法 347

5.5.1 LMS算法与基本引理 347

5.5.2 LMS算法参数估计误差上界 350

5.6 时不变确定性系统多新息投影辨识方法 353

5.6.1 多新息投影算法与基本引理 353

5.6.2 多新息投影算法参数估计收敛性 354

5.7 时不变随机系统多新息投影辨识方法 361

5.7.1 多新息投影算法与基本引理 361

5.7.2 多新息投影算法参数估计收敛性 362

5.8 小结 364

5.9 思考题 365

第6章 多变量系统辨识方法及其收敛性 373

6.1 引言 373

6.2 多变量系统类别与辨识模型 373

6.2.1 多变量系统类别 374

6.2.2 辨识模型的类别 375

6.3 多变量受控自回归系统 377

6.3.1 多变量随机梯度辨识算法 377

6.3.2 MSG辨识算法的收敛性 379

6.3.3 仿真试验 384

6.4 多变量受控自回归滑动平均系统 386

6.4.1 多变量增广随机梯度辨识算法 386

6.4.2 MESG辨识算法的收敛性 388

6.4.3 仿真试验 397

6.5 多元线性回归系统 399

6.5.1 多元递推最小二乘辨识算法 400

6.5.2 M-RLS辨识算法的收敛性 401

6.5.3 多元随机梯度辨识算法 405

6.5.4 M-SG辨识算法的收敛性 406

6.5.5 仿真试验 414

6.6 多元伪线性回归滑动平均系统 417

6.6.1 多元递推增广最小二乘辨识算法 418

6.6.2 M-RELS辨识算法的收敛性 420

6.6.3 多元增广随机梯度辨识算法 424

6.6.4 M-ESG辨识算法的收敛性 426

6.7 类多变量受控自回归系统 433

6.7.1 传递函数阵主模型 434

6.7.2 递阶梯度迭代算法 435

6.7.3 递阶随机梯度辨识算法 441

6.7.4 递阶最小二乘迭代算法 448

6.7.5 递阶最小二乘辨识算法 453

6.7.6 递阶最小二乘算法的收敛性 456

6.8 小结 464

6.9 思考题 465

参考文献 470

附录A 迭代方法族 481

A.1 雅可比迭代和高斯-赛德尔迭代 481

A.2 迭代方法族 483

附录B 卡尔曼滤波算法与参数估计 488

B.1 Kalman滤波器 488

B.2 线性时变系统的卡尔曼滤波算法 489

B.3 Kalman滤波器用于参数估计 490

附录C 连续系统和离散系统的正实性 491

C.1 连续系统的正实性 491

C.2 离散系统的正实性 492

附录D 基本事实 494

D.1 基本公式 494

D.2 基本事实和引理 494

D.3 向量范数 501

D.4 矩阵范数 503

D.5 矩阵的性质 506

D.6 矩阵及其分解 508

索引 512

后记 521