第1章 概率推理 1
1.1机器学习 3
1.2使用概率表示不确定性 4
1.2.1信念和不确定性的概率表示 5
1.2.2条件概率 6
1.2.3概率计算和随机变量 7
1.2.4联合概率分布 9
1.2.5贝叶斯规则 10
1.3概率图模型 18
1.3.1概率模型 18
1.3.2图和条件独立 19
1.3.3分解分布 21
1.3.4有向模型 22
1.3.5无向模型 23
1.3.6示例和应用 23
1.4小结 27
第2章 精确推断 28
2.1构建图模型 29
2.1.1随机变量的类型 30
2.1.2构建图 31
2.2变量消解 37
2.3和积与信念更新 39
2.4联结树算法 43
2.5概率图模型示例 51
2.5.1洒水器例子 51
2.5.2医疗专家系统 52
2.5.3多于两层的模型 53
2.5.4树结构 55
2.6 小结 56
第3章 学习参数 58
3.1引言 59
3.2通过推断学习 63
3.3最大似然法 67
3.3.1经验分布和模型分布是如何关联的？ 67
3.3.2最大似然法和R语言实现 69
3.3.3应用 73
3.4学习隐含变量——期望最大化算法 75
3.4.1隐变量 76
3.5期望最大化的算法原理 77
3.5.1期望最大化算法推导 77
3.5.2对图模型使用期望最大化算法 79
3.6小结 80
第4章 贝叶斯建模——基础模型 82
4.1朴素贝叶斯模型 82
4.1.1表示 84
4.1.2学习朴素贝叶斯模型 85
4.1.3完全贝叶斯的朴素贝叶斯模型 87
4.2 Beta二项式分布 90
4.2.1先验分布 94
4.2.2带有共轭属性的后验分布 95
4.2.3如何选取Beta参数的值 95
4.3高斯混合模型 97
4.3.1定义 97
4.4小结 104
第5章 近似推断 105
5.1从分布中采样 106
5.2基本采样算法 108
5.2.1标准分布 108
5.3拒绝性采样 111
5.3.1 R语言实现 113
5.4重要性采样 119
5.4.1 R语言实现 121
5.5马尔科夫链蒙特卡洛算法 127
5.5.1主要思想 127
5.5.2 Metropolis-Hastings算法 128
5.6概率图模型MCMC算法R语言实现 135
5.6.1安装Stan和RStan 136
5.6.2 RStan的简单例子 136
5.7小结 137
第6章 贝叶斯建模——线性模型 139
6.1线性回归 140
6.1.1估计参数 142
6.2贝叶斯线性模型 146
6.2.1模型过拟合 147
6.2.2线性模型的图模型 149
6.2.3后验分布 151
6.2.4 R语言实现 153
6.2.5一种稳定的实现 156
6.2.6更多R语言程序包 161
6.3小结 161
第7章 概率混合模型 162
7.1混合模型 162
7.2混合模型的期望最大化 164
7.3伯努利混合 169
7.4专家混合 172
7.5隐狄利克雷分布 176
7.5.1 LDA模型 176
7.5.2变分推断 179
7.5.3示例 180
7.6小结 183
附录 184