第1章 机器学习 1
1.1什么是机器学习 2
1.2机器学习面临的挑战 4
1.2.1过拟合 5
1.2.2克服过拟合 7
1.3机器学习的类型 9
1.4本章小结 13
第2章 神经网络 15
2.1神经网络的节点 15
2.2神经网络的层 17
2.3神经网络的监督学习 21
2.4训练单层神经网络：delta规则 22
2.5广义delta规则 25
2.6 SGD、Batch和Mini Batch 26
2.6.1 SGD 26
2.6.2 Batch 27
2.6.3 Mini Batch 27
2.7 delta规则示例 29
2.8 SGD方法的实现 30
2.9 Batch方法的实现 32
2.10 SGD与Batch的比较 34
2.11单层神经网络的局限性 36
2.12究竟发生了什么？ 38
2.13本章小结 40
第3章 多层神经网络的训练 41
3.1反向传播算法 42
3.2反向传播示例 46
3.2.1 XOR问题 48
3.2.2动量 50
3.3代价函数与学习规则 53
3.4交叉熵函数示例 57
3.5交叉熵函数 58
3.6代价函数比较 60
3.7本章小结 62
第4章 神经网络与分类问题 63
4.1二元分类 63
4.2多元分类 66
4.3多元分类示例 71
4.4本章小结 78
第5章 深度学习 79
5.1深度神经网络的改进 80
5.1.1梯度消失 81
5.1.2 过拟合 82
5.1.3计算负载 83
5.2 ReLU与Dropout的实例 84
5.2.1 ReLU函数 85
5.2.2 Dropout 88
5.3本章小结 93
第6章 卷积神经网络 95
6.1卷积神经网络架构 95
6.2卷积层 97
6.3池化层 101
6.4 MNIST示例 102
6.5本章小结 116