机器学习与人工智能：从理论到实践

序
前言
致谢
第一部分　简　　介
第1章　人工智能和机器学习简介2
1.1　引言2
1.2　什么是人工智能2
1.3　什么是机器学习3
1.4　本书的结构3
1.4.1　简介4
1.4.2　机器学习4
1.4.3　构建端到端管道4
1.4.4　人工智能4
1.4.5　实现5
1.4.6　结语5
第2章　人工智能和机器学习的基本概念6
2.1　引言6
2.2　大数据和非大数据6
2.2.1　什么是大数据6
2.2.2　为什么我们应该区别对待大数据6
2.3　学习类型7
2.3.1　监督学习7
2.3.2　无监督学习7
2.3.3　强化学习8
2.4　基于时间的机器学习方法8
2.4.1　静态学习8
2.4.2　动态学习8
2.5　维数8
2.6　线性和非线性10
2.7　奥卡姆剃刀原理12
2.8　“没有免费的午餐”定理14
2.9　收益递减规律14
2.10　机器学习的早期趋势14
2.11　小结15
第3章　数据的理解、表示和可视化16
3.1　引言16
3.2　理解数据16
3.2.1　理解实体17
3.2.2　理解属性17
3.2.3　理解数据类型18
3.3　数据的表示和可视化19
3.3.1　主成分分析19
3.3.2　线性判别分析21
3.4　小结22
第二部分　机 器 学 习
第4章　线性方法26
4.1　引言26
4.2　线性模型和广义线性模型27
4.3　线性回归27
4.3.1　定义问题27
4.3.2　解决问题27
4.4　正则化的线性回归28
4.4.1　正则化28
4.4.2　岭回归29
4.4.3　Lasso回归29
4.5　广义线性模型30
4.6　k 近邻算法30
4.6.1　KNN的定义31
4.6.2　分类和回归32
4.6.3　KNN的其他变体32
4.7　小结32
第5章　感知器和神经网络34
5.1　引言34
5.2　感知器34
5.3　多层感知器或人工神经网络35
5.3.1　前馈操作35
5.3.2　非线性多层感知器或非线性人工神经网络36
5.3.3　训练多层感知器36
5.3.4　隐藏层38
5.4　径向基函数网络38
5.5　过度拟合与正则化40
5.5.1　L1和L2正则化40
5.5.2　丢弃正则化41
5.6　小结41
第6章　决策树42
6.1　引言42
6.2　为什么使用决策树43
6.3　构建决策树的算法43
6.4　回归树44
6.5　分类树45
6.6　决策指标45
6.6.1　误分类误差46
6.6.2　基尼指数46
6.6.3　交叉熵或偏差46
6.7　卡方自动交叉检验47
6.8　训练决策树47
6.9　集成决策树48
6.10　Bagging集成树48
6.11　随机森林49
6.12　Boosted集成树49
6.12.1　AdaBoost50
6.12.2　梯度提升50
6.13　小结50
第7章　支持向量机51
7.1　引言51
7.2　动机和范围51
7.2.1　扩展到多元分类51
7.2.2　非线性情况的扩展53
7.3　支持向量机理论53
7.4　可分离性和间隔54
7.4.1　正则化和软间隔SVM54
7.4.2　松弛变量的使用54
7.5　非线性与核函数的使用55
7.5.1　径向基函数55
7.5.2　多项式函数56
7.5.3　Sigmoid56
7.6　风险 小化56
7.7　小结56
第8章　概率模型57
8.1　引言57
8.2　判别模型58
8.2.1　 似然估计58
8.2.2　贝叶斯方法58
8.2.3　 似然估计和贝叶斯方法的比较59
8.3　生成模型61
8.3.1　混合方法62
8.3.2　贝叶斯网络62
8.4　一些有用的概率分布62
8.4.1　正态分布或高斯分布63
8.4.2　伯努利分布64
8.4.3　二项分布65
8.4.4　伽马分布66
8.4.5　泊松分布67
8.5　小结70
第9章　动态规划和强化学习71
9.1　引言71
9.2　动态规划的基本方程71
9.3　动态规划下的问题类别72
9.4　强化学习73
9.4.1　强化学习的特点73
9.4.2　框架和算法73
9.5　探索和开发74
9.6　强化学习应用示例75
9.7　强化学习理论76
9.8　小结77
第10章　演化算法78
10.1　引言78
10.2　传统方法的瓶颈78
10.3　达尔文的进化论80
10.4　遗传规划80
10.5　群体智能82
10.6　蚁群优化83
10.7　模拟退火84
10.8　小结84
第11章　时间序列模型85
11.1　引言85
11.2　平稳性85
11.3　自回归和移动平均模型87
11.3.1　自回归过程87
11.3.2　移动平均过程88
11.3.3　自回归移动平均过程88
11.4　差分自回归移动平均模型88
11.5　隐马尔可夫模型89
11.6　条件随机场91
11.7　小结92
第12章　深度学习93
12.1　引言93
12.2　现代深度学习的起源94
12.3　卷积神经网络95
12.3.1　一维卷积95
12.3.2　二维卷积95
12.3.3　CNN的架构96
12.3.4　训练CNN98
12.4　循环神经网络98
12.4.1　RNN的局限性 99
12