神经网络与深度学习

第0章　写在前面：神经网络的历史 1
第1章　神经网络是个什么东西 13
1.1　买橙子和机器学习 13
1.1.1　规则列表 14
1.1.2　机器学习 15
1.2　怎么定义神经网络 16
1.3　先来看看大脑如何学习 16
1.3.1　信息输入 17
1.3.2　模式加工 17
1.3.3　动作输出 18
1.4　生物意义上的神经元 19
1.4.1　神经元是如何工作的 19
1.4.2　组成神经网络 22
1.5　大脑如何解决现实生活中的分类问题 24
第2章　构造神经网络 26
2.1　构造一个神经元 26
2.2　感知机 30
2.3　感知机的学习 32
2.4　用代码实现一个感知机 34
2.4.1　Neuroph：一个基于Java的神经网络框架 34
2.4.2　代码实现感知机 37
2.4.3　感知机学习一个简单逻辑运算 39
2.4.4　XOR问题 42
2.5　构造一个神经网络 44
2.5.1　线性不可分 45
2.5.2　解决XOR问题（解决线性不可分） 49
2.5.3　XOR问题的代码实现 51
2.6　解决一些实际问题 54
2.6.1　识别动物 54
2.6.2　我是预测大师 59
第3章　深度学习是个什么东西 66
3.1　机器学习 67
3.2　特征 75
3.2.1　特征粒度 75
3.2.2　提取浅层特征 76
3.2.3　结构性特征 78
3.3　浅层学习和深度学习 81
3.4　深度学习和神经网络 83
3.5　如何训练神经网络 84
3.5.1　BP算法：神经网络训练 84
3.5.2　BP算法的问题 85
3.6　总结深度学习及训练过程 86
第4章　深度学习的常用方法 89
4.1　模拟大脑的学习和重构 90
4.1.1　灰度图像 91
4.1.2　流行感冒 92
4.1.3　看看如何编解码 93
4.1.4　如何训练 95
4.1.5　有监督微调 97
4.2　快速感知：稀疏编码（Sparse Coding） 98
4.3　栈式自编码器 100
4.4　解决概率分布问题：限制波尔兹曼机 102
4.4.1　生成模型和概率模型 102
4.4.2　能量模型 107
4.4.3　RBM的基本概念 109
4.4.4　再看流行感冒的例子 111
4.5　DBN 112
4.6　卷积神经网络 114
4.6.1　卷积神经网络的结构 116
4.6.2　关于参数减少与权值共享 120
4.6.3  举个典型的例子：图片内容识别 124
4.7　不会忘记你：循环神经网络 131
4.7.1　什么是RNN 131
4.7.2　LSTM网络 136
4.7.3　LSTM变体 141
4.7.4　结论 143
4.8　你是我的眼：利用稀疏编码器找图像的基本单位 143
4.9　你是我的眼（续） 150
4.10　使用深度信念网搞定花分类 160
第5章　深度学习的胜利：AlphaGo 169
5.1　AI如何玩棋类游戏 169
5.2　围棋的复杂性 171
5.3　AlphaGo的主要原理 173
5.3.1　策略网络 174
5.3.2　MCTS拯救了围棋算法 176
5.3.3　强化学习：“周伯通，左右互搏” 179
5.3.4　估值网络 181
5.3.5　将所有组合到一起：树搜索 182
5.3.6　AlphaGo有多好 185
5.3.7　总结 187
5.4　重要的技术进步 189
5.5　一些可以改进的地方 190
5.6　未来 192
第6章　两个重要的概念 194
6.1　迁移学习 194
6.2　概率图模型 197
6.2.1　贝叶斯的网络结构 201
6.2.2　概率图分类 204
6.2.3　如何应用PGM 208
第7章　杂项 210
7.1　如何为不同类型的问题选择模型 210
7.2　我们如何学习“深度学习” 211
7.3　如何理解机器学习和深度学习的差异 212
7.4　大规模学习（Large Scale Learning）和并行计算 214
7.5　如果喜欢应用领域，可以考虑以下几种应用 215
7.6　类脑：人工智能的终极目标 216
参考文献 218
术语 220