神经网络与深度学习——基于TensorFlow框架和Python技术实现

目 录
　　
第1章 绪论 1
1.1 人工智能 2
1.2 机器学习 3
1.2.1 监督学习 3
1.2.2 非监督学习 3
1.2.3 半监督学习 4
1.3 深度学习 4
1.3.1 卷积神经网络 4
1.3.2 循环神经网络 5
1.4 实现工具 6
1.4.1 Python 6
1.4.2 TensorFlow 6
第2章 Python基础 9
2.1 Python简介 10
2.1.1 概述 10
2.1.2 Python的特点 10
2.1.3 Python的版本 11
2.2 Python的安装 11
2.2.1 Python官网下载安装 11
2.2.2 Anaconda的安装 14
2.3 Spyder编辑器 16
2.3.1 Spyder界面 16
2.3.2 Spyder快捷键 19
2.4 Python基础知识 19
2.4.1 基本语法 20
2.4.2 基本数据类型和运算 23
2.4.3 列表、元组和字符串 25
2.4.4 字典和集合 32
2.4.5 分支和循环 35
2.4.6 函数和类 37
2.4.7 模块 40
第3章 Python基础库 43
3.1 Numpy库 44
3.1.1 创建数组 44
3.1.2 ndarray类 47
3.1.3 数组操作 48
3.1.4 形状操作 55
3.2 Matplotlib库 58
3.2.1 快速绘图 58
3.2.2 绘制多轴图 61
3.2.3 绘制3D图 64
3.3 Scipy库 67
3.3.1 scipy.io 67
3.3.2 scipy.linalg 68
3.3.3 scipy.fftpack 69
3.3.4 scipy.optimize 70
3.3.5 scipy.interpolate 71
3.3.6 scipy.stats 72
第4章 TensorFlow基础 75
4.1 概述 76
4.2 TensorFlow的安装 77
4.3 TensorFlow基本概念 79
4.3.1 Graph和Session 79
4.3.2 placeholder 82
4.3.3 tensor 82
4.3.4 Variable 85
4.3.5 fetch和feed 87
4.4 MNIST 89
4.4.1 MNIST简介 89
4.4.2 MNIST解析 90

第5章 神经网络基础 95
5.1 神经网络概述 96
5.1.1 神经网络常用术语 97
5.1.2 神经网络模型 99
5.1.3 神经网络的运作 99
5.1.4 神经网络算法的特点 100
5.2 神经元模型 101
5.3 激活函数 103
5.4.1 sigmoid函数 104
5.4.2 tanh函数 104
5.4.3 ReLU函数 105
5.4.4 softmax函数 106
5.4 损失函数 106
5.4.1 均方差函数 106
5.4.2 交叉熵函数 107
5.5 梯度下降算法 107
5.5.1 梯度下降算法推导 108
5.5.2 梯度下降算法种类 108
5.5 BP算法 109
5.5.1 BP网络简介 109
5.5.2 BP算法流程 110
5.6 仿真实例 112
第6章 神经网络基础应用 117
6.1 感知机 118
6.1.1 感知机网络结构 119
6.1.2 感知机学习规则 120
6.1.3 感知机网络训练 120
6.1.5 仿真实例 121
6.2 线性回归 123
6.2.1 线性回归理论 123
6.2.2 仿真实例 126
6.3 逻辑回归 129
6.3.1 逻辑回归理论 129
6.3.2 仿真实例 131
第7章 卷积神经网络 137
7.1 概述 138
7.2 卷积神经网络结构 139
7.2.1 卷积层 141
7.2.2 池化层 144
7.2.3 全连接层 147
7.2.4 Dropout 层 148
7.3 训练过程 148
7.4 卷积神经网络经典模型 149
7.4.1 LeNet-5模型 149
7.4.2 AlexNet模型 150
7.5 仿真实例 152
第8章 循环神经网络 159
8.1 循环神经网络概述 160
8.1.1 循环神经网络结构 160
8.1.2 循环神经网络前向传播 162
8.1.3 循环神经网络训练算法 163
8.2 长短时记忆网络（LSTM） 163
8.2.1 LSTM结构 164
8.2.2 LSTM前向计算 165
8.2.3 LSTM训练算法 169
8.2.4 LSTM程序实现 169
8.3 循环神经网络的变种 170
8.3.1 双向循环神经网络 170
8.3.2 深层循环神经网络 171
8.4 仿真实例 172
附录A Python主要函数 181
附录B TensorFlow主要函数 189
参考文献 198