目 錄
第1章 緒論 1
1.1 人工智能 2
1.2 機器學習 3
1.2.1 監(jiān)督學習 3
1.2.2 非監(jiān)督學習 3
1.2.3 半監(jiān)督學習 4
1.3 深度學習 4
1.3.1 卷積神經網絡 4
1.3.2 循環(huán)神經網絡 5
1.4 實現(xiàn)工具 6
1.4.1 Python 6
1.4.2 TensorFlow 6
第2章 Python基礎 9
2.1 Python簡介 10
2.1.1 概述 10
2.1.2 Python的特點 10
2.1.3 Python的版本 11
2.2 Python的安裝 11
2.2.1 Python官網下載安裝 11
2.2.2 Anaconda的安裝 14
2.3 Spyder編輯器 16
2.3.1 Spyder界面 16
2.3.2 Spyder快捷鍵 19
2.4 Python基礎知識 19
2.4.1 基本語法 20
2.4.2 基本數據類型和運算 23
2.4.3 列表、元組和字符串 25
2.4.4 字典和集合 32
2.4.5 分支和循環(huán) 35
2.4.6 函數和類 37
2.4.7 模塊 40
第3章 Python基礎庫 43
3.1 Numpy庫 44
3.1.1 創(chuàng)建數組 44
3.1.2 ndarray類 47
3.1.3 數組操作 48
3.1.4 形狀操作 55
3.2 Matplotlib庫 58
3.2.1 快速繪圖 58
3.2.2 繪制多軸圖 61
3.2.3 繪制3D圖 64
3.3 Scipy庫 67
3.3.1 scipy.io 67
3.3.2 scipy.linalg 68
3.3.3 scipy.fftpack 69
3.3.4 scipy.optimize 70
3.3.5 scipy.interpolate 71
3.3.6 scipy.stats 72
第4章 TensorFlow基礎 75
4.1 概述 76
4.2 TensorFlow的安裝 77
4.3 TensorFlow基本概念 79
4.3.1 Graph和Session 79
4.3.2 placeholder 82
4.3.3 tensor 82
4.3.4 Variable 85
4.3.5 fetch和feed 87
4.4 MNIST 89
4.4.1 MNIST簡介 89
4.4.2 MNIST解析 90
第5章 神經網絡基礎 95
5.1 神經網絡概述 96
5.1.1 神經網絡常用術語 97
5.1.2 神經網絡模型 99
5.1.3 神經網絡的運作 99
5.1.4 神經網絡算法的特點 100
5.2 神經元模型 101
5.3 激活函數 103
5.4.1 sigmoid函數 104
5.4.2 tanh函數 104
5.4.3 ReLU函數 105
5.4.4 softmax函數 106
5.4 損失函數 106
5.4.1 均方差函數 106
5.4.2 交叉熵函數 107
5.5 梯度下降算法 107
5.5.1 梯度下降算法推導 108
5.5.2 梯度下降算法種類 108
5.5 BP算法 109
5.5.1 BP網絡簡介 109
5.5.2 BP算法流程 110
5.6 仿真實例 112
第6章 神經網絡基礎應用 117
6.1 感知機 118
6.1.1 感知機網絡結構 119
6.1.2 感知機學習規(guī)則 120
6.1.3 感知機網絡訓練 120
6.1.5 仿真實例 121
6.2 線性回歸 123
6.2.1 線性回歸理論 123
6.2.2 仿真實例 126
6.3 邏輯回歸 129
6.3.1 邏輯回歸理論 129
6.3.2 仿真實例 131
第7章 卷積神經網絡 137
7.1 概述 138
7.2 卷積神經網絡結構 139
7.2.1 卷積層 141
7.2.2 池化層 144
7.2.3 全連接層 147
7.2.4 Dropout 層 148
7.3 訓練過程 148
7.4 卷積神經網絡經典模型 149
7.4.1 LeNet-5模型 149
7.4.2 AlexNet模型 150
7.5 仿真實例 152
第8章 循環(huán)神經網絡 159
8.1 循環(huán)神經網絡概述 160
8.1.1 循環(huán)神經網絡結構 160
8.1.2 循環(huán)神經網絡前向傳播 162
8.1.3 循環(huán)神經網絡訓練算法 163
8.2 長短時記憶網絡(LSTM) 163
8.2.1 LSTM結構 164
8.2.2 LSTM前向計算 165
8.2.3 LSTM訓練算法 169
8.2.4 LSTM程序實現(xiàn) 169
8.3 循環(huán)神經網絡的變種 170
8.3.1 雙向循環(huán)神經網絡 170
8.3.2 深層循環(huán)神經網絡 171
8.4 仿真實例 172
附錄A Python主要函數 181
附錄B TensorFlow主要函數 189
參考文獻 198