Python數(shù)據(jù)挖掘與機器學(xué)習(xí)實戰(zhàn)

前言
第1章 機器學(xué)習(xí)基礎(chǔ)1
1.1 機器學(xué)習(xí)概述2
1.2 機器學(xué)習(xí)的發(fā)展歷程2
1.3 機器學(xué)習(xí)分類3
1.3.1 監(jiān)督學(xué)習(xí)3
1.3.2 無監(jiān)督學(xué)習(xí)3
1.3.3 強化學(xué)習(xí)4
1.3.4 深度學(xué)習(xí)4
1.4 機器學(xué)習(xí)的應(yīng)用4
1.5 開發(fā)機器學(xué)習(xí)的步驟7
1.6 Python語言的優(yōu)勢8
1.6.1 可執(zhí)行偽代碼8
1.6.2 Python語言使用廣泛8
1.6.3 Python語言特色8
1.6.4 Python語言的缺點9
1.7 Python開發(fā)工具介紹9
1.7.1 IDLE簡介10
1.7.2 IPython簡介11
1.7.3 PyCharm簡介11
1.7.4 Jupyter Notebook簡介12
1.7.5 Anaconda和Spyder簡介13
1.8 本章小結(jié)15
第2章 Python語言簡介16
2.1 搭建Python開發(fā)環(huán)境16
2.1.1 安裝Anaconda16
2.1.2 安裝Spyder18
2.1.3 運行和保存Python程序19
2.2 Python計算與變量19
2.2.1 用Python做簡單的計算20
2.2.2 Python的運算符20
2.2.3 Python的變量21
2.3 Python的字符串22
2.4 Python的列表23
2.5 Python的元組25
2.6 Python的字典27
2.7 網(wǎng)絡(luò)爬蟲的發(fā)展歷史和分類28
2.7.1 網(wǎng)絡(luò)爬蟲的發(fā)展歷史28
2.7.2 網(wǎng)絡(luò)爬蟲的分類30
2.8 網(wǎng)絡(luò)爬蟲的原理30
2.8.1 理論概述30
2.8.2 爬蟲的工作流程31
2.9 爬蟲框架介紹36
2.9.1 Scrapy介紹36
2.9.2 XPath介紹39
2.10 網(wǎng)絡(luò)爬蟲的設(shè)計與實現(xiàn)40
2.10.1 網(wǎng)絡(luò)爬蟲的總體設(shè)計40
2.10.2 具體實現(xiàn)過程40
2.10.3 爬蟲結(jié)果與分析45
2.11 本章小結(jié)49
第3章 回歸分析50
3.1 回歸分析概述50
3.1.1 基本概念50
3.1.2 可以解決的問題51
3.1.3 回歸分析的步驟51
3.2 線性回歸51
3.2.1 簡單線性回歸分析51
3.2.2 多元線性回歸分析52
3.2.3 非線性回歸數(shù)據(jù)分析52
3.3 用Python實現(xiàn)一元線性回歸53
3.4 用Python實現(xiàn)多元線性回歸56
3.4.1 使用pandas讀取數(shù)據(jù)56
3.4.2 分析數(shù)據(jù)57
3.4.3 線性回歸模型58
3.5 基于線性回歸的股票預(yù)測62
3.5.1 數(shù)據(jù)獲取62
3.5.2 數(shù)據(jù)預(yù)處理63
3.5.3 編碼實現(xiàn)64
3.5.4 結(jié)果分析65
3.6 邏輯回歸66
3.6.1 構(gòu)造預(yù)測函數(shù)67
3.6.2 構(gòu)造損失函數(shù)J68
3.6.3 梯度下降法求解最小值69
3.7 基于邏輯回歸的環(huán)境數(shù)據(jù)檢測71
3.7.1 數(shù)據(jù)來源71
3.7.2 數(shù)據(jù)處理72
3.7.3 異常數(shù)據(jù)分析72
3.7.4 數(shù)據(jù)預(yù)測74
3.8 本章小結(jié)76
第4章 決策樹與隨機森林77
4.1 決策樹77
4.1.1 決策樹的基本原理77
4.1.2 決策樹的分類78
4.1.3 決策樹的優(yōu)缺點81
4.2 使用決策樹對鳶尾花分類82
4.2.1 Iris數(shù)據(jù)集簡介82
4.2.2 讀取數(shù)據(jù)83
4.2.3 鳶尾花類別83
4.2.4 數(shù)據(jù)可視化84
4.2.5 訓(xùn)練和分類85
4.2.6 數(shù)據(jù)集多類分類86
4.2.7 實驗結(jié)果86
4.3 隨機森林87
4.3.1 隨機森林的基本原理87
4.3.2 隨機森林的收斂性88
4.3.3 隨機森林的OOB估計89
4.3.4 隨機森林的隨機特征選取89
4.3.5 隨機森林的優(yōu)缺點90
4.4 葡萄酒數(shù)據(jù)集的隨機森林分類91
4.4.1 數(shù)據(jù)收集91
4.4.2 相關(guān)庫函數(shù)簡介92
4.4.3 數(shù)據(jù)基本分析93
4.4.4 使用隨機森林構(gòu)建模型97
4.4.5 實驗結(jié)果98
4.5 本章小結(jié)99
第5章 支持向量機100
5.1 SVM的工作原理及分類100
5.1.1 支持向量機的原理100
5.1.2 線性可分的支持向量機101
5.1.3 非線性可分的支持向量機102
5.2 核函數(shù)103
5.2.1 核函數(shù)簡介103
5.2.2 幾種常見的核函數(shù)104
5.2.3 核函數(shù)如何處理非線性數(shù)據(jù)104
5.2.4 如何選擇合適的核函數(shù)105
5.3 SVR簡介106
5.3.1 SVR原理106
5.3.2 SVR模型106
5.4 時間序列曲線預(yù)測107
5.4.1 生成訓(xùn)練數(shù)據(jù)集107
5.4.2 運用不同的核函數(shù)進行支持向量回歸108
5.4.3 生成測試數(shù)據(jù)集109
5.4.4 預(yù)測并生成圖表110
5.4.5 獲取預(yù)測誤差111
5.4.6 創(chuàng)建數(shù)據(jù)集112
5.4.7 選取最優(yōu)參數(shù)112
5.4.8 預(yù)測并生成圖表112
5.4.9 獲取預(yù)測誤差113
5.5 本章小結(jié)114
第6章 隱馬爾可夫模型115
6.1 隱馬爾可夫模型簡介115
6.1.1 隱馬爾可夫模型的概念115
6.1.2 詳例描述116
6.1.3 HMM流程117
6.2 Viterbi算法117
6.3 HMM模型用于中文分詞119
6.3.1 UI界面119
6.3.2 數(shù)據(jù)及其編碼119
6.3.3 HMM模型121
6.3.4 實驗結(jié)果122
6.4 本章小結(jié)124
第7章 BP神經(jīng)網(wǎng)絡(luò)模型125
7.1 背景介紹125
7.2 結(jié)構(gòu)特點126
7.3 網(wǎng)絡(luò)模型126
7.4 人工神經(jīng)網(wǎng)絡(luò)簡介127
7.4.1 神經(jīng)元127
7.4.2 單層神經(jīng)網(wǎng)絡(luò)128
7.4.3 雙層神經(jīng)網(wǎng)絡(luò)129
7.4.4 多層神經(jīng)網(wǎng)絡(luò)130
7.5 BP神經(jīng)網(wǎng)絡(luò)131
7.6 通過TensorFlow實現(xiàn)BP神經(jīng)網(wǎng)絡(luò)132
7.7 本章小結(jié)134
第8章 卷積神經(jīng)網(wǎng)絡(luò)135
8.1 傳統(tǒng)圖像識別技術(shù)135
8.1.1 圖像預(yù)處理135
8.1.2 圖像特征提取136
8.1.3 圖像分類方法136
8.2 卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡介137
8.2.1 卷積神經(jīng)網(wǎng)絡(luò)發(fā)展歷程137
8.2.2 卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡介137
8.3 卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)及原理139
8.3.1 卷積層139
8.3.2 池化層140
8.3.3 激活函數(shù)142
8.3.4 全連接層144
8.3.5 反饋運算144
8.4 卷積神經(jīng)網(wǎng)絡(luò)的優(yōu)點146
8.5 雷達剖面圖識別模型148
8.5.1 數(shù)據(jù)準備148
8.5.2 構(gòu)建模型150
8.6 模型測試分析157
8.6.1 部署基本模塊157
8.6.2 創(chuàng)建項目結(jié)構(gòu)157
8.6.3 訓(xùn)練網(wǎng)絡(luò)158
8.6.4 自動化測試158
8.7 本章小結(jié)160
第9章 循環(huán)神經(jīng)網(wǎng)絡(luò)161
9.1 自然語言處理161
9.1.1 自然語言處理概述161
9.1.2 自然語言處理應(yīng)用162
9.2 對話系統(tǒng)163
9.2.1 對話系統(tǒng)分類163
9.2.2 聊天機器人分類164
9.3 基于LSTM結(jié)構(gòu)的循環(huán)神經(jīng)網(wǎng)絡(luò)165
9.3.1 循環(huán)神經(jīng)網(wǎng)絡(luò)165
9.3.2 通過時間反向傳播166
9.3.3 長短期記憶網(wǎng)絡(luò)（LSTM）169
9.4 Seq2Seq模型172
9.4.1 Encoder-Decoder框架173
9.4.2 Attention機制174
9.5 聊天機器人的程序?qū)崿F(xiàn)176
9.5.1 準備數(shù)據(jù)176
9.5.2 創(chuàng)建模型178
9.5.3 訓(xùn)練模型179
9.5.4 測試模型180
9.6 本章小結(jié)181
第10章 聚類與集成算法182
10.1 聚類方法簡介182
10.1.1 聚類定義183
10.1.2 聚類要求183
10.2 聚類算法184
10.2.1 劃分方法184
10.2.2 層次方法184
10.2.3 基于密度的方法184
10.2.4 基于網(wǎng)格的方法185
10.2.5 基于模型的方法185
10.3 K-Means算法185
10.3.1 K-Means算法概述185
10.3.2 K-Means算法流程185
10.3.3 K-Means算法實現(xiàn)186
10.3.4 實驗結(jié)果及分析188
10.3.5 K-Means算法存在的問題188
10.4 K-Means++算法189
10.4.1 K-Means++的基本思想189
10.4.2 K-Means++的數(shù)學(xué)描述190
10.4.3 K-Means++算法流程190
10.5 K-Means++的實現(xiàn)191
10.5.1 數(shù)據(jù)集191
10.5.2 代碼實現(xiàn)192
10.5.3 K-Means++實驗結(jié)果193
10.6 Adaboost集成算法的原理194
10.6.1 Boosting算法的基本原理194
10.6.2 Adaboost算法介紹195
10.6.3 Adaboost分類問題的損失函數(shù)優(yōu)化197
10.6.4 Adaboost二元分類問題的算法流程198
10.6.5 Adaboost回歸問題的算法流程199
10.6.6 Adaboost算法的正則化200
10.6.7 Adaboost的優(yōu)缺點200
10.7 Adaboost算法實現(xiàn)201
10.7.1 數(shù)據(jù)集處理201
10.7.2 實現(xiàn)過程201
10.7.3 實驗結(jié)果分析206
10.8 本章小結(jié)208
第11章 其他機器學(xué)習(xí)算法209
11.1 貝葉斯分類器210
11.1.1 概率基礎(chǔ)知識210
11.1.2 貝葉斯決策準則211
11.1.3 極大似然估計212
11.2 貝葉斯分類模型213
11.2.1 樸素貝葉斯分類模型213
11.2.2 半樸素貝葉斯分類模型216
11.2.3 貝葉斯網(wǎng)絡(luò)分類模型217
11.3 樸素貝葉斯分類器在破產(chǎn)預(yù)測中的應(yīng)用219
11.3.1 數(shù)據(jù)集219
11.3.2 訓(xùn)練多項式樸素貝葉斯模型220
11.4 在線學(xué)習(xí)222
11.4.1 線性模型的在線學(xué)習(xí)222
11.4.2 非線性模型的在線學(xué)習(xí)224
11.5 Bandit在線學(xué)習(xí)算法225
11.5.1 Bandit算法與推薦系統(tǒng)226
11.5.2 常用Bandit算法226
11.6 Bandit算法原理及實現(xiàn)228
11.7 GAN網(wǎng)絡(luò)229
11.7.1 GAN產(chǎn)生的背景230
11.7.2 模型結(jié)構(gòu)230
11.7.3 GAN的實現(xiàn)原理232
11.8 DCGAN網(wǎng)絡(luò)236
11.8.1 模型結(jié)構(gòu)236
11.8.2 反卷積237
11.9 DCGAN人臉生成240
11.9.1 實驗準備240
11.9.2 關(guān)鍵模塊的實現(xiàn)240
11.9.3 實驗結(jié)果展示243
11.10 本章小結(jié)245
附錄A 機器學(xué)習(xí)常見面試題246
附錄B 數(shù)學(xué)基礎(chǔ)257
B.1 常用符號257
B.2 數(shù)學(xué)基礎(chǔ)知識259
B.2.1 線性代數(shù)259
B.2.2 概率論261
B.2.3 信息論262
參考文獻264