深度學習與飛槳PaddlePaddle Fluid實戰(zhàn)

第　1章 飛槳PaddlePaddle簡介
與AI　Studio的使用　1
1．1　飛槳PaddlePaddle簡介　1
1．2　飛槳PaddlePaddle的工具組件　2
1．2．1　PaddleHub—簡明易用的
預訓練模型管理框架　2
1．2．2　PARL—基于飛槳PaddlePaddle
的深度強化學習框架　3
1．2．3　AutoDL Design—讓深度學習
來設計深度學習　4
1．2．4　VisualDL—深度學習可視化
工具庫　5
1．2．5　模型轉(zhuǎn)換工具X2Paddle　5
1．3　飛槳PaddlePaddle在百度內(nèi)部
支持的案例　6
1．4　飛槳PaddlePaddle與TensorFlow的
對比　7
1．5　AI Studio簡介　8
1．6　在AI Studio中創(chuàng)建項目　9
1．6．1　用戶界面簡介　9
1．6．2　創(chuàng)建并運行一個項目　10
1．7　AI Studio單機項目概述　11
1．7．1　頁面概覽　11
1．7．2　復制項目　12
1．7．3　VisualDL工具的使用　13
1．8　Notebook環(huán)境使用說明　14
1．8．1　Notebook頁面概覽　14
1．8．2　操作區(qū)　14
1．8．3　Notebook內(nèi)容編輯區(qū)　15
1．8．4　側(cè)邊欄　21
1．8．5　工具欄　23
1．9　AI Studio集群項目　23
1．9．1　集群項目說明　23
1．9．2　創(chuàng)建集群項目　24
1．9．3　頁面概覽　25
1．9．4　代碼編輯界面　25
1．9．5　文件管理和數(shù)據(jù)集區(qū)域　26
1．9．6　文件預覽編輯和提交任務
區(qū)域　27
1．9．7　PaddlePaddle集群訓練說明　27
1．9．8　數(shù)據(jù)集與輸出文件路徑說明　28
1．9．9　提交任務　29
1．9．10　歷史任務　29
1．9．11　預安裝包說明　30
1．10　在線部署及預測　31
1．10．1　功能說明　31
1．10．2　通過訓練任務生成模型文件　32
1．10．3　創(chuàng)建一個在線服務　34
1．10．4　測試沙盒服務　39
1．10．5　部署在線服務　40
1．10．6　調(diào)用在線服務　41
1．11　NumPy常規(guī)操作及使用　42
第　2章 PaddlePaddle Fluid的環(huán)境
搭建與安裝　50
2．1　在Linux系統(tǒng)中安裝
PaddlePaddle　50
2．1．1　租用百度BCC云服務器　50
2．1．2　安裝前的準備工作　56
2．1．3　通過pip安裝PaddlePaddle　58
2．1．4　在Docker中安裝
PaddlePaddle　59
2．2　在Windows系統(tǒng)中安裝
PaddlePaddle　64
2．2．1　Windows GPU驅(qū)動環(huán)境安裝　64
2．2．2　下載并安裝CUDA　65
2．2．3　安裝cuDNN　68
2．2．4　安裝PaddlePaddle　69
2．3　在macOS系統(tǒng)中安裝
PaddlePaddle　69
2．3．1　安裝Python 3　69
2．3．2　安裝PaddlePaddle　71
第3章　PaddlePaddle深度學習入門—
在MNIST上進行手寫
數(shù)字識別　72
3．1　引言　72
3．2　模型概覽　73
3．2．1　Softmax回歸模型　73
3．2．2　多層感知器　74
3．2．3　卷積神經(jīng)網(wǎng)絡　75
3．3　數(shù)據(jù)介紹　78
3．4　PaddlePaddle的程序配置過程　79
3．4．1　程序說明　79
3．4．2　配置inference_program　79
3．4．3　配置train_program　81
3．4．4　配置optimizer_program　82
3．4．5　配置數(shù)據(jù)集reader　82
3．5　構(gòu)建訓練過程　83
3．5．1　事件處理程序配置　83
3．5．2　開始訓練　84
3．6　應用模型　86
3．6．1　生成待預測的輸入數(shù)據(jù)　87
3．6．2　Inference創(chuàng)建及預測　87
3．6．3　預測結(jié)果　87
3．7　小結(jié)　88
第4章　PaddlePaddle設計思想與
核心技術(shù)　89
4．1　編譯時與運行時的概念　89
4．2　Fluid內(nèi)部執(zhí)行流程　90
4．3　Program設計簡介　91
4．4　Block簡介　92
4．5　Block和Program的設計細節(jié)　93
4．6　框架執(zhí)行器設計思想　94
4．6．1　代碼示例　95
4．6．2　創(chuàng)建框架執(zhí)行器　95
4．6．3　運行框架執(zhí)行器　96
4．7　示例　96
4．7．1　定義Program　96
4．7．2　創(chuàng)建框架執(zhí)行器　98
4．7．3　運行框架執(zhí)行器　99
4．8　LoD Tensor數(shù)據(jù)結(jié)構(gòu)解讀　99
4．8．1　LoD索引　100
4．8．2　LoD Tensor在PaddlePaddle
中的表示方法　101
4．8．3　LoD Tensor的API　103
4．8．4　LoD Tensor的使用示例　105
4．9　動態(tài)圖機制——DyGraph　107
4．9．1　動態(tài)圖設置和基本用法　108
4．9．2　基于DyGraph構(gòu)建網(wǎng)絡　109
4．9．3　使用DyGraph訓練模型　110
4．9．4　模型參數(shù)的保存　115
4．9．5　模型評估　116
4．9．6　編寫兼容的模型　118
第5章　獨孤九劍—經(jīng)典圖像分類
網(wǎng)絡實現(xiàn)　119
5．1　圖像分類網(wǎng)絡現(xiàn)狀　119
5．2　VGG16圖像分類任務　123
5．2．1　定義網(wǎng)絡結(jié)構(gòu)　124
5．2．2　定義推理程序　127
5．2．3　定義訓練程序　127
5．2．4　實例化訓練對象　128
5．2．5　讀取數(shù)據(jù)　128
5．2．6　編寫事件處理程序并
啟動訓練　129
5．2．7　執(zhí)行模型預測　130
5．3　模塊化設計GoogleNet　135
5．4　Alexnet模型實現(xiàn)　142
5．5　Resnet模型實現(xiàn)　146
5．6　MobileNet V2模型實現(xiàn)　149
5．7　ShuffleNet V2模型實現(xiàn)　154
第6章　“天網(wǎng)”系統(tǒng)基礎—
目標檢測　159
6．1　目標檢測簡介　160
6．2　對R-CNN系列算法的探索歷史　161
6．2．1　R-CNN算法：目標檢測
開山之作　161
6．2．2　SPP網(wǎng)絡　164
6．2．3　Fast R-CNN　166
6．2．4　Faster R-CNN　167
6．3　單步目標檢測算法　177
6．3．1　統(tǒng)一檢測算法YOLO　178
6．3．2　SSD基本原理　181
6．3．3　SSD在訓練時的匹配策略　185
6．3．4　使用PaddlePaddle實現(xiàn)
SSD網(wǎng)絡　186
6．4　PyramidBox　203
6．4．1　提出PyramidBox方法的
背景　204
6．4．2　PyramidBox網(wǎng)絡結(jié)構(gòu)　205
6．4．3　PyramidBox的創(chuàng)新點　208
6．4．4　PyramidBox的PaddlePaddle
官方實現(xiàn)　210
第7章　“天網(wǎng)”系統(tǒng)進階—像素級
物體分割　221
7．1　物體分割簡介　221
7．2　語義分割與實例分割的關系　222
7．3　語義分割　222
7．3．1　語義分割的任務描述　223
7．3．2　全卷積網(wǎng)絡　224
7．3．3　ParseNet　229
7．3．4　u-net　229
7．3．5　v-net　231
7．3．6　u-net變體網(wǎng)絡　231
7．3．7　PSPNet　233
7．3．8　ICNet　234
7．3．9　DeepLab v3+　241
7．4　實例分割　249
7．4．1　實例分割概述　249
7．4．2　Mask R-CNN　250
第8章　從零開始了解NLP
技術(shù)—word2vec　263
8．1　初識NLP　263
8．2　詞向量簡介　265
8．3　如何得到詞向量模型　268
8．4　詞向量模型概覽　269
8．4．1　語言模型　269
8．4．2　N-Gram模型　269
8．4．3　CBOW模型　270
8．4．4　Skip-Gram　271
8．4．5　詞ID　271
8．5　通過PaddlePaddle訓練
CBOW模型　273
8．5．1　CBOW模型訓練過程　273
8．5．2　數(shù)據(jù)預處理　274
8．5．3　編程實現(xiàn)　274
8．5．4　模型應用　278
8．6　小結(jié)　280
第9章　feed流最懂你—
個性化推薦　282
9．1　引言　282
9．2　推薦網(wǎng)絡模型設計　283
9．2．1　YouTube的深度神經(jīng)網(wǎng)絡
個性化推薦系統(tǒng)　284
9．2．2　融合推薦模型　286
9．3　電影推薦實驗　290
9．3．1　數(shù)據(jù)介紹與下載　290
9．3．2　模型配置說明　292
9．3．3　訓練模型　295
9．3．4　應用模型　298
9．4　小結(jié)　299
第　10章 讓機器讀懂你的心—
情感分析技術(shù)　300
10．1　情感分析及其作用　300
10．2　模型設計　303
10．3　情感分析實驗　308
第　11章 NLP技術(shù)深入理解—
語義角色標注　315
11．1　引言　315
11．2　模型概覽　317
11．2．1　棧式循環(huán)神經(jīng)網(wǎng)絡　317
11．2．2　雙向循環(huán)神經(jīng)單元　318
11．2．3　條件隨機場　319
11．2．4　深度雙向LSTM SRL模型　320
11．3　使用PaddlePaddle實現(xiàn)SRL
任務　322
11．3．1　數(shù)據(jù)預處理　322
11．3．2　進行PaddlePaddle實驗　324
11．4　小結(jié)　331
第　12章 NLP技術(shù)的應用—
機器翻譯　332
12．1　引言　332
12．2　效果展示　333
12．3　模型概覽　333
12．3．1　時間步展開的雙向循環(huán)
神經(jīng)網(wǎng)絡　333
12．3．2　編碼器-解碼器框架　334
12．3．3　柱搜索算法　337
12．4　機器翻譯實戰(zhàn)　337
12．4．1　數(shù)據(jù)預處理　337
12．4．2　模型配置　338
12．4．3　訓練模型　342
12．4．4　應用模型　343
第　13章 PaddlePaddle移動端及嵌入式
框架—Paddle-Mobile　345
13．1　Paddle-Mobile簡介　345
13．2　Paddle-Mobile優(yōu)化與適配　346
13．2．1　包壓縮　346
13．2．2　工程結(jié)構(gòu)編碼前重新設計　347
13．3　移動端主體識別和分類　350
13．3．1　完全在云端的神經(jīng)網(wǎng)絡
技術(shù)應用　352
13．3．2　移動端業(yè)界案例　353
13．3．3　在移動端應用深度學習
技術(shù)的難點　355
13．3．4　AR實時翻譯問題的
解決方案　356
13．4　編譯與開發(fā)Paddle-Mobile
平臺庫　359
13．5　開發(fā)一個基于移動端深度學習
框架的Android　APP　360
13．6　Paddle-Mobile設計思想　368
第　14章 百度開源高速推理引擎——
Anakin　374
14．1　Anakin架構(gòu)與性能　375
14．2　Anakin的特性　379
14．2．1　支持眾多異構(gòu)平臺　379
14．2．2　高性能　379
14．2．3　匯編級的kernel優(yōu)化　382
14．2．4　Anakin值得一提的
技術(shù)亮點　382
14．3　Anakin的使用方法　384
14．3．1　Anakin的工作原理　384
14．3．2　Anakin v2．0 API　385
14．4　示例程序　393
附錄A　TensorFlow與PaddlePaddle Fluid
接口中常用層對照表　394
附錄B　Caffe與PaddlePaddle Fluid
接口中常用層對照表　401