零基礎(chǔ)實(shí)踐深度學(xué)習(xí)

第1章零基礎(chǔ)入門深度學(xué)習(xí)

1.1機(jī)器學(xué)習(xí)和深度學(xué)習(xí)綜述

1.1.1人工智能、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)的關(guān)系

1.1.2機(jī)器學(xué)習(xí)

1.1.3深度學(xué)習(xí)

1.1.4作業(yè)

1.2使用Python和NumPy構(gòu)建神經(jīng)網(wǎng)絡(luò)模型

1.2.1波士頓房?jī)r(jià)預(yù)測(cè)任務(wù)

1.2.2構(gòu)建波士頓房?jī)r(jià)預(yù)測(cè)任務(wù)的神經(jīng)網(wǎng)絡(luò)模型

1.2.3小結(jié)

1.2.4作業(yè)

1.3飛槳開源深度學(xué)習(xí)平臺(tái)介紹

1.3.1深度學(xué)習(xí)框架

1.3.2飛槳開源深度學(xué)習(xí)平臺(tái)

1.3.3作業(yè)

1.4使用飛槳重寫房?jī)r(jià)預(yù)測(cè)模型

1.4.1飛槳深度學(xué)習(xí)平臺(tái)設(shè)計(jì)之“道”

1.4.2使用飛槳構(gòu)建波士頓房?jī)r(jià)預(yù)測(cè)模型

1.4.3作業(yè)

1.5NumPy介紹

1.5.1概述

1.5.2基礎(chǔ)數(shù)據(jù)類型： ndarray數(shù)組

1.5.3隨機(jī)數(shù)np.random

1.5.4線性代數(shù)

1.5.5NumPy保存和導(dǎo)入文件

1.5.6NumPy應(yīng)用舉例

1.5.7作業(yè)



第2章一個(gè)案例帶你吃透深度學(xué)習(xí)

2.1使用飛槳完成手寫數(shù)字識(shí)別模型

2.1.1手寫數(shù)字識(shí)別任務(wù)

2.1.2構(gòu)建手寫數(shù)字識(shí)別的神經(jīng)網(wǎng)絡(luò)模型

2.1.3飛槳各模型代碼結(jié)構(gòu)一致，大大降低了用戶的編碼難度

2.1.4采用“橫縱式”教學(xué)法，適用于深度學(xué)習(xí)初學(xué)者

2.2通過極簡(jiǎn)方案快速構(gòu)建手寫數(shù)字識(shí)別模型

2.2.1通過極簡(jiǎn)方案構(gòu)建手寫數(shù)字識(shí)別模型

2.2.2作業(yè)





2.3“手寫數(shù)字識(shí)別”之?dāng)?shù)據(jù)處理

2.3.1概述

2.3.2讀入數(shù)據(jù)并劃分?jǐn)?shù)據(jù)集

2.3.3訓(xùn)練樣本亂序并生成批次數(shù)據(jù)

2.3.4校驗(yàn)數(shù)據(jù)有效性

2.3.5封裝數(shù)據(jù)讀取與處理函數(shù)

2.3.6異步數(shù)據(jù)讀取

2.4“手寫數(shù)字識(shí)別”之網(wǎng)絡(luò)結(jié)構(gòu)

2.4.1概述

2.4.2經(jīng)典的全連接神經(jīng)網(wǎng)絡(luò)

2.4.3卷積神經(jīng)網(wǎng)絡(luò)

2.5“手寫數(shù)字識(shí)別”之損失函數(shù)

2.5.1概述

2.5.2分類任務(wù)的損失函數(shù)

2.5.3作業(yè)

2.6“手寫數(shù)字識(shí)別”之優(yōu)化算法

2.6.1概述

2.6.2設(shè)置學(xué)習(xí)率

2.6.3學(xué)習(xí)率的主流優(yōu)化算法

2.6.4作業(yè)

2.7“手寫數(shù)字識(shí)別”之資源配置

2.7.1概述

2.7.2單GPU訓(xùn)練

2.7.3分布式訓(xùn)練

2.8“手寫數(shù)字識(shí)別”之訓(xùn)練調(diào)試與優(yōu)化

2.8.1概述

2.8.2計(jì)算模型的分類準(zhǔn)確率

2.8.3檢查模型訓(xùn)練過程，識(shí)別潛在訓(xùn)練問題

2.8.4加入校驗(yàn)或測(cè)試，更好評(píng)價(jià)模型效果

2.8.5加入正則化項(xiàng)，避免模型過擬合

2.8.6可視化分析

2.8.7作業(yè)

2.9“手寫數(shù)字識(shí)別”之恢復(fù)訓(xùn)練

2.9.1概述

2.9.2恢復(fù)訓(xùn)練

2.10完整掌握深度學(xué)習(xí)建模小結(jié)


第3章計(jì)算機(jī)視覺

3.1卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)

3.1.1概述

3.1.2卷積神經(jīng)網(wǎng)絡(luò)

3.1.3作業(yè)

3.2卷積的四種操作

3.2.1概述

3.2.2池化

3.2.3ReLU激活函數(shù)

3.2.4批歸一化

3.2.5丟棄法

3.2.6作業(yè)

3.3圖像分類

3.3.1概述

3.3.2LeNet

3.3.3AlexNet

3.3.4VGG

3.3.5GoogLeNet

3.3.6ResNet

3.3.7小結(jié)

3.3.8作業(yè)


第4章目標(biāo)檢測(cè)YOLOv3

4.1目標(biāo)檢測(cè)基礎(chǔ)概念

4.1.1概述

4.1.2目標(biāo)檢測(cè)發(fā)展歷程

4.1.3目標(biāo)檢測(cè)基礎(chǔ)概念

4.2目標(biāo)檢測(cè)數(shù)據(jù)處理

4.3目標(biāo)檢測(cè)YOLOv3

4.3.1YOLOv3模型設(shè)計(jì)思想

4.3.2產(chǎn)生候選區(qū)域

4.3.3對(duì)候選區(qū)域進(jìn)行標(biāo)注

4.3.4圖形特征提取

4.3.5計(jì)算預(yù)測(cè)框位置和類別

4.3.6定義損失函數(shù)

4.3.7多尺度檢測(cè)

4.3.8網(wǎng)絡(luò)訓(xùn)練

4.3.9模型預(yù)測(cè)

4.3.10模型效果及可視化展示

4.4AI識(shí)蟲比賽

4.4.1AI識(shí)蟲比賽

4.4.2實(shí)現(xiàn)參考

4.4.3更多思路參考


第5章自然語言處理

5.1自然語言處理

5.1.1概述

5.1.2自然語言處理的發(fā)展歷程

5.1.3自然語言處理技術(shù)面臨的挑戰(zhàn)

5.1.4自然語言處理的常見任務(wù)

5.1.5使用深度學(xué)習(xí)解決自然語言處理任務(wù)的套路

5.1.6使用飛槳探索自然語言處理

5.1.7作業(yè)

5.2詞向量Word Embedding

5.2.1概述

5.2.2如何將詞轉(zhuǎn)換為向量

5.2.3如何讓向量具有語義信息

5.3使用飛槳實(shí)現(xiàn)Skipgram

5.3.1概述

5.3.2數(shù)據(jù)處理

5.3.3網(wǎng)絡(luò)定義

5.3.4網(wǎng)絡(luò)訓(xùn)練

5.3.5詞向量的有趣使用

5.3.6作業(yè)


第6章情感分析

6.1自然語言情感分析

6.1.1概述

6.1.2使用深度神經(jīng)網(wǎng)絡(luò)完成情感分析任務(wù)

6.1.3作業(yè)

6.2循環(huán)神經(jīng)網(wǎng)絡(luò)RNN和長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)LSTM

6.2.1RNN和LSTM網(wǎng)絡(luò)的設(shè)計(jì)思考

6.2.2循環(huán)神經(jīng)網(wǎng)絡(luò)RNN

6.2.3長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)LSTM

6.2.4作業(yè)

6.3使用LSTM完成情感分析任務(wù)

6.3.1概述

6.3.2使用飛槳實(shí)現(xiàn)基于LSTM的情感分析模型

6.4AI文本分類比賽

6.4.1中文新聞標(biāo)題分類比賽

6.4.2更多思路參考


第7章推薦系統(tǒng)

7.1推薦系統(tǒng)介紹

7.1.1推薦系統(tǒng)的產(chǎn)生背景

7.1.2推薦系統(tǒng)的基本概念

7.1.3思考有哪些信息可以用于推薦

7.1.4使用飛槳探索電影推薦

7.1.5作業(yè)

7.2數(shù)據(jù)處理與讀取

7.2.1數(shù)據(jù)集回顧

7.2.2數(shù)據(jù)處理流程

7.2.3構(gòu)建數(shù)據(jù)讀取器

7.2.4小結(jié)

7.3電影推薦模型設(shè)計(jì)

7.3.1模型設(shè)計(jì)介紹

7.3.2Embedding介紹

7.3.3電影特征提取網(wǎng)絡(luò)

7.3.4相似度計(jì)算

7.3.5小結(jié)

7.4模型訓(xùn)練與特征保存

7.4.1模型訓(xùn)練

7.4.2保存特征

7.4.3作業(yè)

7.5電影推薦

7.5.1根據(jù)用戶喜好推薦電影

7.5.2幾點(diǎn)思考收獲

7.5.3在工業(yè)實(shí)踐中的推薦系統(tǒng)

7.5.4作業(yè)

第8章精通深度學(xué)習(xí)的高級(jí)內(nèi)容

8.1精通深度學(xué)習(xí)的高級(jí)內(nèi)容

8.1.1為什么要精通深度學(xué)習(xí)的高級(jí)內(nèi)容

8.1.2高級(jí)內(nèi)容包含哪些武器

8.1.3飛槳開源組件使用場(chǎng)景概覽

8.2模型資源之一： 預(yù)訓(xùn)練模型應(yīng)用工具PaddleHub

8.2.1概述

8.2.2預(yù)訓(xùn)練模型的應(yīng)用背景

8.2.3快速使用PaddleHub

8.2.4PaddleHub提供的預(yù)訓(xùn)練模型

8.2.5使用自己的數(shù)據(jù)Finetune PaddleHub預(yù)訓(xùn)練模型

8.2.6PaddleHub創(chuàng)意賽

8.2.7往屆優(yōu)秀學(xué)員作品展示

8.3模型資源之二： 各領(lǐng)域的開發(fā)套件

8.3.1概述

8.3.2PaddleSeg用于解決圖像分割的問題

8.3.3PaddleSeg是開發(fā)套件，不僅是模型庫

8.3.4PaddleSeg實(shí)戰(zhàn)

8.3.5作業(yè)

8.3.6相關(guān)參考

8.3.7往屆優(yōu)秀學(xué)員作品展示

8.4模型資源之三： 模型庫介紹

8.4.1概述

8.4.2從模型庫中篩選自己需要的模型

8.4.3使用飛槳模型庫或在其基礎(chǔ)上二次研發(fā)的優(yōu)勢(shì)

8.4.4一個(gè)案例掌握Models的使用方法

8.4.5相關(guān)參考

8.5設(shè)計(jì)思想、靜態(tài)圖、動(dòng)態(tài)圖和二次研發(fā)

8.5.1飛槳設(shè)計(jì)思想的核心概念

8.5.2飛槳聲明式編程(靜態(tài)圖)與命令式編程(動(dòng)態(tài)圖)

8.5.3飛槳二次研發(fā)

8.6工業(yè)部署

8.6.1概述

8.6.2飛槳模型部署組件介紹

8.6.3飛槳原生推理庫Paddle Inference

8.6.4飛槳服務(wù)化部署框架Paddle Serving

8.6.5飛槳輕量化推理引擎Paddle Lite

8.6.6飛槳模型壓縮工具PaddleSlim


8.6.7往屆優(yōu)秀學(xué)員作品展示

8.7飛槳全流程開發(fā)工具PaddleX

8.7.1飛槳全流程開發(fā)工具PaddleX

8.7.2PaddleX圖形化開發(fā)界面

8.7.3PaddleX 快速使用方法

8.7.4PaddleX客戶端使用方法

8.7.5往屆優(yōu)秀學(xué)員作品展示

8.8應(yīng)用啟發(fā)： 行業(yè)應(yīng)用與項(xiàng)目案例

8.8.1人工智能在中國的發(fā)展和落地概況

8.8.2傳統(tǒng)行業(yè)有AI應(yīng)用空間嗎

8.8.3項(xiàng)目案例： 飛槳助力國網(wǎng)山東進(jìn)行輸電通道可視化巡檢

8.8.4作業(yè)

8.8.5往屆優(yōu)秀學(xué)員作品展示