機(jī)器學(xué)習(xí)基礎(chǔ) 建模與問(wèn)題求解

第 一部分 機(jī)器學(xué)習(xí)基礎(chǔ)知識(shí)
第 1 章 開(kāi)始機(jī)器學(xué)習(xí) 2
1．1 機(jī)器學(xué)習(xí)簡(jiǎn)介 2
1．2 理解機(jī)器學(xué)習(xí)的背景知識(shí) 3
1．2．1 數(shù)學(xué)（線(xiàn)性代數(shù)、微分、統(tǒng)計(jì)和概率） 3
1．2．2 編程 4
1．3 機(jī)器學(xué)習(xí)發(fā)展史 4
1．3．1 機(jī)器學(xué)習(xí)的歷史與現(xiàn)狀 4
1．3．2 機(jī)器學(xué)習(xí)的三大學(xué)派 6
1．4 機(jī)器學(xué)習(xí)的分類(lèi) 7
1．4．1 監(jiān)督學(xué)習(xí)、無(wú)監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí) 8
1．4．2 監(jiān)督學(xué)習(xí)的詳細(xì)分類(lèi) 9
1．4．3 無(wú)監(jiān)督學(xué)習(xí)詳細(xì)分類(lèi) 10
1．4．4 深度學(xué)習(xí) 11
1．5 小結(jié) 11
第 2 章 機(jī)器學(xué)習(xí)主要概念 12
2．1 模型：觀察問(wèn)題的角度 12
2．1．1 模型的定義 13
2．1．2 簡(jiǎn)單模型 14
2．1．3 復(fù)雜模型 15
2．1．4 結(jié)構(gòu)模型 16
2．1．5 好模型的定義 17
2．2 損失函數(shù)：模型的公式化學(xué)習(xí)目標(biāo) 19
2．2．1 算術(shù)損失函數(shù) 20
2．2．2 概率損失函數(shù) 21
2．2．3 排序損失函數(shù) 23
2．2．4 模型復(fù)雜度與相關(guān)損失函數(shù) 24
2．3 優(yōu)化：實(shí)際訓(xùn)練的方法 25
2．3．1 梯度下降法 26
2．3．2 牛頓/擬牛頓法 28
2．3．3 隨機(jī)梯度下降法 28
2．3．4 反向傳播 30
2．3．5 最新的優(yōu)化方法 31
2．4 模型評(píng)估：實(shí)際運(yùn)用中的性能評(píng)估方法 31
2．4．1 模型的泛化特征評(píng)估 31
2．4．2 準(zhǔn)確率 32
2．4．3 精確率與召回率 33
2．4．4 排序評(píng)估 34
2．5 小結(jié) 35
第二部分 機(jī)器學(xué)習(xí)的主要模型
第3 章 數(shù)據(jù)與問(wèn)題 38
3．1 數(shù)據(jù)類(lèi)型 38
3．1．1 文本數(shù)據(jù) 38
3．1．2 數(shù)值數(shù)據(jù) 39
3．1．3 圖像數(shù)據(jù) 39
3．1．4 音頻數(shù)據(jù) 40
3．1．5 混合數(shù)據(jù) 40
3．2 數(shù)據(jù)量與數(shù)據(jù)質(zhì)量 40
3．2．1 數(shù)據(jù)量與機(jī)器學(xué)習(xí)的相關(guān)性 40
3．2．2 數(shù)據(jù)質(zhì)量與機(jī)器學(xué)習(xí)的相關(guān)性 41
3．3 數(shù)據(jù)標(biāo)準(zhǔn)化 42
3．3．1 數(shù)值數(shù)據(jù)標(biāo)準(zhǔn)化 42
3．3．2 分類(lèi)數(shù)據(jù)標(biāo)準(zhǔn)化 44
3．3．3 序數(shù)數(shù)據(jù)標(biāo)準(zhǔn)化 44
3．4 問(wèn)題類(lèi)型 45
3．4．1 回歸 45
3．4．2 分類(lèi) 46
3．4．3 聚類(lèi)問(wèn)題 46
3．4．4 表征學(xué)習(xí)（嵌入學(xué)習(xí)） 47
3．5 小結(jié) 48
第4 章 利用購(gòu)買(mǎi)歷史數(shù)據(jù)構(gòu)建用戶(hù)群 49
4．1 聚類(lèi) 49
4．2 K 中心點(diǎn)聚類(lèi) 50
4．3 層次聚類(lèi) 53
4．4 基于密度的聚類(lèi) 56
4．5 計(jì)算相似度 57
4．5．1 閔氏距離 58
4．5．2 馬氏距離 59
4．6 小結(jié) 61
第5 章 構(gòu)建文本分析系統(tǒng) 62
5．1 構(gòu)建文本分類(lèi)系統(tǒng) 62
5．1．1 文本分類(lèi)的常用特征 62
5．1．2 利用特征進(jìn)行分類(lèi)操作 65
5．2 主題建模 69
5．3 語(yǔ)法分析 71
5．3．1 詞性標(biāo)注 71
5．3．2 命名實(shí)體識(shí)別 74
5．4 詞嵌入學(xué)習(xí)——word2vec 75
5．5 小結(jié) 78
第6 章 構(gòu)建電影推薦系統(tǒng) 79
6．1 電影推薦系統(tǒng) 79
6．2 相似度運(yùn)算 80
6．2．1 杰卡德系數(shù) 80
6．2．2 余弦相似度 81
6．2．3 編輯距離 82
6．3 基于內(nèi)容的推薦系統(tǒng) 83
6．4 協(xié)同過(guò)濾 84
6．4．1 均方根誤差 85
6．4．2 基于用戶(hù)/商品的協(xié)同過(guò)濾 86
6．4．3 隱因子模型 87
6．5 標(biāo)準(zhǔn)化 90
6．6 小結(jié) 91
第7 章 構(gòu)建圖像識(shí)別系統(tǒng) 92
7．1 圖像處理基本概念 92
7．1．1 像素 92
7．1．2 濾波 93
7．1．3 卷積 95
7．2 圖像識(shí)別 97
7．2．1 圖像分類(lèi) 98
7．2．2 圖像檢測(cè) 98
7．3 用于圖像識(shí)別的特征 99
7．3．1 輪廓線(xiàn) 99
7．3．2 角點(diǎn) 100
7．3．3 SIFT 103
7．3．4 主成分分析 105
7．4 利用深度學(xué)習(xí)進(jìn)行圖像識(shí)別 107
7．4．1 關(guān)于CNN 107
7．4．2 卷積層 108
7．4．3 池化 109
7．4．4 激活函數(shù) 110
7．4．5 全連接層 111
7．5 小結(jié) 112
第8 章 解決機(jī)器學(xué)習(xí)中的多種問(wèn)題 113
8．1 模型問(wèn)題 113
8．1．1 過(guò)度學(xué)習(xí) 113
8．1．2 如何更輕松地找到好模型 119
8．2 數(shù)據(jù)問(wèn)題 121
8．2．1 數(shù)據(jù)量過(guò)大 121
8．2．2 數(shù)據(jù)量過(guò)少 123
8．2．3 數(shù)據(jù)略微傾斜 124
8．3 速度問(wèn)題 126
8．3．1 向量運(yùn)算 126
8．3．2 機(jī)器學(xué)習(xí)高效運(yùn)行系統(tǒng) 128
8．3．3 分布式處理 128
8．4 小結(jié) 129
第三部分 機(jī)器學(xué)習(xí)系統(tǒng)應(yīng)用
第9 章 機(jī)器學(xué)習(xí)軟件簡(jiǎn)介 132
9．1 安裝Python 與庫(kù) 132
9．2 著名數(shù)據(jù)庫(kù)簡(jiǎn)介 133
9．2．1 機(jī)器學(xué)習(xí)庫(kù) 133
9．2．2 深度學(xué)習(xí)庫(kù) 134
9．2．3 與計(jì)算相關(guān)的庫(kù) 136
9．3 本書(shū)使用的工具包 136
9．3．1 Scikit-learn 137
9．3．2 TensorFlow 140
9．4 小結(jié) 151
第 10 章 利用購(gòu)買(mǎi)歷史數(shù)據(jù)構(gòu)建用戶(hù)群——實(shí)戰(zhàn) 152
10．1 數(shù)據(jù)集 152
10．2 數(shù)據(jù)預(yù)處理 153
10．3 K 均值聚類(lèi) 160
10．4 確定正確的簇?cái)?shù)K 161
10．4．1 定量評(píng)估 161
10．4．2 定性評(píng)估 164
10．5 分層聚類(lèi)法 168
10．6 小結(jié) 173
第 11 章 構(gòu)建文本分析系統(tǒng)——實(shí)戰(zhàn) 174
11．1 構(gòu)建垃圾短信過(guò)濾器（文本分類(lèi)） 174
11．1．1 用于示例的數(shù)據(jù)處理 174
11．1．2 通過(guò)特征分類(lèi) 179
11．2 構(gòu)建主題模型系統(tǒng) 182
11．3 構(gòu)建詞性分析系統(tǒng) 184
11．4 構(gòu)建專(zhuān)有名詞標(biāo)記系統(tǒng) 185
11．5 小結(jié) 187
第 12 章 構(gòu)建電影推薦系統(tǒng)——實(shí)戰(zhàn) 188
12．1 數(shù)據(jù)集 188
12．2 數(shù)據(jù)預(yù)處理 189
12．3 構(gòu)建基于內(nèi)容的電影推薦系統(tǒng) 192
12．4 構(gòu)建基于協(xié)同過(guò)濾的電影推薦系統(tǒng) 198
12．4．1 實(shí)現(xiàn)奇異值分解 198
12．4．2 實(shí)現(xiàn)梯度下降法 203
12．4．3 評(píng)估近似結(jié)果 205
12．5 小結(jié) 209
第 13 章 構(gòu)建圖像識(shí)別系統(tǒng)——實(shí)戰(zhàn) 210
13．1 圖像數(shù)據(jù)的K 均值聚類(lèi) 210
13．2 以主成分分析進(jìn)行人臉識(shí)別 213
13．3 運(yùn)用CNN 進(jìn)行手寫(xiě)數(shù)字分類(lèi) 223
13．3．1 生成特征 224
13．3．2 訓(xùn)練與測(cè)試 228
13．4 小結(jié) 234