遷移學(xué)習(xí)

推薦序
譯者序
前言
第一部分 遷移學(xué)習(xí)的基礎(chǔ)
第1章 緒論/2
1.1 人工智能、機(jī)器學(xué)習(xí)以及遷移學(xué)習(xí)/2
1.2 遷移學(xué)習(xí)：定義/6
1.3 與已有機(jī)器學(xué)習(xí)范式的關(guān)系/9
1.4 遷移學(xué)習(xí)的基礎(chǔ)研究問(wèn)題/11
1.5 遷移學(xué)習(xí)應(yīng)用/11
1.5.1 圖像理解/11
1.5.2 生物信息學(xué)和生物成像/12
1.5.3 推薦系統(tǒng)和協(xié)同過(guò)濾/12
1.5.4 機(jī)器人和汽車(chē)自動(dòng)駕駛/13
1.5.5 自然語(yǔ)言處理和文本挖掘/13
1.6 歷史筆記/14
1.7 關(guān)于本書(shū)/15
第2章 基于樣本的遷移學(xué)習(xí)/19
2.1 引言/19
2.2 基于樣本的非歸納式遷移學(xué)習(xí)/20
2.2.1 判別區(qū)分源數(shù)據(jù)和目標(biāo)數(shù)據(jù)/22
2.2.2 核平均匹配/23
2.2.3 函數(shù)估計(jì)/23
2.3 基于樣本的歸納式遷移學(xué)習(xí)/24
2.3.1 集成源損失與目標(biāo)損失/24
2.3.2 Boosting風(fēng)格的方法/26
2.3.3 樣本生成方法/27
第3章 基于特征的遷移學(xué)習(xí)/29
3.1 引言/29
3.2 最小化域間差異/30
3.2.1 最大均值差異/30
3.2.2 基于Bregman散度的正則化/34
3.2.3 使用特定分布假設(shè)的度量/34
3.2.4 數(shù)據(jù)依賴(lài)的域差異度量/35
3.3 學(xué)習(xí)通用特征/36
3.3.1 學(xué)習(xí)通用編碼/36
3.3.2 深度通用特征/37
3.4 特征增強(qiáng)/38
第4章 基于模型的遷移學(xué)習(xí)/40
4.1 引言/40
4.2 基于共享模型成分的遷移學(xué)習(xí)/42
4.2.1 利用高斯過(guò)程的遷移學(xué)習(xí)/42
4.2.2 利用貝葉斯模型的知識(shí)遷移/43
4.2.3 利用深度模型的模型遷移/44
4.2.4 其他方法/45
4.3 基于正則化的遷移/45
4.3.1 基于支持向量機(jī)的正則化/46
4.3.2 基于多核學(xué)習(xí)的遷移學(xué)習(xí)/47
4.3.3 深度模型中的微調(diào)方法/48
第5章 基于關(guān)系的遷移學(xué)習(xí)/52
5.1 引言/52
5.2 馬爾可夫邏輯網(wǎng)絡(luò)/54
5.3 利用馬爾可夫網(wǎng)絡(luò)的基于關(guān)系的遷移學(xué)習(xí)/55
5.3.1 通過(guò)一階邏輯的淺層遷移/55
5.3.2 通過(guò)二階邏輯的深度遷移/57
5.3.3 通過(guò)結(jié)構(gòu)類(lèi)比的遷移學(xué)習(xí)/59
第6章 異構(gòu)遷移學(xué)習(xí)/61
6.1 引言/61
6.2 異構(gòu)遷移學(xué)習(xí)問(wèn)題/63
6.3 方法/63
6.3.1 異構(gòu)特征空間/64
6.3.2 異構(gòu)標(biāo)簽空間/78
6.4 應(yīng)用/79
第7章 對(duì)抗式遷移學(xué)習(xí)/82
7.1 引言/82
7.2 生成對(duì)抗網(wǎng)絡(luò)/83
7.3 采用對(duì)抗式模型的遷移學(xué)習(xí)/86
7.3.1 生成目標(biāo)域數(shù)據(jù)/87
7.3.2 通過(guò)對(duì)抗式學(xué)習(xí)來(lái)學(xué)習(xí)域不變特征/89
7.4 討論/91
第8章 強(qiáng)化學(xué)習(xí)中的遷移學(xué)習(xí)/92
8.1 引言/92
8.2 背景/93
8.2.1 強(qiáng)化學(xué)習(xí)/94
8.2.2 強(qiáng)化學(xué)習(xí)任務(wù)中的遷移學(xué)習(xí)/95
8.2.3 遷移學(xué)習(xí)在強(qiáng)化學(xué)習(xí)中的目標(biāo)/96
8.2.4 遷移強(qiáng)化學(xué)習(xí)分類(lèi)/98
8.3 任務(wù)間遷移學(xué)習(xí)/99
8.3.1 基于樣本的遷移/99
8.3.2 基于特征的遷移/100
8.3.3 基于模型的遷移/103
8.3.4 解決“遷移時(shí)機(jī)”問(wèn)題/105
8.4 域間遷移學(xué)習(xí)/105
8.4.1 基于樣本的遷移/106
8.4.2 基于特征的遷移/107
8.4.3 基于模型的遷移/108
第9章 多任務(wù)學(xué)習(xí)/109
9.1 引言/109
9.2 定義/111
9.3 多任務(wù)監(jiān)督學(xué)習(xí)/111
9.3.1 基于特征的多任務(wù)監(jiān)督學(xué)習(xí)/112
9.3.2 基于模型的多任務(wù)監(jiān)督學(xué)習(xí)/114
9.3.3 基于樣本的多任務(wù)監(jiān)督學(xué)習(xí)/120
9.4 多任務(wù)無(wú)監(jiān)督學(xué)習(xí)/120
9.5 多任務(wù)半監(jiān)督學(xué)習(xí)/120
9.6 多任務(wù)主動(dòng)學(xué)習(xí)/121
9.7 多任務(wù)強(qiáng)化學(xué)習(xí)/121
9.8 多任務(wù)在線(xiàn)學(xué)習(xí)/121
9.9 多任務(wù)多視圖學(xué)習(xí)/122
9.10 并行與分布式多任務(wù)學(xué)習(xí)/122
第10章 遷移學(xué)習(xí)理論/123
10.1 引言/123
10.2 多任務(wù)學(xué)習(xí)的泛化界/124
10.3 監(jiān)督遷移學(xué)習(xí)的泛化界/127
10.4 無(wú)監(jiān)督遷移學(xué)習(xí)的泛化界/129
第11章 傳導(dǎo)式遷移學(xué)習(xí)/131
11.1 引言/131
11.2 混合圖上的傳導(dǎo)式遷移學(xué)習(xí)/133
11.2.1 問(wèn)題定義/134
11.2.2 混合遷移算法/135
11.3 基于隱性特征表示的傳導(dǎo)式
遷移學(xué)習(xí)/137
11.3.1 問(wèn)題定義/137
11.3.2 耦合的矩陣三因子分解算法/138
11.4 基于深度神經(jīng)網(wǎng)絡(luò)的傳導(dǎo)式
遷移學(xué)習(xí)/141
11.4.1 問(wèn)題定義/141
11.4.2 選擇學(xué)習(xí)算法/142
第12章 自動(dòng)遷移學(xué)習(xí)：學(xué)習(xí)如何
自動(dòng)遷移/146
12.1 引言/146
12.2 L2T框架/147
12.3 參數(shù)化“遷移什么”/148
12.3.1 基于公共隱空間的算法/149
12.3.2 基于流形集成的算法/149
12.4 從經(jīng)驗(yàn)中學(xué)習(xí)/149
12.4.1 源域和目標(biāo)域之間的差異/149
12.4.2 目標(biāo)域判別能力/151
12.4.3 優(yōu)化問(wèn)題/151
12.5 推斷“遷移什么”/151
12.6 與其他學(xué)習(xí)范式的聯(lián)系/152
12.6.1 遷移學(xué)習(xí)/152
12.6.2 多任務(wù)學(xué)習(xí)/153
12.6.3 終身機(jī)器學(xué)習(xí)/153
12.6.4 自動(dòng)化機(jī)器學(xué)習(xí)/153
第13章 小樣本學(xué)習(xí)/155
13.1 引言/155
13.2 零樣本學(xué)習(xí)/156
13.2.1 概述/156
13.2.2 零樣本學(xué)習(xí)算法/157
13.3 單樣本學(xué)習(xí)/161
13.3.1 概述/161
13.3.2 單樣本學(xué)習(xí)算法/161
13.4 貝葉斯規(guī)劃學(xué)習(xí)/163
13.4.1 概述/163
13.4.2 用于識(shí)別字符筆畫(huà)的貝葉斯規(guī)劃學(xué)習(xí)/163
13.5 短缺資源學(xué)習(xí)/166
13.5.1 概述/166
13.5.2 機(jī)器翻譯/166
13.6 域泛化/168
13.6.1 概述/168
13.6.2 偏差SVM/169
13.6.3 多任務(wù)自動(dòng)編碼器/169
第14章 終身機(jī)器學(xué)習(xí)/171
14.1 引言/171
14.2 終身機(jī)器學(xué)習(xí)：定義/172
14.3 通過(guò)不變的知識(shí)進(jìn)行終身機(jī)器學(xué)習(xí)/173
14.4 情感分類(lèi)中的終身機(jī)器學(xué)習(xí)/174
14.5 共享模型組件用于多任務(wù)學(xué)習(xí)/177
14.6 永無(wú)止境的語(yǔ)言學(xué)習(xí)/178
第二部分 遷移學(xué)習(xí)的應(yīng)用
第15章 隱私保護(hù)的遷移學(xué)習(xí)/184
15.1 引言/184
15.2 差分隱私/185
15.2.1 定義/185
15.2.2 隱私保護(hù)的正則化經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化/186
15.3 隱私保護(hù)的遷移學(xué)習(xí)/188
15.3.1 問(wèn)題設(shè)置/188
15.3.2 目標(biāo)提升/188
15.3.3 多方學(xué)習(xí)/191
15.3.4 多任務(wù)學(xué)習(xí)/193
第16章 計(jì)算機(jī)視覺(jué)中的遷移學(xué)習(xí)/194
16.1 引言/194
16.2 概述/195
16.2.1 淺層遷移學(xué)習(xí)模型/195
16.2.2 深度遷移學(xué)習(xí)模型/199
16.2.3 遷移學(xué)習(xí)用于其他視覺(jué)任務(wù)/200
16.3 遷移學(xué)習(xí)用于醫(yī)學(xué)圖像分析/201
16.3.1 醫(yī)學(xué)圖像分類(lèi)/201
16.3.2 醫(yī)學(xué)圖像異常檢測(cè)/203
16.3.3 醫(yī)學(xué)圖像分割/204
第17章 自然語(yǔ)言處理中的遷移學(xué)習(xí)/205
17.1 引言/205
17.2 NLP中的遷移學(xué)習(xí)/205
17.2.1 問(wèn)題設(shè)置/206
17.2.2 NLP應(yīng)用中的參數(shù)初始化/206
17.2.3 NLP應(yīng)用中的多任務(wù)學(xué)習(xí)/207
17.3 情感分析中的遷移學(xué)習(xí)/212
17.3.1 問(wèn)題定義和符號(hào)/214
17.3.2 淺模型/214
17.3.3 基于深度學(xué)習(xí)的方法/217
第18章 對(duì)話(huà)系統(tǒng)中的遷移學(xué)習(xí)/226
18.1 引言/226
18.2 問(wèn)題形式化定義/228
18.3 口語(yǔ)理解中的遷移學(xué)習(xí)/228
18.3.1 問(wèn)題定義/229
18.3.2 模型適配/229
18.3.3 基于樣本的遷移/229
18.3.4 參數(shù)遷移/230
18.4 對(duì)話(huà)狀態(tài)跟蹤中的遷移學(xué)習(xí)/231
18.4.1 基于特征的多領(lǐng)域?qū)υ?huà)狀態(tài)跟蹤/231
18.4.2 基于模型的多領(lǐng)域?qū)υ?huà)狀態(tài)跟蹤/231
18.5 對(duì)話(huà)策略學(xué)習(xí)中的遷移學(xué)習(xí)/232
18.5.1 針對(duì)Q學(xué)習(xí)的遷移線(xiàn)性模型/233
18.5.2 針對(duì)Q學(xué)習(xí)的遷移高斯過(guò)程/233
18.5.3 針對(duì)Q學(xué)習(xí)的遷移貝葉斯
委員會(huì)機(jī)器/235
18.6 自然語(yǔ)言生成中的遷移學(xué)習(xí)/236
18.6.1 自然語(yǔ)言生成中的模型微調(diào)/237
18.6.2 自然語(yǔ)言生成中的課程學(xué)習(xí)/237
18.6.3 自然語(yǔ)言生成中的樣本合成/237
18.7 端到端對(duì)話(huà)系統(tǒng)中的遷移學(xué)習(xí)/238
18.7.1 完全參數(shù)微調(diào)/239
18.7.2 部分參數(shù)共享/239
第19章 推薦系統(tǒng)中的遷移學(xué)習(xí)/247
19.1 引言/247
19.2 在推薦中遷移什么/248
19.2.1 推薦系統(tǒng)中基于樣本的遷移學(xué)習(xí)方法/248
19.2.2 推薦系統(tǒng)中基于特征的遷移學(xué)習(xí)方法/249
19.2.3 推薦系統(tǒng)中基于模型的遷移學(xué)習(xí)方法/251
19.3 新聞推薦/252
19.3.1 問(wèn)題定義/253
19.3.2 挑戰(zhàn)和解決方案/254
19.3.3 解決方案：基于鄰域的遷移學(xué)習(xí)/254
19.4 社交網(wǎng)絡(luò)中的VIP推薦/255
19.4.1 問(wèn)題定義/256
19.4.2 挑戰(zhàn)和解決方案/257
19.4.3 解決方案：基于社交關(guān)系的遷移/258
第20章 生物信息學(xué)中的遷移學(xué)習(xí)/260
20.1 引言/260
20.2 生物信息學(xué)中的機(jī)器學(xué)習(xí)問(wèn)題/261
20.3 生物序列分析/262
20.4 基因表達(dá)分析和遺傳分析/265
20.5 系統(tǒng)生物學(xué)/266
20.6 生物醫(yī)學(xué)文本和圖像挖掘/268
20.7 基于深度學(xué)習(xí)的生物信息學(xué)/268
20.7.1 深度神經(jīng)追蹤/268
20.7.2 生物信息學(xué)中的深度遷移學(xué)習(xí)/272
第21章 行為識(shí)別中的遷移學(xué)習(xí)/273
21.1 引言/273
21.2 針對(duì)無(wú)線(xiàn)定位的遷移學(xué)習(xí)/273
21.2.1 依賴(lài)于環(huán)境的數(shù)據(jù)稀疏性挑戰(zhàn)/274
21.2.2 基于特征的遷移學(xué)習(xí)用于定位/276
21.2.3 基于樣本的遷移學(xué)習(xí)用于定位/278
21.2.4 基于模型的遷移學(xué)習(xí)用于定位/280
21.3 針對(duì)行為識(shí)別的遷移學(xué)習(xí)/282
21.3.1 背景/282
21.3.2 問(wèn)題設(shè)置/284
21.3.3 跨特征空間的遷移/285
21.3.4 跨標(biāo)簽空間的遷移/287
第22章 城市計(jì)算中的遷移學(xué)習(xí)/289
22.1 引言/289
22.2 城市計(jì)算中的“遷移什么”/290
22.3 城市計(jì)算中遷移學(xué)習(xí)的關(guān)鍵問(wèn)題/291
22.4 連鎖店推薦/292
22.4.1 問(wèn)題設(shè)置/292
22.4.2 CityTransfer模型/293
22.5 空氣質(zhì)量預(yù)測(cè)/295
22.5.1 問(wèn)題設(shè)置/295
22.5.2 FLORAL模型/296
第23章 結(jié)束語(yǔ)/297
參考文獻(xiàn)/299
名詞中英文對(duì)照/341