人工智能中的深度結(jié)構(gòu)學(xué)習(xí)

譯者序
1　引言1
1.1　如何訓(xùn)練深度結(jié)構(gòu)3
1.2　中間層表示：在不同的任務(wù)中共享特征和抽象4
1.3　學(xué)習(xí)人工智能的必經(jīng)之路5
1.4　本書大綱6
2　深度結(jié)構(gòu)的理論優(yōu)勢(shì)8
2.1　計(jì)算復(fù)雜性10
2.2　一些非正式的論證11
3　局部與非局部泛化性13
3.1　局部模板匹配的局限性13
3.2　學(xué)習(xí)分布式表示17
4　具有深度結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)19
4.1　多層神經(jīng)網(wǎng)絡(luò)19
4.2　訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)的挑戰(zhàn)20
4.3　深度結(jié)構(gòu)的無監(jiān)督學(xué)習(xí)25
4.4　深度生成結(jié)構(gòu)26
4.5　卷積神經(jīng)網(wǎng)絡(luò)28
4.6　自動(dòng)編碼器29
5　能量模型和玻爾茲曼機(jī)31
5.1　能量模型和專家乘積系統(tǒng)31
5.2　玻爾茲曼機(jī)34
5.3　受限玻爾茲曼機(jī)36
5.4　對(duì)比散度39
目　　錄Ⅴ
6　深層結(jié)構(gòu)的逐層貪心訓(xùn)練46
6.1　深度置信網(wǎng)絡(luò)的逐層訓(xùn)練46
6.2　堆疊自動(dòng)編碼器訓(xùn)練48
6.3　半監(jiān)督與部分監(jiān)督訓(xùn)練49
7　受限玻爾茲曼機(jī)和自動(dòng)編碼器的變體51
7.1　自動(dòng)編碼器和受限玻爾茲曼機(jī)的稀疏化表示51
7.2　降噪自動(dòng)編碼器55
7.3　層內(nèi)連接56
7.4　條件ＲＢＭ和時(shí)序ＲＢＭ 57
7.5　分解式ＲＢＭ 59
7.6　受限玻爾茲曼機(jī)和對(duì)比散度的推廣59
8?。模拢胃鲗勇?lián)合優(yōu)化中的隨機(jī)變分邊界62
8.1　將ＲＢＭ展開為無限有向置信網(wǎng)絡(luò)62
8.2　逐層貪心訓(xùn)練的變分證明64
8.3　所有層的聯(lián)合無監(jiān)督訓(xùn)練66
9　展望69
9.1　全局優(yōu)化策略69
9.2　無監(jiān)督學(xué)習(xí)的重要性72
9.3　開放的問題73
10　總結(jié)76
致謝78
參考文獻(xiàn)79