神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)（原書第2版）

目　錄
Neural Network Design，Second Edition

出版者的話
譯者序
前言
第1章　引言1
　1.1　目標(biāo)1
　1.2　歷史1
　1.3　應(yīng)用3
　1.4　生物學(xué)啟示4
　1.5　擴(kuò)展閱讀5
第2章　神經(jīng)元模型及網(wǎng)絡(luò)結(jié)構(gòu)8
　2.1　目標(biāo)8
　2.2　理論與例子8
　　2.2.1　記號(hào)8
　　2.2.2　神經(jīng)元模型8
　　2.2.3　網(wǎng)絡(luò)結(jié)構(gòu)11
　2.3　小結(jié)15
　2.4　例題17
　2.5　結(jié)束語18
　2.6　習(xí)題18
第3章　一個(gè)說明性的實(shí)例20
　3.1　目標(biāo)20
　3.2　理論與例子20
　　3.2.1　問題描述20
　　3.2.2　感知機(jī)21
　　3.2.3　Hamming網(wǎng)絡(luò)23
　　3.2.4　Hopfield網(wǎng)絡(luò)26
　3.3　結(jié)束語27
　3.4　習(xí)題28
第4章　感知機(jī)學(xué)習(xí)規(guī)則31
　4.1　目標(biāo)31
　4.2　理論與例子31
　　4.2.1　學(xué)習(xí)規(guī)則31
　　4.2.2　感知機(jī)結(jié)構(gòu)32
　　4.2.3　感知機(jī)的學(xué)習(xí)規(guī)則35
　　4.2.4　收斂性證明39
　4.3　小結(jié)41
　4.4　例題42
　4.5　結(jié)束語48
　4.6　擴(kuò)展閱讀49
　4.7　習(xí)題49
第5章　信號(hào)與權(quán)值向量空間53
　5.1　目標(biāo)53
　5.2　理論與例子53
　　5.2.1　線性向量空間53
　　5.2.2　線性無關(guān)54
　　5.2.3　生成空間55
　　5.2.4　內(nèi)積56
　　5.2.5　范數(shù)56
　　5.2.6　正交性56
　　5.2.7　向量展開式58
　5.3　小結(jié)60
　5.4　例題61
　5.5　結(jié)束語66
　5.6　擴(kuò)展閱讀67
　5.7　習(xí)題67
第6章　神經(jīng)網(wǎng)絡(luò)中的線性變換71
　6.1　目標(biāo)71
　6.2　理論與例子71
　　6.2.1　線性變換71
　　6.2.2　矩陣表示72
　　6.2.3　基變換74
　　6.2.4　特征值與特征向量76
　6.3　小結(jié)79
　6.4　例題79
　6.5　結(jié)束語85
　6.6　擴(kuò)展閱讀85
　6.7　習(xí)題86
第7章　有監(jiān)督的Hebb學(xué)習(xí)90
　7.1　目標(biāo)90
　7.2　理論與例子90
　　7.2.1　線性聯(lián)想器91
　　7.2.2　Hebb規(guī)則91
　　7.2.3　偽逆規(guī)則93
　　7.2.4　應(yīng)用95
　　7.2.5　Hebb學(xué)習(xí)的變形96
　7.3　小結(jié)97
　7.4　例題98
　7.5　結(jié)束語105
　7.6　擴(kuò)展閱讀105
　7.7　習(xí)題106
第8章　性能曲面和最優(yōu)點(diǎn)108
　8.1　目標(biāo)108
　8.2　理論與例子108
　　8.2.1　泰勒級(jí)數(shù)108
　　8.2.2　方向?qū)?shù)110
　　8.2.3　極小點(diǎn)111
　　8.2.4　優(yōu)化的必要條件113
　　8.2.5　二次函數(shù)114
　8.3　小結(jié)119
　8.4　例題120
　8.5　結(jié)束語127
　8.6　擴(kuò)展閱讀127
　8.7　習(xí)題128
第9章　性能優(yōu)化131
　9.1　目標(biāo)131
　9.2　理論與例子131
　　9.2.1　最速下降法131
　　9.2.2　牛頓法136
　　9.2.3　共軛梯度法139
　9.3　小結(jié)142
　9.4　例題142
　9.5　結(jié)束語150
　9.6　擴(kuò)展閱讀150
　9.7　習(xí)題151
第10章　Widrow-Hoff學(xué)習(xí)153
　10.1　目標(biāo)153
　10.2　理論與例子153
　　10.2.1　ADALINE網(wǎng)絡(luò)153
　　10.2.2　均方誤差154
　　10.2.3　LMS算法156
　　10.2.4　收斂性分析157
　　10.2.5　自適應(yīng)濾波器159
　10.3　小結(jié)164
　10.4　例題165
　10.5　結(jié)束語174
　10.6　擴(kuò)展閱讀174
　10.7　習(xí)題175
第11章　反向傳播179
　11.1　目標(biāo)179
　11.2　理論與例子179
　　11.2.1　多層感知機(jī)179
　　11.2.2　反向傳播算法182
　　11.2.3　例子186
　　11.2.4　批量訓(xùn)練和增量訓(xùn)練188
　　11.2.5　使用反向傳播188
　11.3　小結(jié)192
　11.4　例題193
　11.5　結(jié)束語201
　11.6　擴(kuò)展閱讀201
　11.7　習(xí)題202
第12章　反向傳播算法的變形210
　12.1　目標(biāo)210
　12.2　理論與例子210
　　12.2.1　反向傳播算法的缺點(diǎn)210
　　12.2.2　反向傳播算法的啟發(fā)式改進(jìn)215
　　12.2.3　數(shù)值優(yōu)化技術(shù)218
　12.3　小結(jié)226
　12.4　例題228
　12.5　結(jié)束語235
　12.6　擴(kuò)展閱讀236
　12.7　習(xí)題237
第13章　泛化241
　13.1　目標(biāo)241
　13.2　理論與例子241
　　13.2.1　問題描述242
　　13.2.2　提升泛化能力的方法243
　13.3　小結(jié)257
　13.4　例題258
　13.5　結(jié)束語265
　13.6　擴(kuò)展閱讀265
　13.7　習(xí)題266
第14章　動(dòng)態(tài)網(wǎng)絡(luò)270
　14.1　目標(biāo)270
　14.2　理論與例子270
　　14.2.1　分層數(shù)字動(dòng)態(tài)網(wǎng)絡(luò)271
　　14.2.2　動(dòng)態(tài)學(xué)習(xí)的基本原則273
　　14.2.3　動(dòng)態(tài)反向傳播276
　14.3　小結(jié)288
　14.4　例題290
　14.5　結(jié)束語296
　14.6　擴(kuò)展閱讀296
　14.7　習(xí)題297
第15章　競(jìng)爭(zhēng)網(wǎng)絡(luò)302
　15.1　目標(biāo)302
　15.2　理論與例子302
　　15.2.1　Hamming網(wǎng)絡(luò)303
　　15.2.2　競(jìng)爭(zhēng)層304
　　15.2.3　生物學(xué)中的競(jìng)爭(zhēng)層307
　　15.2.4　自組織特征圖308
　　15.2.5　學(xué)習(xí)向量量化310
　15.3　小結(jié)314
　15.4　例題315
　15.5　結(jié)束語322
　15.6　擴(kuò)展閱讀322
　15.7　習(xí)題323
第16章　徑向基網(wǎng)絡(luò)329
　16.1　目標(biāo)329
　16.2　理論與例子329
　　16.2.1　徑向基網(wǎng)絡(luò)329
　　16.2.2　訓(xùn)練RBF網(wǎng)絡(luò)333
　16.3　小結(jié)343
　16.4　例題344
　16.5　結(jié)束語347
　16.6　擴(kuò)展閱讀347
　16.7　習(xí)題348
第17章　實(shí)際訓(xùn)練問題352
　17.1　目標(biāo)352
　17.2　理論與例子352
　　17.2.1　訓(xùn)練前的步驟353
　　17.2.2　網(wǎng)絡(luò)訓(xùn)練359
　　17.2.3　訓(xùn)練結(jié)果分析362
　17.3　結(jié)束語368
　17.4　擴(kuò)展閱讀368
第18章　實(shí)例研究1:函數(shù)逼近370
　18.1　目標(biāo)370
　18.2　理論與例子370
　　18.2.1　智能傳感系統(tǒng)描述370
　　18.2.2　數(shù)據(jù)收集與預(yù)處理371
　　18.2.3　網(wǎng)絡(luò)結(jié)構(gòu)選擇372
　　18.2.4　網(wǎng)絡(luò)訓(xùn)練372
　　18.2.5　驗(yàn)證373
　　18.2.6　數(shù)據(jù)集374
　18.3　結(jié)束語375
　18.4　擴(kuò)展閱讀375
第19章　實(shí)例研究2：概率估計(jì)376
　19.1　目標(biāo)376
　19.2　理論與例子376
　　19.2.1　CVD過程描述376
　　19.2.2　數(shù)據(jù)收集與預(yù)處理377
　　19.2.3　網(wǎng)絡(luò)結(jié)構(gòu)選擇378
　　19.2.4　網(wǎng)絡(luò)訓(xùn)練379
　　19.2.5　驗(yàn)證381
　　19.2.6　數(shù)據(jù)集382
　19.3　結(jié)束語382
　19.4　擴(kuò)展閱讀383
第20章　實(shí)例研究3：模式識(shí)別384
　20.1　目標(biāo)384
　20.2　理論與例子384
　　20.2.1　心肌梗死識(shí)別問題描述384
　　20.2.2　數(shù)據(jù)收集與預(yù)處理384
　　20.2.3　網(wǎng)絡(luò)結(jié)構(gòu)選擇387
　　20.2.4　網(wǎng)絡(luò)訓(xùn)練387
　　20.2.5　驗(yàn)證388
　　20.2.6　數(shù)據(jù)集389
　20.3　結(jié)束語390
　20.4　擴(kuò)展閱讀390
第21章　實(shí)例研究4：聚類391
　21.1　目標(biāo)391
　21.2　理論與例子391
　　21.2.1　森林覆蓋問題描述391
　　21.2.2　數(shù)據(jù)收集與預(yù)處理392
　　21.2.3　網(wǎng)絡(luò)結(jié)構(gòu)選擇392
　　21.2.4　網(wǎng)絡(luò)訓(xùn)練393
　　21.2.5　驗(yàn)證394
　　21.2.6　數(shù)據(jù)集396
　21.3　結(jié)束語396
　21.4　擴(kuò)展閱讀396
第22章　實(shí)例研究5：預(yù)測(cè)398
　22.1　目標(biāo)398
　22.2　理論與例子398
　　22.2.1　磁懸浮系統(tǒng)描述398
　　22.2.2　數(shù)據(jù)收集與預(yù)處理399
　　22.2.3　網(wǎng)絡(luò)結(jié)構(gòu)選擇399
　　22.2.4　網(wǎng)絡(luò)訓(xùn)練401
　　22.2.5　驗(yàn)證402
　　22.2.6　數(shù)據(jù)集404
　22.3　結(jié)束語404
　22.4　擴(kuò)展閱讀405
附錄A　參考文獻(xiàn)406
附錄B　記號(hào)413
附錄C　軟件417
索引420