123,123

內(nèi)容簡(jiǎn)介

　　數(shù)學(xué)是機(jī)器學(xué)習(xí)和數(shù)據(jù)科學(xué)的基礎(chǔ)，任何期望涉足相關(guān)領(lǐng)域并切實(shí)領(lǐng)悟具體技術(shù)與方法的人都無(wú)法繞過(guò)數(shù)學(xué)這一關(guān)。本書系統(tǒng)地整理并介紹了機(jī)器學(xué)習(xí)中所涉及的必備數(shù)學(xué)基礎(chǔ)，這些都是筆者從浩如煙海的數(shù)學(xué)知識(shí)中精心萃取的，在學(xué)習(xí)和研究機(jī)器學(xué)習(xí)技術(shù)時(shí)所必須的內(nèi)容。具體包括微積分（主要是與z優(yōu)化內(nèi)容相關(guān)的部分）、概率論與數(shù)理統(tǒng)計(jì)、數(shù)值計(jì)算、信息論、凸優(yōu)化、泛函分析基礎(chǔ)與變分法，以及蒙特卡洛采樣等話題。為了幫助讀者加深理解并強(qiáng)化所學(xué)，本書還從上述數(shù)學(xué)基礎(chǔ)出發(fā)進(jìn)一步介紹了回歸、分類、聚類、流形學(xué)習(xí)、集成學(xué)習(xí)，以及概率圖模型等機(jī)器學(xué)習(xí)領(lǐng)域中的重要話題。其間，本書將引領(lǐng)讀者循序漸進(jìn)地拆解各路算法的核心設(shè)計(jì)思想及彼此間的關(guān)聯(lián)關(guān)系，并結(jié)合具體例子演示基于Python進(jìn)行實(shí)際問(wèn)題求解的步驟與方法。真正做到理論與實(shí)踐并重，讓讀者知其然更知其所以然。本書可作為機(jī)器學(xué)習(xí)及相關(guān)課程的教學(xué)參考書，適用于高等院校人工智能、機(jī)器學(xué)習(xí)或數(shù)據(jù)挖掘等相關(guān)專業(yè)的師生研習(xí)之用，也可供從事計(jì)算機(jī)應(yīng)用（特別是數(shù)據(jù)科學(xué)相關(guān)專業(yè)）的研發(fā)人員參考。

作者簡(jiǎn)介

　　左飛博士，技術(shù)作家、譯者。著作涉及人工智能、圖像處理和編程語(yǔ)言等多個(gè)領(lǐng)域，其中兩部作品的繁體版在中國(guó)臺(tái)灣地區(qū)發(fā)行。同時(shí)，他還翻譯出版了包括《編碼》在內(nèi)的多部經(jīng)典著作。曾榮獲“最受讀者喜愛(ài)的IT圖書作譯者獎(jiǎng)”。他撰寫的技術(shù)博客（https：//baimafujinji.blog.csdn.net/）非常受歡迎，累計(jì)擁有近500萬(wàn)的訪問(wèn)量。

圖書目錄

目錄

第1章最優(yōu)化基礎(chǔ)

1.1泰勒公式

1.2黑塞矩陣

1.3正定與半正定矩陣

1.4凸函數(shù)與詹森不等式

1.4.1凸函數(shù)的概念

1.4.2詹森不等式及其證明

1.4.3詹森不等式的應(yīng)用

1.5泛函與抽象空間

1.5.1線性空間

1.5.2距離空間

1.5.3賦范空間

1.5.4巴拿赫空間

1.5.5內(nèi)積空間

1.5.6希爾伯特空間

1.6從泛函到變分法

1.6.1理解泛函的概念

1.6.2關(guān)于變分概念

1.6.3變分法的基本方程

1.6.4哈密頓原理

1.6.5等式約束下的變分

第2章概率論基礎(chǔ)

2.1概率論的基本概念

2.2隨機(jī)變量數(shù)字特征

2.2.1期望

2.2.2方差

2.2.3矩與矩母函數(shù)

2.2.4協(xié)方差與協(xié)方差矩陣

2.3基本概率分布模型

2.3.1離散概率分布

2.3.2連續(xù)概率分布

2.4概率論中的重要定理

2.4.1大數(shù)定理

2.4.2中心極限定理

2.5經(jīng)驗(yàn)分布函數(shù)

第3章統(tǒng)計(jì)推斷

3.1隨機(jī)采樣

3.2參數(shù)估計(jì)

3.2.1參數(shù)估計(jì)的基本原理

3.2.2單總體參數(shù)區(qū)間估計(jì)

3.2.3雙總體均值差的估計(jì)

3.2.4雙總體比例差的估計(jì)

3.3假設(shè)檢驗(yàn)

3.3.1基本概念

3.3.2兩類錯(cuò)誤

3.3.3均值檢驗(yàn)

3.4最大似然估計(jì)

3.4.1最大似然法的基本原理

3.4.2求最大似然估計(jì)的方法

第4章采樣方法

4.1蒙特卡洛法求定積分

4.1.1無(wú)意識(shí)統(tǒng)計(jì)學(xué)家法則

4.1.2投點(diǎn)法

4.1.3期望法

4.2蒙特卡洛采樣

4.2.1逆采樣

4.2.2博克斯穆勒變換

4.2.3拒絕采樣與自適應(yīng)拒絕采樣

4.3矩陣的極限與馬爾可夫鏈

4.4查普曼柯?tīng)柲缏宸虻仁?br />
4.5馬爾可夫鏈蒙特卡洛方法

4.5.1重要性采樣

4.5.2馬爾可夫鏈蒙特卡洛方法的基本概念

4.5.3米特羅波利斯黑斯廷斯算法

4.5.4吉布斯采樣

第5章信息論基礎(chǔ)

5.1信息論中的熵

5.2微分熵與KullbackLeibler散度

5.2.1微分熵

5.2.2微分熵與香農(nóng)熵的關(guān)系

5.2.3相對(duì)熵

5.3率失真函數(shù)

5.4香農(nóng)下邊界

第6章一元線性回歸

6.1回歸分析的性質(zhì)

6.2回歸的基本概念

6.2.1總體的回歸函數(shù)

6.2.2隨機(jī)干擾的意義

6.2.3樣本的回歸函數(shù)

6.3回歸模型的估計(jì)

6.3.1普通最小二乘法原理

6.3.2一元線性回歸的應(yīng)用

6.3.3經(jīng)典模型的基本假定

6.3.4總體方差的無(wú)偏估計(jì)

6.3.5估計(jì)參數(shù)的概率分布

6.4正態(tài)條件下的模型檢驗(yàn)

6.4.1擬合優(yōu)度的檢驗(yàn)

6.4.2整體性假定檢驗(yàn)

6.4.3單個(gè)參數(shù)的檢驗(yàn)

6.5一元線性回歸模型預(yù)測(cè)

6.5.1點(diǎn)預(yù)測(cè)

6.5.2區(qū)間預(yù)測(cè)

第7章多元線性回歸

7.1多元線性回歸模型

7.2多元回歸模型估計(jì)

7.2.1最小二乘估計(jì)量

7.2.2多元回歸實(shí)例

7.2.3總體參數(shù)估計(jì)量

7.3從線性代數(shù)角度理解最小二乘

7.3.1最小二乘問(wèn)題的通解

7.3.2最小二乘問(wèn)題的計(jì)算

7.4多元回歸模型檢驗(yàn)

7.4.1線性回歸的顯著性

7.4.2回歸系數(shù)的顯著性

7.5多元線性回歸模型預(yù)測(cè)

7.6格蘭杰因果關(guān)系檢驗(yàn)

第8章線性回歸進(jìn)階

8.1更多回歸模型函數(shù)形式

8.1.1雙對(duì)數(shù)模型以及生產(chǎn)函數(shù)

8.1.2倒數(shù)模型與菲利普斯曲線

8.1.3多項(xiàng)式回歸模型及其分析

8.2回歸模型的評(píng)估與選擇

8.2.1嵌套模型選擇

8.2.2赤池信息準(zhǔn)則

8.3現(xiàn)代回歸方法的新進(jìn)展

8.3.1多重共線性

8.3.2從嶺回歸到LASSO

8.3.3正則化與沒(méi)有免費(fèi)午餐原理

8.3.4彈性網(wǎng)絡(luò)

8.3.5RANSAC

第9章邏輯回歸與最大熵模型

9.1邏輯回歸

9.2牛頓法解Logistic回歸

9.3應(yīng)用實(shí)例：二分類問(wèn)題

9.3.1數(shù)據(jù)初探

9.3.2建模

9.4多元邏輯回歸

9.5最大熵模型

9.5.1最大熵原理

9.5.2約束條件

9.5.3模型推導(dǎo)

9.5.4極大似然估計(jì)

9.6應(yīng)用實(shí)例：多分類問(wèn)題

9.6.1數(shù)據(jù)初探

9.6.2建模

第10章感知機(jī)與神經(jīng)網(wǎng)絡(luò)

10.1從感知機(jī)開(kāi)始

10.1.1感知機(jī)模型

10.1.2感知機(jī)學(xué)習(xí)

10.1.3多層感知機(jī)

10.1.4感知機(jī)應(yīng)用示例

10.2基本神經(jīng)網(wǎng)絡(luò)

10.2.1神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

10.2.2符號(hào)標(biāo)記說(shuō)明

10.2.3后向傳播算法

10.3神經(jīng)網(wǎng)絡(luò)實(shí)踐

10.3.1建模

10.3.2Softmax與神經(jīng)網(wǎng)絡(luò)

第11章支持向量機(jī)與核方法

11.1線性可分的支持向量機(jī)

11.1.1函數(shù)距離與幾何距離

11.1.2最大間隔分類器

11.1.3拉格朗日乘數(shù)法

11.1.4對(duì)偶問(wèn)題的求解

11.2松弛因子與軟間隔模型

11.3非線性支持向量機(jī)方法

11.3.1從更高維度上分類

11.3.2非線性核函數(shù)方法

11.3.3機(jī)器學(xué)習(xí)中的核方法

11.3.4默瑟定理

11.4對(duì)數(shù)據(jù)進(jìn)行分類的實(shí)踐

11.4.1數(shù)據(jù)分析

11.4.2線性可分的例子

11.4.3線性不可分的例子

第12章決策樹(shù)

12.1決策樹(shù)基礎(chǔ)

12.1.1Hunt算法

12.1.2基尼測(cè)度與劃分

12.1.3信息熵與信息增益

12.1.4分類誤差

12.2決策樹(shù)進(jìn)階

12.2.1ID3算法

12.2.2C4.5算法

12.3分類回歸樹(shù)

12.4決策樹(shù)剪枝

12.5決策樹(shù)應(yīng)用實(shí)例

第13章集成學(xué)習(xí)

13.1集成學(xué)習(xí)的理論基礎(chǔ)

13.2Bootstrap方法

13.3Bagging與隨機(jī)森林

13.3.1算法原理

13.3.2應(yīng)用實(shí)例

13.4Boosting與AdaBoost

13.4.1算法原理

13.4.2應(yīng)用實(shí)例

13.5梯度提升

13.5.1梯度提升樹(shù)與回歸

13.5.2梯度提升樹(shù)與分類

13.5.3梯度提升樹(shù)的原理推導(dǎo)

第14章聚類分析

14.1聚類的概念

14.2k均值算法

14.2.1距離度量

14.2.2算法描述

14.2.3應(yīng)用實(shí)例——圖像的色彩量化

14.3最大期望算法

14.3.1算法原理

14.3.2收斂探討

14.4高斯混合模型

14.4.1模型推導(dǎo)

14.4.2應(yīng)用實(shí)例

14.5密度聚類

14.5.1DBSCAN算法

14.5.2應(yīng)用實(shí)例

14.6層次聚類

14.6.1AGNES算法

14.6.2應(yīng)用實(shí)例

14.7譜聚類

14.7.1基本符號(hào)

14.7.2拉普拉斯矩陣

14.7.3相似圖

14.7.4譜聚類切圖

14.7.5算法描述

14.7.6應(yīng)用實(shí)例

第15章矩陣分解、降維與流形學(xué)習(xí)

15.1主成分分析

15.2奇異值分解

15.2.1一個(gè)基本的認(rèn)識(shí)

15.2.2為什么可以做SVD

15.2.3SVD與PCA的關(guān)系

15.2.4應(yīng)用示例與矩陣偽逆

15.3多維標(biāo)度法

第16章貝葉斯定理及其應(yīng)用

16.1貝葉斯推斷中的基本概念

16.1.1貝葉斯公式與邊緣分布

16.1.2先驗(yàn)概率與后驗(yàn)概率

16.1.3共軛分布

16.2樸素貝葉斯分類器原理

16.3貝葉斯網(wǎng)絡(luò)

16.3.1基本結(jié)構(gòu)單元

16.3.2模型推理

16.4貝葉斯網(wǎng)絡(luò)的應(yīng)用示例

16.5隱馬爾可夫模型

16.5.1隨機(jī)過(guò)程

16.5.2從時(shí)間角度考慮不確定性

16.5.3前向算法

16.5.4維特比算法

附錄A數(shù)學(xué)傳奇

參考文獻(xiàn)