統(tǒng)計至簡（概率統(tǒng)計全彩圖解 + 微課 + Python編程）

緒論 1
第1章   概率統(tǒng)計全景 7
1.1 必  備數(shù)學(xué)工具：一個線性代數(shù)小測驗 8
1.2 統(tǒng)計描述 9
1.3    概率 10
1.4    高斯 16
1.5    隨機(jī) 19
1.6 頻率派 19
1.7 貝葉斯派 20
1.8 橢圓三部曲 21
第2章   統(tǒng)計描述 23
2.1 統(tǒng)計兩大工具：描述、推斷 25
2.2 直方圖：單特征數(shù)據(jù)分布 26
2.3 散點圖：兩特征數(shù)據(jù)分布 31
2.4 有標(biāo)簽數(shù)據(jù)的統(tǒng)計可視化 33
2.5 集中度：均值、質(zhì)心 36
2.6 分散度：極差、方差、標(biāo)準(zhǔn)差 38
2.7 分位：四分位、百分位等 40
2.8 箱型圖：小提琴圖、分布散點圖 42
2.9 中心距：均值、方差、偏度、峰度 44
2.10 多元隨機(jī)變量關(guān)系：協(xié)方差矩陣、相關(guān)性系數(shù)矩陣 47
 
第3章   古典概率模型 51
3.1 無處不在的概率 52
3.2 古典概率：離散均勻概率律 56
3.3 回顧：楊輝三角和概率 64
3.4 事件之間的關(guān)系：集合運(yùn)算 65
3.5 條件概率：給定部分信息做推斷 67
3.6 貝葉斯定理：條件概率、邊緣概率、聯(lián)合概率關(guān)系 70
3.7 全概率定理：窮舉法 73
3.8 獨立、互斥、條件獨立 76
第4章   離散隨機(jī)變量 79
4.1 隨機(jī)：天地不仁，以萬物為芻狗 80
4.2 期望值：隨機(jī)變量的可能取值加權(quán)平均 89
4.3 方差：隨機(jī)變量離期望距離平方的平均值 91
4.4 累積分布函數(shù)（CDF）：累加 94
4.5 二元離散隨機(jī)變量 95
4.6 協(xié)方差、相關(guān)性系數(shù) 97
4.7 邊緣概率：偏求和，相當(dāng)于降維 100
4.8 條件概率：引入貝葉斯定理 101
4.9 獨立性：條件概率等于邊緣概率 104
4.10 以鳶尾花數(shù)據(jù)為例：不考慮分類標(biāo)簽 107
4.11 以鳶尾花數(shù)據(jù)為例：考慮分類標(biāo)簽 116
4.12 再談概率1：展開、折疊 120
第5章   離散分布 123
5.1 概率分布：高度理想化的數(shù)學(xué)模型 124
5.2 離散均勻分布：不分厚薄 125
5.3 伯努利分布：非黑即白 128
5.4 二項分布：楊輝三角 129
5.5 多項分布：二項分布推廣 132
5.6 泊松分布：建模隨機(jī)事件的發(fā)生次數(shù) 135
5.7 幾何分布：滴水穿石 136
5.8 超幾何分布：不放回 138
第6章   連續(xù)隨機(jī)變量 141
6.1 一元連續(xù)隨機(jī)變量 142
6.2 期望、方差和標(biāo)準(zhǔn)差 145
6.3 二元連續(xù)隨機(jī)變量 147
6.4 邊緣概率：二元PDF偏積分 149
6.5 條件概率：引入貝葉斯定理 151
6.6 獨立性：比較條件概率和邊緣概率 153
6.7 以鳶尾花數(shù)據(jù)為例：不考慮分類標(biāo)簽 154
6.8 以鳶尾花數(shù)據(jù)為例：考慮分類標(biāo)簽 162
第7章   連續(xù)分布 171
7.1 連續(xù)均勻分布：離散均勻分布的連續(xù)版 172
7.2 高斯分布：最重要的概率分布，沒有之一 173
7.3 邏輯分布：類似高斯分布 177
7.4 學(xué)生t-分布：厚尾分布 179
7.5 對數(shù)正態(tài)分布：源自正態(tài)分布 181
7.6 指數(shù)分布：泊松分布的連續(xù)隨機(jī)變量版 183
7.7 卡方分布：若干IID標(biāo)準(zhǔn)正態(tài)分布平方和 184
7.8 F-分布：和兩個服從卡方分布的獨立隨機(jī)變量有關(guān) 185
7.9 Beta分布：概率的概率 187
7.10 Dirichlet分布：多元Beta分布 190
第8章   條件概率 197
8.1 離散隨機(jī)變量：條件期望 198
8.2 離散隨機(jī)變量：條件方差 204
8.3 離散隨機(jī)變量的條件期望和條件方差：以鳶尾花為例 206
8.4 連續(xù)隨機(jī)變量：條件期望 215
8.5 連續(xù)隨機(jī)變量：條件方差 216
8.6 連續(xù)隨機(jī)變量：以鳶尾花為例 217
8.7    再談如何分割“1” 221
第9章   一元高斯分布 231
9.1 一元高斯分布：期望值決定位置，標(biāo)準(zhǔn)差決定形狀 232
9.2 累積概率密度：對應(yīng)概率值 234
9.3 標(biāo)準(zhǔn)高斯分布：期望為0，標(biāo)準(zhǔn)差為1 236
9.4   68-95-99.7 法則 239
9.5 用一元高斯分布估計概率密度 243
9.6 經(jīng)驗累積分布函數(shù) 244
9.7 QQ圖：分位-分位圖 245
9.8 從距離到一元高斯分布 249
 
第10章   二元高斯分布 253
10.1 二元高斯分布：看見橢圓 254
10.2 邊緣分布：一元高斯分布 258
10.3 累積分布函數(shù)：概率值 262
10.4 用橢圓解剖二元高斯分布 264
10.5 聊聊線性相關(guān)性系數(shù) 268
10.6 以鳶尾花數(shù)據(jù)為例：不考慮分類標(biāo)簽 272
10.7 以鳶尾花數(shù)據(jù)為例：考慮分類標(biāo)簽 281
第11章   多元高斯分布 287
11.1 矩陣角度：一元、二元、三元到多元 288
11.2 高斯分布：橢圓、橢球、超橢球 293
11.3 解剖多元高斯分布PDF 298
11.4   平移 → 旋轉(zhuǎn) 302
11.5   平移 → 旋轉(zhuǎn) → 縮放 308
第12章   條件高斯分布 311
12.1 聯(lián)合概率和條件概率關(guān)系 312
12.2 給定X條件下，Y的條件概率：以二元高斯分布為例 316
12.3 給定Y條件下，X的條件概率：以二元高斯分布為例 321
12.4 多元正態(tài)條件分布：引入矩陣運(yùn)算 325
第13章   協(xié)方差矩陣 331
13.1 計算協(xié)方差矩陣：描述數(shù)據(jù)分布 332
13.2 相關(guān)性系數(shù)矩陣：描述Z分?jǐn)?shù)分布 338
13.3 特征值分解：找到旋轉(zhuǎn)、縮放 340
13.4 SVD分解：分解數(shù)據(jù)矩陣 345
13.5 Cholesky分解：列向量坐標(biāo) 349
13.6 距離：歐氏距離 VS 馬氏距離 350
13.7 幾何視角：超橢球、橢球、橢圓 353
13.8 合并協(xié)方差矩陣 362
第14章   隨機(jī)變量的函數(shù) 367
14.1 隨機(jī)變量的函數(shù)：以鳶尾花為例 368
14.2 線性變換：投影視角 369
14.3 單方向投影：以鳶尾花兩特征為例 372
14.4 正交系投影：以鳶尾花兩特征為例 376
14.5 以橢圓投影為視角看線性變換 380
14.6 主成分分析：換個視角看數(shù)據(jù) 383
第15章   蒙特卡洛模擬 387
15.1 蒙特卡洛模擬：基于偽隨機(jī)數(shù)發(fā)生器 388
15.2 估算平方根 389
15.3 估算積分 390
15.4 估算體積 391
15.5 估算圓周率 391
15.6 布豐投針估算圓周率 393
15.7 接受-拒絕抽樣法 395
15.8 二項分布隨機(jī)漫步 397
15.9 兩個服從高斯分布的隨機(jī)變量相加 399
15.10 產(chǎn)生滿足特定相關(guān)性的隨機(jī)數(shù) 400
第16章   頻率派統(tǒng)計推斷 411
16.1 統(tǒng)計推斷：兩大學(xué)派 412
16.2 頻率學(xué)派的工具 414
16.3 中心極限定理：漸近于正態(tài)分布 416
16.4 最大似然：雞兔比例 419
16.5 最大似然：以估算均值、方差為例 421
16.6 區(qū)間估計：總體方差已知，均值估計 424
16.7 區(qū)間估計：總體方差未知，均值估計 427
16.8 區(qū)間估計：總體均值未知，方差估計 429
第17章   概率密度估計 431
17.1 概率密度估計：從直方圖說起 432
17.2 核密度估計：若干核函數(shù)加權(quán)疊合 435
17.3 帶寬：決定核函數(shù)的高矮胖瘦 439
17.4 核函數(shù)：八種常見核函數(shù) 441
17.5 二元KDE：概率密度曲面 443
第18章   貝葉斯分類 447
18.1    貝葉斯定理：分類鳶尾花 448
18.2 似然概率：給定分類條件下的概率密度 450
18.3 先驗概率：鳶尾花分類占比 451
18.4 聯(lián)合概率：可以作為分類標(biāo)準(zhǔn) 451
18.5 證據(jù)因子：和分類無關(guān) 452
18.6 后驗概率：也是分類的依據(jù) 453
18.7 單一特征分類：基于KDE 457
18.8 單一特征分類：基于高斯 461
第19章   貝葉斯分類進(jìn)階 467
19.1 似然概率：給定分類條件下的概率密度 468
19.2 聯(lián)合概率：可以作為分類標(biāo)準(zhǔn) 470
19.3 證據(jù)因子：和分類無關(guān) 472
19.4 后驗概率：也是分類的依據(jù) 474
19.5 獨立：不代表條件獨立 477
19.6 條件獨立：不代表獨立 478
第20章   貝葉斯推斷入門 483
20.1 貝葉斯推斷：更貼合人腦思維 484
20.2 從一元貝葉斯公式說起 486
20.3 走地雞兔：比例完全不確定 488
20.4 走地雞兔：很可能一半一半 495
20.5 走地雞兔：更一般的情況 504
第21章   貝葉斯推斷進(jìn)階 511
21.1 除了雞兔，農(nóng)場發(fā)現(xiàn)了豬 512
21.2 走地雞兔豬：比例完全不確定 517
21.3 走地雞兔豬：很可能各1/3 520
21.4 走地雞兔豬：更一般的情況 525
第22章   馬爾可夫鏈蒙特卡洛 529
22.1 歸一化因子沒有閉式解？ 530
22.2 雞兔比例：使用PyMC3 534
22.3 雞兔豬比例：使用PyMC3 537
第23章   馬氏距離 543
23.1 馬氏距離：考慮數(shù)據(jù)分布的距離度量 544
23.2 歐氏距離：最基本的距離 546
23.3 標(biāo)準(zhǔn)化歐氏距離：兩個視角 547
23.4 馬氏距離：兩個視角 549
23.5 馬氏距離和卡方分布 553
第24章   線性回歸 557
24.1 再聊線性回歸 558
24.2 最小二乘法 561
24.3 優(yōu)化問題 562
24.4 投影視角 563
24.5 線性方程組：代數(shù)視角 563
24.6 條件概率 564
24.7 最大似然估計（MLE） 568
第25章   主成分分析 571
25.1 再聊主成分分析 572
25.2 原始數(shù)據(jù) 574
25.3 特征值分解協(xié)方差矩陣 575
25.4    投影 577
25.5 幾何視角看PCA 583
25.6 奇異值分解 586
25.7 優(yōu)化問題 591
25.8 數(shù)據(jù)還原和誤差 592