機器學習理論與算法

序
前言
第1章 緒論
1.1 什么是機器學習
1.1.1 信息爆炸
1.1.2 學習的定義
1.1.3 機器學習定義
1.2 機器學習的發(fā)展史
1.3 機器學習的發(fā)展現(xiàn)狀
1.4 機器學習的策略與模型
1.4.1 機器學習策略
1.4.2 機器學習系統(tǒng)的基本模型
1.5 機器學習的相關方法
1.5.1 算法類型
1.5.2 具體方法
1.6 本書的內容安排
參考文獻
第2章 統(tǒng)計學習理論與支持向量機算法
2.1 引言
2.2 統(tǒng)計學習理論
2.2.1 統(tǒng)計學習理論的形成與發(fā)展
2.2.2 統(tǒng)計學習理論的主要內容
2.2.3 學習過程的一致性及收斂速度
2.2.4 函數(shù)集的vC維
2.2.5 結構風險最小化歸納原則
2.3 支持向量機
2.3.1 支持向量機的形成與發(fā)展
2.3.2 支持向量機的主要內容
2.3.3 基本的支持向量機算法
2.3.4 變形的支持向量機算法
2.3.5 優(yōu)化的支持向量機算法
2.3.6 多分類的支持向量機算法
2.3.7 支持向量機聚類算法
2.4 本章小結
參考文獻
附錄
第3章 構造性機器學習理論與覆蓋算法
3.1 引言
3.1.1 傳統(tǒng)的神經(jīng)網(wǎng)絡存在的問題
3.1.2 構造性機器學習方法的提出
3.1.3 構造性機器學習覆蓋算法與支持向量機的區(qū)別
3.2 覆蓋問題的描述及理論基礎
3.2.1 覆蓋問題的描述
3.2.2 覆蓋算法的理論基礎
3.3 覆蓋模型及其算法的分析
3.3.1 領域覆蓋算法
3.3.2 交叉覆蓋算法
3.3.3 覆蓋算法的改進措施
3.3.4 多側面遞進算法
3.3.5 核覆蓋算法
3.3.6 概率模型覆蓋算法
3.4 本章小結
參考文獻
附錄
第4章 集成學習與弱可學習理論
4.1 引言
4.2 集成學習的發(fā)展和現(xiàn)狀
4.3 集成學習的產生背景和主要作用
4.4 集成學習的主要內容
4.4.1 PAC理論
4.4.2 強可學習與弱可學習理論
4.4.3 集成學習的基本概念
4.4.4 集成學習的算法框架
4.5 AdaBoost
4.5.1 AdaBoost算法訓練誤差的上界
4.5.2 訓練輪數(shù)T的確定
4.5.3 基于泛化誤差上界的分析
4.5.4 基于優(yōu)化理論的分析
4.6 AdaBoost-M1
4.7 Ada：Boost-M2
4.8 Bagging
4.9 Stacking
4.10 選擇性集成
4.10.1 選擇性集成的提出
4.10.2 選擇性集成的理論基礎
4.10.3 GASE：N
4.10.4 選擇性集成的發(fā)展
4.11 集成學習的應用
4.12 本章小結
參考文獻
附錄
第5章 數(shù)據(jù)流的概念獲取與增量學習
5.1 引言
5.2 數(shù)據(jù)流
5.2.1 數(shù)據(jù)流與流形學習的概念
5.2.2 數(shù)據(jù)流的性質
5.2.3 數(shù)據(jù)流的特征
5.2.4 數(shù)據(jù)流處理模型
5.2.5 數(shù)據(jù)流的基本技術
5.2.6 數(shù)據(jù)流上的應用
5.3 數(shù)據(jù)流分類
5.3.1 數(shù)據(jù)流的分類問題
5.3.2 現(xiàn)有數(shù)據(jù)流上的分類算法
5.4 數(shù)據(jù)流的概念漂移
5.4.1 概念漂移定義
5.4.2 概念漂移類型
5.4.3 概念漂移檢測
5.4.4 概念漂移與數(shù)據(jù)流分類的關系
5.4.5 概念漂移的處理方法
5.5 增量學習
5.5.1 支持向量機增量學習算法
5.5.2 基于覆蓋的增量學習
5.6 本章小結
參考文獻
附錄
第6章 人工神經(jīng)網(wǎng)絡之遺傳算法
6.1 引言
6.2 遺傳算法的仿生學基礎
6.2.1 生物遺傳及其變異
6.2.2 進化
6.3 遺傳算法簡介
6.3.1 發(fā)展史
6.3.2 遺傳算法
6.4 基本遺傳算法
6.4.1 基本遺傳算法描述
6.4.2 基本遺傳操作
6.4.3 基本遺傳算法的形式化定義
6.4.4 基本遺傳算法的應用舉例
6.5 遺傳算法的理論基礎
6.5.1 模式
6.5.2 選擇操作對模式的影響
6.5.3 交叉操作對模式的影響
6.5.4 變異操作對模式的影響
6.6 本章小結
參考文獻
附錄
第7章 決策樹與貝葉斯網(wǎng)絡
7.1 決策樹的形成與發(fā)展
7.1.1 決策樹的定義
7.1.2 決策樹的優(yōu)缺點
7.2 決策樹的基本原理：統(tǒng)計學角度
7.3 決策樹經(jīng)典算法介紹
7.3.1 ID3算法
7.3.2 C4.5 算法
7.3.3 EC4.5 算法
7.3.4 CART算法
7.3.5 SuQ算法
7.3.6 SPRINT算法
7.3.7 PUBLIC算法
7.4 決策樹的應用
7.4.1 決策樹的適用范圍
7.4.2 決策樹的應用前景
7.4.3 決策樹的應用舉例
7.5 貝葉斯網(wǎng)絡的形成與發(fā)展
7.5.1 貝葉斯網(wǎng)絡的發(fā)展歷史
7.5.2 貝葉斯方法的基本觀點
7.5.3 貝葉斯網(wǎng)絡的特點
7.6 貝葉斯網(wǎng)絡原理及應用
7.6.1 貝葉斯網(wǎng)絡
7.6.2 貝葉斯網(wǎng)絡構造
7.7 典型貝葉斯網(wǎng)絡學習方法及其變形
7.7.1 完整數(shù)據(jù)條件下貝葉斯網(wǎng)絡的參數(shù)學習
7.7.2 完整數(shù)據(jù)條件下貝葉斯網(wǎng)絡的結構學習
7.7.3 不完整數(shù)據(jù)條件下貝葉斯網(wǎng)絡的參數(shù)學習
7.7.4 不完整數(shù)據(jù)條件下貝葉斯網(wǎng)絡的結構學習
7.8 貝葉斯網(wǎng)絡推理
7.8.1 貝葉斯網(wǎng)絡精確推理算法
7.8.2 貝葉斯網(wǎng)絡近似推理算法
7.8.3 貝葉斯網(wǎng)絡推理算法的比較分析
7.9 貝葉斯網(wǎng)絡的應用
7.9.1 貝葉斯網(wǎng)絡用于分類和回歸分析
7.9.2 貝葉斯網(wǎng)絡用于不確定知識表達和推理
7.9.3 貝葉斯網(wǎng)絡在因果數(shù)據(jù)挖掘上的應用及展望
7.9.4 貝葉斯網(wǎng)絡用于聚類模式發(fā)現(xiàn)
7.9.5 基于貝葉斯網(wǎng)絡的遺傳算法
7.9.6 基于貝葉斯網(wǎng)絡的多目標優(yōu)化問題
7.10 本章小結
參考文獻
附錄