Spark SQL大數(shù)據(jù)實例開發(fā)教程

錄

前言
第1章認識Spark SQL
1.1Spark SQL概述
1.1.1Spark SQL與DataFrame
1.1.2DataFrame與RDD的差異
1.1.3Spark SQL的發(fā)展歷程
1.2從零起步掌握Hive
1.2.1Hive的本質是什么
1.2.2Hive安裝和配置
1.2.3使用Hive分析搜索數(shù)據(jù)
1.3Spark SQL on Hive安裝與配置
1.3.1安裝Spark SQL
1.3.2安裝MySQL
1.3.3啟動Hive Metastore
1.4Spark SQL初試
1.4.1通過spark-shell來使用Spark SQL
1.4.2Spark SQL的命令終端
1.4.3Spark的Web UI
1.5本章小結
第2章DataFrame原理與常用操作
2.1DataFrame編程模型
2.2DataFrame基本操作實戰(zhàn)
2.2.1數(shù)據(jù)準備
2.2.2啟動交互式界面
2.2.3數(shù)據(jù)處理與分析
2.3通過RDD來構建DataFrame
2.4緩存表（列式存儲）
2.5DataFrame API應用示例
2.6本章小結
第3章Spark SQL 操作多種數(shù)據(jù)源
3.1通用的加載/保存功能
3.1.1Spark SQL加載數(shù)據(jù)
3.1.2Spark SQL保存數(shù)據(jù)
3.1.3綜合案例——電商熱銷商品排名
3.2Spark SQL操作Hive示例
3.3Spark SQL操作JSON數(shù)據(jù)集示例
3.4Spark SQL操作HBase示例
3.5Spark SQL操作MySQL示例
3.5.1安裝并啟動MySQL
3.5.2準備數(shù)據(jù)表
3.5.3操作MySQL表
3.6Spark SQL操作MongoDB示例
3.6.1安裝配置MongoDB
3.6.2啟動MongoDB
3.6.3準備數(shù)據(jù)
3.6.4Spark SQL操作MongoDB
3.7本章小結
第4章Parquet列式存儲
4.1Parquet概述
4.1.1Parquet的基本概念
4.1.2Parquet數(shù)據(jù)列式存儲格式應用舉例
4.2Parquet的Block配置及數(shù)據(jù)分片
4.2.1Parquet的Block的配置
4.2.2Parquet 內部的數(shù)據(jù)分片
4.3Parquet序列化
4.3.1Spark實施序列化的目的
4.3.2Parquet兩種序列化方式
4.4本章小結
第5章Spark SQL內置函數(shù)與窗口函數(shù)
5.1Spark SQL內置函數(shù)
5.1.1Spark SQL內置函數(shù)概述
5.1.2Spark SQL內置函數(shù)應用實例
5.2Spark SQL窗口函數(shù)
5.2.1Spark SQL窗口函數(shù)概述
5.2.2Spark SQL窗口函數(shù)分數(shù)查詢統(tǒng)計案例
5.2.3Spark SQL窗口函數(shù)NBA常規(guī)賽數(shù)據(jù)統(tǒng)計案例
5.3本章小結
第6章Spark SQL UDF與UDAF
6.1UDF概述
6.2UDF示例
6.2.1Hobby_count函數(shù)
6.2.2Combine函數(shù)
6.2.3Str2Int函數(shù)
6.2.4Wsternstate函數(shù)
6.2.5ManyCustomers函數(shù)
6.2.6StateRegion函數(shù)
6.2.7DiscountRatio函數(shù)
6.2.8MakeStruct函數(shù)
6.2.9MyDateFilter函數(shù)
6.2.10MakeDT函數(shù)
6.3UDAF概述
6.4UDAF示例
6.4.1ScalaAggregateFunction函數(shù)
6.4.2GeometricMean函數(shù)
6.4.3CustomMean函數(shù)
6.4.4BelowThreshold函數(shù)
6.4.5YearCompare函數(shù)
6.4.6WordCount函數(shù)
6.5本章小結
第7章Thrift Server
7.1Thrift概述
7.1.1Thrift的基本概念
7.1.2Thrift的工作機制
7.1.3Thrift的運行機制
7.1.4一個簡單的Thrift 實例
7.2Thrift Server的啟動過程
7.2.1Thrift Sever啟動詳解
7.2.2HiveThriftServer2類的解析
7.3Beeline操作
7.3.1Beeline連接方式
7.3.2在Beeline中進行SQL查詢操作
7.3.3通過Web控制臺查看用戶進行的操作
7.4Thrift Server應用示例
7.4.1示例源代碼
7.4.2關鍵代碼行解析
7.4.3測試運行
7.4.4運行結果解析
7.4.5Spark Web控制臺查看運行日志
7.5本章小結
第8章Spark SQL綜合應用案例
8.1綜合案例實戰(zhàn)——電商網(wǎng)站日志多維度數(shù)據(jù)分析
8.1.1數(shù)據(jù)準備
8.1.2數(shù)據(jù)說明
8.1.3數(shù)據(jù)創(chuàng)建
8.1.4數(shù)據(jù)導入
8.1.5數(shù)據(jù)測試和處理
8.2綜合案例實戰(zhàn)——電商網(wǎng)站搜索排名統(tǒng)計
8.2.1案例概述
8.2.2數(shù)據(jù)準備
8.2.3實現(xiàn)用戶每天搜索前3名的商品排名統(tǒng)計
8.3本章小結