OpenMP核心技術指南

譯者序
序言
前言
部分　做好學習OpenMP的準備
第1章　并行計算 2
1.1　并行計算的基本概念 2
1.2　并發(fā)性的興起 4
1.3　并行硬件 5
1.3.1　多處理器系統(tǒng) 5
1.3.2　圖形處理單元 8
1.3.3　分布式內(nèi)存集群 10
1.4　多處理器計算機的并行軟件 10
第2章　性能語言 13
2.1　基礎：FLOPS、加速比和并行效率 13
2.2　阿姆達爾定律 16
2.3　并行開銷 17
2.4　強擴展與弱擴展 19
2.5　負載均衡 19
2.6　用roofline模型理解硬件 21
第3章　什么是OpenMP 23
3.1　OpenMP的歷史 23
3.2　通用核心 25
3.3　OpenMP的主要組件 26
第二部分　OpenMP通用核心
第4章　線程和OpenMP編程模型 31
4.1　OpenMP概述 31
4.2　OpenMP 程序的結(jié)構(gòu) 31
4.3　線程和fork-join模式 34
4.4　使用線程 38
4.4.1　SPMD設計模式 39
4.4.2　偽共享 43
4.4.3　同步 45
4.5　結(jié)束語 49
第5章　并行化循環(huán) 50
5.1　共享工作循環(huán)構(gòu)造 51
5.2　組合式并行共享工作循環(huán)構(gòu)造 53
5.3　歸約 54
5.4　循環(huán)調(diào)度 56
5.4.1　靜態(tài)調(diào)度 56
5.4.2　動態(tài)調(diào)度 57
5.4.3　選擇一個調(diào)度 59
5.5　隱式柵欄和nowait子句 61
5.6　帶有并行循環(huán)共享工作的Pi程序 63
5.7　一種循環(huán)級并行策略 64
5.8　結(jié)束語 66
第6章　OpenMP數(shù)據(jù)環(huán)境 67
6.1　缺省存儲屬性 68
6.2　修改存儲屬性 70
6.2.1　shared子句 70
6.2.2　private子句 72
6.2.3　firstprivate子句 73
6.2.4　default子句 74
6.3　數(shù)據(jù)環(huán)境的例子 74
6.3.1　數(shù)據(jù)作用域測試 75
6.3.2　曼德勃羅集的面積 76
6.3.3　重新審視Pi循環(huán)的例子 79
6.4　數(shù)組和指針 80
6.5　結(jié)束語 81
第7章　OpenMP任務 83
7.1　任務的必要性 83
7.2　顯式任務 86
7.3　個例子:薛定諤程序 87
7.4　single構(gòu)造 88
7.5　使用任務 89
7.5.1　什么時候任務完成 90
7.6　任務的數(shù)據(jù)環(huán)境 91
7.6.1　任務的缺省數(shù)據(jù)作用域 91
7.6.2　利用任務重新審視鏈表程序 93
7.7　利用任務的基礎設計模式 93
7.7.1　分而治之模式 95
7.8　結(jié)束語 99
第8章　OpenMP內(nèi)存模型 100
8.1　重新審視內(nèi)存層次結(jié)構(gòu) 101
8.2　OpenMP通用核心內(nèi)存模型 103
8.3　使用共享內(nèi)存 106
8.4　結(jié)束語 108
第9章　通用核心回顧 110
9.1　管理線程 111
9.2　共享工作構(gòu)造 111
9.3　組合式并行共享工作循環(huán)構(gòu)造 113
9.4　OpenMP任務 113
9.5　同步和內(nèi)存一致性模型 114
9.6　數(shù)據(jù)環(huán)境子句 115
9.7　歸約子句 116
9.8　環(huán)境變量和運行時庫例程 117
第三部分　超越通用核心
第10章　超越通用核心的多線程 121
10.1　用于OpenMP通用核心構(gòu)造的附加子句 121
10.1.1　并行構(gòu)造 122
10.1.2　共享工作循環(huán)構(gòu)造 124
10.1.3　任務構(gòu)造 129
10.2　通用核心中缺失的多線程功能 133
10.2.1　threadprivate 133
10.2.2　master 135
10.2.3　atomic 136
10.2.4　OMP_STACKSIZE 137
10.2.5　運行時庫例程 138
10.3　結(jié)束語 140
第11章　同步和OpenMP內(nèi)存模型 141
11.1　內(nèi)存一致性模型 142
11.2　成對同步 146
11.3　鎖以及如何使用它 151
11.4　C 內(nèi)存模型和OpenMP 153
11.5　結(jié)束語 156
第12章　超越OpenMP通用核心的硬件 157
12.1　非統(tǒng)一內(nèi)存訪問系統(tǒng) 158
12.1.1　在NUMA系統(tǒng)上工作 159
12.1.2　嵌套并行構(gòu)造 168
12.1.3　檢查線程親和力 171
12.1.4　小結(jié)：線程親和力和數(shù)據(jù)局部性 173
12.2　SIMD 173
12.3　設備構(gòu)造 180
12.4　結(jié)束語 184
第13章　繼續(xù)OpenMP的學習 186
13.1　來自ARB的程序員資源 186
13.2　如何閱讀OpenMP規(guī)范 188
13.2.1　帶有所有正式術語的OpenMP 188
13.3　OpenMP規(guī)范的結(jié)構(gòu) 191
13.4　結(jié)束語 193
術語表 194