并行编程模式PDF电子书下载

第1章 并行编程的模式语言 1

1.1 引言 1

1.2 并行编程 2

1.3 设计模式和模式语言 3

1.4 关于并行编程的模式语言 3

第2章 并行计算的背景和术语 5

2.1 并行程序中的并发性与操作系统中的并发性 5

2.2 并行体系结构简介 5

2.2.1 Flynn分类法 6

2.2.2 MIMD的进一步分类 7

2.2.3 小结 8

2.3 并行编程环境 8

2.4 并行编程术语 11

2.5 并行计算的度量 13

2.6 通信 15

2.6.1 延迟和带宽 15

2.6.2 重叠通信和计算以及延迟隐藏 15

2.7 本章小结 16

第3章 “寻找并发性”设计空间 17

3.1 关于设计空间 17

3.1.1 概述 18

3.1.2 使用分解模式 18

3.1.3 示例的背景知识 18

3.2 任务分解模式 20

3.3 数据分解模式 24

3.4 分组任务模式 27

3.5 排序任务模式 29

3.6 数据共享模式 31

3.7 设计评估模式 34

3.8 本章小结 38

第4章 “算法结构”设计空间 39

4.1 引言 39

4.2 选择一种算法结构设计模式 40

4.2.1 目标平台 40

4.2.2 主要组织原则 41

4.2.3 算法结构决策树 41

4.2.4 重新评估 42

4.3 示例 43

4.3.1 医学成像 43

4.3.2 分子动力学 43

4.4 任务并行模式 44

4.5 分治模式 50

4.6 几何分解模式 55

4.7 递归数据模式 69

4.8 流水线模式 73

4.9 基于事件的协作模式 82

第5章 “支持结构”设计空间 86

5.1 引言 86

5.1.1 程序结构模式 86

5.1.2 数据结构模式 87

5.2 面临的问题 87

5.3 模式选择 88

5.4 SPMD模式 89

5.5 主／从模式 102

5.6 循环并行模式 108

5.7 派生／聚合模式 120

5.8 共享数据模式 124

5.9 共享队列模式 131

5.10 分布式数组模式 143

5.11 其他支持结构 151

5.11.1 SIMD 152

5.11.2 MPMD 152

5.11.3 客户端-服务器计算 153

5.11.4 使用声明语言的并发编程 154

5.11.5 问题求解环境 154

第6章 “实现机制”设计空间 156

6.1 引言 156

6.2 UE管理 157

6.2.1 线程的创建／销毁 157

6.2.2 进程的创建／销毁 158

6.3 同步 159

6.3.1 内存同步和围栅 159

6.3.2 栅栏 162

6.3.3 互斥 165

6.4 通信 171

6.4.1 消息传递 171

6.4.2 集合通信 177

6.4.3 其他通信构造 182

附录A OpenMP简介 183

附录B MPI简介 198

附录C Java并发编程简介 212

术语表 224

参考文献 232

索引 243