第一部分 基础知识 1
第1章 并行计算机的硬件基础 1
1.1 并行计算机的组成 1
1.2 共享存储器多处理器系统 11
1.3 消息传递多计算机系统 16
第2章 并行计算模型 19
2.1 PRAM 19
2.2 BSP 20
2.3 LogP 21
第3章 并发程序的评测和调试 24
3.1 加速比的计算 24
3.2 时间复杂度的计算 26
3.3 程序的调试和优化 27
第4章 共享存储器系统的程序实现 31
4.1 并行性的构造 31
4.2 数据共享 34
4.3 并行程序设计语言 38
4.4 程序举例 47
第5章 消息传递系统的程序实现 55
5.1 进程创建 55
5.2 基本消息通信 56
5.3 消息传递的时间代价分析 60
5.4 消息传递库的调用 62
5.5 程序举例 69
第二部分 并发程序设计基础第6章 划分和分治 73
6.1 划分和分治策略介绍 73
6.2 应用实例 78
第7章 负载平衡 87
7.1 负载平衡 87
7.2 动态负载平衡 88
7.3 分布式的终止检测 92
7.4 程序举例 94
第8章 流水线技术 104
8.1 流水线技术简介 104
8.2 流水线的应用实例 108
第9章 同步计算 116
9.1 同步的定义 116
9.2 同步计算 120
9.3 同步循环的例子 123
第三部分 具体算法与应用实现第10章 排序算法 134
10.1 基本概念 134
10.2 基于比较—交换的排序算法 136
10.3 在专用网络上的排序 146
附录A Pthread简介 149
A.1 线程管理 149
A.2 互斥锁管理 150
A.3 条件变量管理 151
A.4 读写锁管理 152
附录B OpenMP简介 154
B.1 OpenMP指令简介 154
B.2 parallel——并行区域构造 154
B.3 工作共享构造 154
B.4 合并的并行工作共享构造 155
B.5 同步构造 155
B.6 threadprivate——数据环境指令 156
B.7 数据作用域子句 156
B.8 schedule——调度子句 157
B.9 num_threads子句 158
B.10 子句在指令中的放置 158
附录C PVM简介 159
C.1 系统管理 159
C.2 进程管理 161
C.3 缓存管理 164
C.4 通信相关例程 165
附录D MPI简介 172
D.1 点对点通信 172
D.2 集合通信 176
D.3 组及通信子 180
D.4 系统管理 181
参考文献 182