第一章 并行计算与并行计算概论 1
1.1 并行计算机发展简史 1
1.2 并行处理的定义和分类 2
1.2.1 并行处理的定义 2
1.2.2 并行处理的分类 3
1.3 并行计算机系统结构的分类模型 4
1.3.1 指令流/数据流分类-弗林分类法 4
1.3.2 节点机耦合程度分类法 6
第二章 分布式网络并行计算环境 9
2.1 常用的计算机网络和网络拓扑结构 9
2.1.1 计算机网络的发展 9
2.1.2 网络的拓扑结构 9
2.2 MPP与机群并行计算系统 14
2.2.1 MPP 14
2.2.2 机群并行系统 14
2.2.3 机群并行系统与MPP的比较 15
2.3 网络并行计算软件环境 16
2.3.1 可移植的异构编程环境PVM 16
2.3.2 可移植消息传递标准MPI 17
第三章 并行计算基础 18
3.1 并行计算的基本模式及负载平衡 18
3.1.1 基本模式 18
3.1.2 负载平衡的基本方法 19
3.2 并行算法的特点、分类及评价 19
3.2.1 并行算法的特点 20
3.2.2 并行算法的分类 20
3.2.3 并行算法的评价及其复杂性分析 20
3.2.4 并行计算模型 22
3.3 并行程序设计概述 23
3.3.1 并行程序设计模型 23
3.3.2 并行编程的基本方法 24
第四章 可移植消息传递界面标准MPI 26
4.1 MPI概述 26
4.2 安装MPI环境 26
4.2.1 安装MPICH 26
4.2.2 编译与运行MPI程序 27
4.3 MPI的基本概念与最小函数集 29
4.3.1 MPI程序设计基本概念 29
4.3.2 最小的MPI函数集 31
4.3.3 MPI的错误处理 33
第五章 MPI通信函数 35
5.1 通信模式 35
5.1.1 标准模式 35
5.1.2 缓冲模式 35
5.1.3 同步模式 35
5.1.4 就绪模式 35
5.1.5 阻塞式与非阻塞式执行方式 36
5.2 点到点通信 37
5.2.1 基本的点到点通信操作 37
5.2.2 发送/接收通信操作 38
5.2.3 点到点通信程序举例 40
5.2.4 消息的数据类型 43
5.3 阻塞式与非阻塞式通信 44
5.3.1 非阻塞式通信函数 44
5.3.2 非阻塞式通信程序举例 47
5.4 集群通信 49
5.4.1 集群通信概述 49
5.4.2 集群通信函数 51
5.4.3 全局运算与聚集操作 61
5.4.4 全局运算与聚集函数 61
5.4.5 全局运算程序举例 68
5.4.6 用户自定义全局运算与聚集操作 72
5.4.7 集群通信操作中的死锁 74
第六章 用户定义的数据类型-派生数据类型 76
6.1 派生数据类型的基本概念 76
6.2 派生数据类型的定义及应用 78
6.2.1 派生数据类型构造函数 78
6.2.2 派生数据类型的提交与释放 88
6.2.3 获取派生数据类型消息的有关信息 89
6.2.4 应用派生数据类型的程序举例 91
6.3 数据打包和数据拆包 100
6.3.1 MPI提供数据打包功能的意义 100
6.3.2 数据打包和数据拆包操作 100
第七章 进程组与通信子 105
7.1 进程组的创建与管理 105
7.1.1 预定义的进程组和有关的预定义常量 105
7.1.2 进程组创建函数 105
7.1.3 进程组管理函数 111
7.2 通信子的创建与管理 114
7.2.1 通信子的有关概念 114
7.2.2 组内通信子创建函数 115
7.2.3 组内通信子的管理函数 117
7.2.4 组间通信子的创建函数 119
7.2.5 组间通信子的管理函数 122
7.3 用户定义的通信子属性 123
7.3.1 属性关键字创建与释放函数 123
7.3.2 属性值获取与修改函数 125
7.4 进程组的虚拟拓扑结构 128
7.4.1 进程组虚拟拓扑结构的表示方式 128
7.4.2 笛卡儿坐标拓扑结构函数 129
7.4.3 图拓扑结构函数 135
7.4.4 进程组拓扑结构应用程序举例 139
第八章 多处理环境MPE和MPI-2标准 143
8.1 MPE图形功能 143
8.1.1 MPE绘图函数 143
8.1.2 应用MPE绘图函数的程序举例 145
8.2 MPE的跟踪记录机制 150
8.2.1 MPE的跟踪记录函数 150
8.2.2 MPE的跟踪记录函数应用程序举例 152
8.3 MPI-2标准的新特性 156
8.3.1 进程的动态建立和管理 156
8.3.2 单方远程通信 158
8.3.3 并行I/O功能 161
第九章 MPI应用程序实例 167
9.1 降维——幂迭代法求一类大型矩阵的特征值 167
9.1.1 应用背景、算法目的与理论依据 167
9.1.2 降维法 167
9.1.3 幂迭代法求矩阵A的最大模特征值 168
9.1.4 求矩阵A最大模特征值λmax的并行算法 169
9.2 二维离散小波变换的并行算法 169
9.2.1 道贝奇斯离散小波变换 169
9.2.2 二维道贝奇斯离散小波变换的并行实现 170
9.3 模拟退火法解TSP的并行优化算法 174
9.3.1 模拟退火算法简介 174
9.3.2 模拟退火算法求解TSP的并行实现 174
9.4 解三对角方程组的一种并行算法 180
9.4.1 解三对角方程组的并行算法 180
9.4.2 解三对角方程组的一种并行算法 181
附录 MPI函数集 188
主要参考文献 202