第一章 消息传递并行程序设计基础 1
1.1并行计算环境 1
1.1.1 并行机的发展动力 1
1.1.2 并行机体系结构 2
1.1.3 并行机软件环境 6
1.2进程与进程间通信 7
1.2.1 进程 7
1.2.2 进程间通信 7
1.3线程 8
1.4并行编程环境 9
1.5消息传递并行机模型 10
1.6标准消息传递界面MPI 11
第二章 MPI预备知识 12
2.1 MPI程序示例 12
2.2 MPI并行程序设计流程图 14
2.3 MPI并行编程模式 16
2.4 MPI函数的分类 17
2.5其他的预备知识 18
第三章 点对点通信 19
3.1标准模式阻塞通信 19
3.1.1 消息发送/接收函数 19
3.1.2 一个示例：并行矩阵乘 24
3.1.3 消息发收函数 25
3.1.4 消息长度查询函数 27
3.1.5 空进程 28
3.2数据类的匹配与转换 29
3.2.1 数据类型匹配规则 29
3.2.2 数据转换 30
3.3标准模式非阻塞通信 30
3.3.1 非阻塞消息发送/接收函数 31
3.3.2 通信请求完成函数 33
3.3.3 消息查询函数 37
3.4有限缓存区资源对消息传递的影响 39
3.5持久通信请求 40
3.6通信请求的释放与取消 43
3.7其他通信模式 45
3.7.1 阻塞式消息发送函数 45
3.7.2 非阻塞式消息发送函数 49
3.7.3 持久通信函数 50
第四章 自定义数据类型与数据封装 52
4.1自定义数据类型 52
4.2自定义数据类型的创建 55
4.3自定义数据类型的应用 63
4.3.1 自定义数据类型的提交与释放 63
4.3.2 消息参数的进一步理解 63
4.3.3 数据类型匹配规则的进一步理解 64
4.3.4 数据类型查询函数 64
4.4数据的封装与拆卸 64
第五章 聚合通信 68
5.1同步通信函数 70
5.2全局通信函数 71
5.2.1 消息广播函数 71
5.2.2 消息收集函数 71
5.2.3 基于向量的消息收集函数 73
5.2.4 消息分发函数 74
5.2.5 基于向量的消息分发函数 76
5.2.6 消息全收集函数 77
5.2.7 基于向量的消息全收集函数 78
5.2.8 消息全交换函数 79
5.2.9 基于向量的消息全交换函数 80
5.3全局归约函数 82
5.3.1 归约函数 83
5.3.2 归约操作MPI/MAXLOC和MPI_MINLOC 85
5.3.3 全归约函数 86
5.3.4 归约分发函数 87
5.3.6 自定义归约操作 89
5.3.5 并行前缀归约函数 89
第六章 进程通信器 92
6.1进程组管理 93
6.1.1 进程组创建 93
6.1.2 进程组访问与比较 98
6.1.3 进程组释放 100
6.2通信器管理 100
6.2.1 通信器创意 100
6.2.2 通信器访问与比较 105
6.2.3 通信器释放 107
6.2.4 通信器附加属性 107
6.3域间通信器 107
6.3.1 域间通信器的创建与释放 108
6.3.2 域间通信器访问 110
7.1 Cartesian拓扑结构 111
7.1.1 Cartesian拓扑结构创建 111
第七章 进程拓扑结构 111
7.1.2 Cartesian拓扑结构辅助函数 113
7.1.3 Cartesian拓扑结构查询 114
7.1.4 Cartesian拓扑结构分解 117
7.1.5 Cartesian拓扑结构映射 118
7.2 图拓扑结构 119
7.2.1 图拓扑结构创建 119
7.2.2 图拓扑结构查询 120
7.3拓扑结构类型查询 122
7.2.3 图拓扑结构映射 122
第八章 并行I/O 123
8.1串行1/O 123
8.2非MPI并行I/O 125
8.3 MPI并行I/O:并行访问不同的文件 126
8.4 MPI并行I/O:并行访问同一个文件 129
8.4.1 简单的并行I/O 130
8.4.2 显式偏移并行I/O 131
8.4.3 非连续访问并行I/O 133
8.4.4 聚合并行I/O 136
8.4.5 分布存储数组的并行I/O 138
8.5非阻塞并行1/O与分裂聚合并行I/O 145
8.6共享文件指针 147
8.7提示信息 148
8.8并行I/O的数据一致性 151
8.9文件的可移植性 153
第九章 MPI系统环境管理 155
9.1进入和退出MPI系统 155
9.2获取墙上时间 156
9.3 MPI系统常数的查询 157
9.4 MPI异常及其处理 158
9.4.1 错误处理程序 158
9.4.2 信息码 160
10.1 MPI进程的多线程执行 161
第十章 MPI与OpenMP的混合编程 161
10.2 MPI与OpenMP的混合编程 162
10.3并行矩阵乘混合编程示例 163
第十一章 MPI程序示例 165
11.1并行算法设计 165
11.2 MPI并行程序设计 165
11.3 MPI并行程序的改进 171
12.1单边通信 176
第十二章 MPI2.0的新特征 176
12.2动态进程管理 181
第十三章 MPI的现状与发展 182
附录 183
附录A MPI程序的编译和运行 183
附录B MPICH的安装 184
附录C MPI网站 190
附录D MPI函数索引 191
附录E 术语中英文对照及索引 194