1 并行程序设计基础知识 1
1．1 引言 1
1．1．1 现代科学技术对计算能力的需求 1
1．1．2 并行处理的发展过程 2
1．1．3 并行程序设计概论 3
1．2 并行程序设计基础知识 5
1．2．1 并行体系结构简介 5
1．2．2 并行模式和依赖关系 7
1．2．3 有关程序并行执行的基本概念 9
1．2．4 有关并行程序性能的基本概念 9
1．3．1 串行计算模型 12
1．3 并行计算模型 12
1．3．2 PRAM 并行计算模型 13
1．3．3 LogP并行计算模型 14
2 依赖性分析技术 17
2．1 数据依赖关系和控制依赖关系 17
2．1．1 程序模型 17
2．1．2 数据依赖关系 19
2．1．3 控制依赖关系 21
2．2 数据依赖关系测试技术 21
2．2．1 精确测试法 24
2．2．2 近似测试法 25
3 向量计算机并行程序设计 28
3．1 向量程序设计语言 28
3．2 向量程序设计 31
3．2．1 程序向量化的依赖关系分析 32
3．2．2 程序向量化方法 33
4 共享存储器多处理机系统并行程序设计 38
4．1 共享存储器并行程序设计的基本问题 38
4．1．1 并行程序的特性 38
4．1．2 任务划分 40
4．1．3 任务调度 41
4．1．4 任务同步 43
4．1．5 任务通讯 48
4．2 并行程序设计语言 48
4．3．1 程序并行化的依赖关系分析 51
4．3 共享存储器并行程序设计 51
4．3．2 宏任务并行程序设计 53
4．3．3 微任务并行程序设计 56
4．3．4 自动任务并行程序设计 58
4．4 SGI多处理机服务器并行程序设计 60
4．4．1 并行编译器f77 的使用 61
4．4．2 自动并行工具PFA的使用 66
4．4．3 程序并行化方法 72
5 分布存储器并行系统的消息传递并行程序设计 72
5．1 基于消息传递的并行程序设计 72
5．1．1 数据并行式的程序 80
5．1．2 函数并行形式的程序 81
5．2 消息传递库 82
5．2．2 全局通讯机制 83
5．2．1 点一点通讯机制 83
5．2．3 并行控制和任务组机制 86
5．2．4 处理机拓朴机制 87
5．2．5 并行I/O机制 87
5．2．6 几个典型消息传递库的比较 88
5．3 PVM并行程序设计 89
5．3．1 PVM 系统概貌 89
5．3．2 生成PVM系统 92
5．3．3 PVM的启动与配置 92
5．3．4 PVM程序的编译和运行 96
5．3．5 PVM消息传递库 97
5．4．1 Express 系统概貌 111
5．4 Express并行程序设计 111
5．4．2 Cubix 和host/node程序设计模式 112
5．4．3 Express 的安装、启动和终止 113
5．4．4 Express 程序的编译和运行 114
5．4．5 Express 消息传递库 116
5．5 网络并行计算中的负载平衡 128
5．5．1 负载平衡的关键问题及其解决办法 128
5．5．2 Express 环境下的动态负载平衡设计 130
6 分布存储器并行系统的数据并行程序设计 133
6．1 数据并行程序设计的基本问题 133
6．1．1 数据并行 133
6．1．2 数据分布 134
6．1．4 处理机拓扑结构 136
6．1．3 任务划分 136
6．1．5 同步通讯 137
6．2 数据并行程序设计语言 137
6．2．1 Cray T3D体系结构概貌 138
6．2．2 数据共享 140
6．2．3 工作共享 151
6．2．4 同步 159
6．2．5 输入和输出 165
6．2．6 编译和运行MPP程序 166
6．2．7 高性能Fortran语言HPF 167
6．3 数据并行程序设计 170
6．3．1 数据分布的几个重要问题 170
6．3．3 通讯优化 173
6．3．2 运算和数据对准的方法 173
6．3．4 负载平衡 175
6．3．5 避免过度串行化 176
6．3．6 如何找相邻的PE 176
7 并行程序调试和性能分析 178
7．1 并行程序调试 178
7．1．1 断点调试 179
7．1．2 事件分析 180
7．1．3 表态分析 181
7．1．4 并行程序调试方法 181
7．2 并行程序性有分析 182
7．2．1 动态性能分析 182
7．2．2 表态性能分析 185
7．2．3 并行程序性能分析方法 185