云计算与分布式系统 从并行处理到物联网PDF电子书下载

第一部分 系统建模、集群化和虚拟化第1章 分布式系统模型和关键技术 2

1.1 互联网之上的可扩展计算 2

1.1.1 互联网计算的时代 2

1.1.2 可扩展性计算趋势和新的范式 5

1.1.3 物联网和CPS 7

1.2 基于网络的系统技术 8

1.2.1 多核CPU和多线程技术 9

1.2.2 大规模和超大规模GPU计算 11

1.2.3 内存、外部存储和广域网 13

1.2.4 虚拟机和虚拟化中间件 15

1.2.5 云计算的数据中心虚拟化 17

1.3 分布式和云计算系统模型 18

1.3.1 协同计算机集群 19

1.3.2 网格计算的基础设施 20

1.3.3 对等网络家族 22

1.3.4 互联网上的云计算 23

1.4 分布式系统和云计算软件环境 25

1.4.1 面向服务的体系结构（SOA） 25

1.4.2 分布式操作系统趋势 28

1.4.3 并行和分布式编程模型 29

1.5 性能、安全和节能 31

1.5.1 性能度量和可扩展性分析 31

1.5.2 容错和系统可用性 33

1.5.3 网络威胁与数据完整性 34

1.5.4 分布式计算中的节能 35

1.6 参考文献和习题 37

第2章 可扩展并行计算集群 44

2.1 大规模并行集群 44

2.1.1 集群发展趋势 44

2.1.2 计算机集群的设计宗旨 45

2.1.3 基础集群设计问题 46

2.1.4 Top500超级计算机分析 48

2.2 计算机集群和MPP体系结构 51

2.2.1 集群组织和资源共享 51

2.2.2 节点结构和MPP封装 52

2.2.3 集群系统互连 53

2.2.4 硬件、软件和中间件支持 56

2.2.5 大规模并行GPU集群 56

2.3 计算机集群的设计原则 59

2.3.1 单系统镜像特征 59

2.3.2 冗余高可用性 64

2.3.3 容错集群配置 67

2.3.4 检查点和恢复技术 69

2.4 集群作业和资源管理 71

2.4.1 集群作业调度方法 71

2.4.2 集群作业管理系统 73

2.4.3 集群计算的负载共享设备（LSF） 74

2.4.4 MOSIX:Linux集群和云的操作系统 75

2.5 顶尖超级计算机系统的个案研究 77

2.5.1 Tianhe-1A:2010年的世界最快超级计算机 77

2.5.2 Gray XT5 Jaguar:2009年的领先超级计算机 80

2.5.3 IBM Roadrunner:2008年的领先超级计算机 82

2.6 参考文献和习题 83

第3章 虚拟机和集群与数据中心虚拟化 88

3.1 虚拟化的实现层次 88

3.1.1 虚拟化实现的层次 88

3.1.2 VMM的设计需求和提供商 91

3.1.3 操作系统级的虚拟化支持 91

3.1.4 虚拟化的中间件支持 94

3.2 虚拟化的结构／工具与机制 95

3.2.1 hypervisor与Xen体系结构 95

3.2.2 全虚拟化的二进制翻译 96

3.2.3 编译器支持的半虚拟化技术 97

3.3 CPU、内存和I/O设备的虚拟化 99

3.3.1 虚拟化的硬件支持 99

3.3.2 CPU虚拟化 100

3.3.3 内存虚拟化 101

3.3.4 I/O虚拟化 103

3.3.5 多核处理器的虚拟化 105

3.4 虚拟集群和资源管理 107

3.4.1 物理集群与虚拟集群 107

3.4.2 在线迁移虚拟机的步骤与性能影响 109

3.4.3 内存、文件与网络资源的迁移 111

3.4.4 虚拟集群的动态部署 114

3.5 数据中心的自动化与虚拟化 116

3.5.1 数据中心服务器合并 117

3.5.2 虚拟存储管理 118

3.5.3 虚拟化数据中心的云操作系统 119

3.5.4 虚拟化数据中心的可信管理 121

3.6 参考文献与习题 123

第二部分 云平台、面向服务的体系结构和云编程第4章 构建在虚拟化数据中心上的云平台体系结构 132

4.1 云计算和服务模型 132

4.1.1 公有云、私有云和混合云 132

4.1.2 云生态系统和关键技术 135

4.1.3 基础设施即服务（IaaS） 138

4.1.4 平台即服务（PaaS）和软件即服务（SaaS） 140

4.2 数据中心设计与互连网络 142

4.2.1 仓库规模的数据中心设计 142

4.2.2 数据中心互连网络 144

4.2.3 运送集装器的模块化数据中心 145

4.2.4 模块化数据中心的互连 146

4.2.5 数据中心管理问题 147

4.3 计算与存储云的体系结构设计 148

4.3.1 通用的云体系结构设计 148

4.3.2 层次化的云体系结构开发 150

4.3.3 虚拟化支持和灾难恢复 152

4.3.4 体系结构设计挑战 155

4.4 公有云平台：GAE、AWS和Azure 157

4.4.1 公有云及其服务选项 157

4.4.2 谷歌应用引擎（GAE） 158

4.4.3 亚马逊的Web服务（AWS） 160

4.4.4 微软的Windows Azure 162

4.5 云间的资源管理 162

4.5.1 扩展的云计算服务 163

4.5.2 资源配置和平台部署 164

4.5.3 虚拟机创建和管理 168

4.5.4 云资源的全球交易 171

4.6 云安全与信任管理 173

4.6.1 云安全的防御策略 173

4.6.2 分布式入侵／异常检测 176

4.6.3 数据和软件保护技术 177

4.6.4 数据中心的信誉指导保护 179

4.7 参考文献与习题 181

第5章 面向服务的分布式体系结构 188

5.1 服务和面向服务的体系结构 188

5.1.1 REST和系统的系统 189

5.1.2 服务和Web服务 191

5.1.3 企业多层体系结构 195

5.1.4 网格服务和OGSA 196

5.1.5 其他的面向服务的体系结构和系统 199

5.2 面向消息的中间件 201

5.2.1 企业总线 201

5.2.2 发布-订阅模型和通知 202

5.2.3 队列和消息传递系统 202

5.2.4 云或网格中间件应用 202

5.3 门户和科学网关 204

5.3.1 科学网关样例 205

5.3.2 科学协作的HUBzero平台 206

5.3.3 开放网关计算环境（OGCE） 209

5.4 发现、注册表、元数据和数据库 212

5.4.1 UDDI和服务注册表 212

5.4.2 数据库和订阅-发布 214

5.4.3 元数据目录 215

5.4.4 语义Web和网格 216

5.4.5 作业执行环境和监控 218

5.5 面向服务的体系结构中的工作流 219

5.5.1 工作流的基本概念 219

5.5.2 工作流标准 221

5.5.3 工作流体系结构和规范 222

5.5.4 工作流运行引擎 223

5.5.5 脚本工作流系统Swift 224

5.6 参考文献与习题 226

第6章 云编程和软件环境 234

6.1 云和网格平台的特性 234

6.1.1 云的功能和平台的特性 234

6.1.2 网格和云的公共传统特性 234

6.1.3 数据特性和数据库 237

6.1.4 编程和运行时支持 238

6.2 并行和分布式编程范式 239

6.2.1 并行计算和编程范式 240

6.2.2 MapReduce、Twister和迭代MapReduce 241

6.2.3 来自Apache的Hadoop软件库 248

6.2.4 微软的Dryad和DryadLINQ 251

6.2.5 Sawzall和Pig Latin高级语言 255

6.2.6 并行和分布式系统的映射应用 258

6.3 GAE的编程支持 259

6.3.1 GAE编程 259

6.3.2 谷歌文件系统（GFS） 261

6.3.3 BigTable——谷歌的NOSQL系统 263

6.3.4 Chubby——谷歌的分布式锁服务 265

6.4 亚马逊AWS与微软Azure中的编程 266

6.4.1 亚马逊EC2上的编程 266

6.4.2 亚马逊简单存储服务（S3） 267

6.4.3 亚马逊弹性数据块存储服务（EBS）和SimpleDB 269

6.4.4 微软Azure编程支持 269

6.5 新兴云软件环境 271

6.5.1 开源的Eucalyptus和Nimbus 271

6.5.2 OpenNebula、Sector/Sphere和Open Stack 273

6.5.3 Manjrasoft Aneka云和工具机 276

6.6 参考文献与习题 280

第三部分 网格、P2P和未来互联网 292

第7章 网格计算系统和资源管理 292

7.1 网格体系结构和服务建模 292

7.1.1 网格历史与服务类别 292

7.1.2 CPU清除和虚拟超级计算机 294

7.1.3 开放网格服务体系结构（OGSA） 296

7.1.4 数据密集型网格服务模型 298

7.2 网格项目和网格系统创建 300

7.2.1 国家网格和国际项目 300

7.2.2 美国的NSF TeraGrid 302

7.2.3 欧盟的DataGrid 303

7.2.4 ChinaGrid设计经验 305

7.3 网格资源管理和资源中介 305

7.3.1 资源管理和作业调度 305

7.3.2 CGSP的网格资源监控 307

7.3.3 服务记账和经济模型 308

7.3.4 Gridbus的资源中介 309

7.4 网格计算的软件与中间件 311

7.4.1 开源网格中间件包 311

7.4.2 G1obus Tookit体系结构（GT4） 313

7.4.3 集装器和资源／数据管理 316

7.4.4 ChinaGrid支持平台（CGSP） 318

7.5 网格应用趋势和安全措施 320

7.5.1 网格应用技术融合 320

7.5.2 网格负载与性能预测 322

7.5.3 网格安全执行的信任模型 324

7.5.4 认证与授权方法 326

7.5.5 网格安全基础设施（GSI） 327

7.6 参考文献与习题 330

第8章 对等计算和覆盖网络 336

8.1 P2P计算系统 336

8.1.1 P2P计算系统的基本概念 337

8.1.2 P2P计算面临的基础挑战 340

8.1.3 P2P网络系统分类 344

8.2 P2P覆盖网络及其性质 345

8.2.1 无结构P2P覆盖网络 345

8.2.2 分布式哈希表（DHT） 348

8.2.3 结构化P2P覆盖网络 349

8.2.4 混合式覆盖网络 352

8.3 路由、邻近性和容错 355

8.3.1 P2P覆盖网络的路由 355

8.3.2 P2P覆盖网络中的网络邻近性 356

8.3.3 容错和失效恢复 358

8.3.4 抗扰动与失效 359

8.4 信任、信誉和安全管理 361

8.4.1 节点信任和信誉系统 361

8.4.2 信任覆盖网络和DHT实现 364

8.4.3 Power Trust：可扩展的信誉系统 365

8.4.4 加强覆盖网络安全，抵御DDoS攻击 367

8.5 P2P文件共享和版权保护 368

8.5.1 快速搜索、副本和一致性 368

8.5.2 P2P内容分发网络 372

8.5.3 版权保护问题和解决方案 375

8.5.4 P2P网络中的共谋盗版预防 376

8.6 参考文献与习题 379

第9章 普适云计算、物联网与社会网络 385

9.1 支持普适计算的云趋势 385

9.1.1 云计算在HPC/HTC和普适计算中的应用 385

9.1.2 NASA和CERN的大规模私有云 389

9.1.3 灵活和可扩展的云混搭系统 391

9.1.4 移动云计算平台Cloudlet 394

9.2 分布式系统和云的性能 395

9.2.1 科研云综述 396

9.2.2 数据密集型扩展计算（DISC） 399

9.2.3 HPC/HTC系统的性能指标 400

9.2.4 云计算的服务质量 403

9.2.5 MPI、Azure、EC2、MapReduce、Hadoop的基准测试 404

9.3 物联网关键技术 406

9.3.1 实现普适计算的物联网 406

9.3.2 射频标识（RFID） 408

9.3.3 传感器网络和ZigBee技术 410

9.3.4 全球定位系统（GPS） 413

9.4 物联网创新应用 416

9.4.1 物联网应用 416

9.4.2 零售和供应链管理 416

9.4.3 智能电网和智能建筑 417

9.4.4 信息物理系统（CPS） 419

9.5 在线社会网络和专业网络 420

9.5.1 在线社会网络特征 421

9.5.2 基于图论的社会网络分析 422

9.5.3 社会网络社区和应用 424

9.5.4 Facebook：世界上最大的社会网络 427

9.5.5 Twitter：微博、新闻和提醒服务平台 430

9.6 参考文献与习题 432

索引 439