Hadoop大数据挖掘从入门到进阶实战 视频教学版PDF电子书下载

第1章 集群及开发环境搭建 1

1.1 环境准备 1

1.1.1 基础软件下载 1

1.1.2 准备Linux操作系统 2

1.2 安装Hadoop 4

1.2.1 基础环境配置 4

1.2.2 Zookeeper部署 7

1.2.3 Hadoop部署 9

1.2.4 效果验证 21

1.2.5 集群架构详解 24

1.3 Hadoop版Hello World 25

1.3.1 Hadoop Shell介绍 25

1.3.2 WordCount初体验 27

1.4 开发环境 28

1.4.1 搭建本地开发环境 28

1.4.2 运行及调试预览 31

1.5 小结 34

第2章 实战：快速构建一个Hadoop项目并线上运行 35

2.1 构建一个简单的项目工程 35

2.1.1 构建Java Project结构工程 35

2.1.2 构建Maven结构工程 36

2.2 操作分布式文件系统（HDFS） 39

2.2.1 基本的应用接口操作 39

2.2.2 在高可用平台上的使用方法 42

2.3 利用IDE提交MapReduce作业 43

2.3.1 在单点上的操作 43

2.3.2 在高可用平台上的操作 46

2.4 编译应用程序并打包 51

2.4.1 编译Java Project工程并打包 51

2.4.2 编译Maven工程并打包 55

2.5 部署与调度 58

2.5.1 部署应用 58

2.5.2 调度任务 59

2.6 小结 60

第3章 Hadoop套件实战 61

3.1 Sqoop——数据传输工具 61

3.1.1 背景概述 61

3.1.2 安装及基本使用 62

3.1.3 实战：在关系型数据库与分布式文件系统之间传输数据 64

3.2 Flume——日志收集工具 66

3.2.1 背景概述 67

3.2.2 安装与基本使用 67

3.2.3 实战：收集系统日志并上传到分布式文件系统（HDFS）上 72

3.3 HBase——分布式数据库 74

3.3.1 背景概述 74

3.3.2 存储架构介绍 75

3.3.3 安装与基本使用 75

3.3.4 实战：对HBase业务表进行增、删、改、查操作 79

3.4 Zeppelin——数据集分析工具 85

3.4.1 背景概述 85

3.4.2 安装与基本使用 85

3.4.3 实战：使用解释器操作不同的数据处理引擎 88

3.5 Drill——低延时SQL查询引擎 92

3.5.1 背景概述 93

3.5.2 安装与基本使用 93

3.5.3 实战：对分布式文件系统（HDFS）使用SQL进行查询 95

3.5.4 实战：使用SQL查询HBase数据库 99

3.5.5 实战：对数据仓库（Hive）使用类实时统计、查询操作 101

3.6 Spark——实时流数据计算 104

3.6.1 背景概述 104

3.6.2 安装部署及使用 105

3.6.3 实战：对接Kafka消息数据，消费、计算及落地 108

3.7 小结 114

第4章 Hive编程——使用SQL提交MapReduce任务到Hadoop集群 115

4.1 环境准备与Hive初识 115

4.1.1 背景介绍 115

4.1.2 基础环境准备 116

4.1.3 Hive结构初识 116

4.1.4 Hive与关系型数据库（RDBMS） 118

4.2 安装与配置Hive 118

4.2.1 Hive集群基础架构 119

4.2.2 利用HAProxy实现Hive Server负载均衡 120

4.2.3 安装分布式Hive集群 123

4.3 可编程方式 126

4.3.1 数据类型 126

4.3.2 存储格式 128

4.3.3 基础命令 129

4.3.4 Java编程语言操作数据仓库（Hive） 131

4.3.5 实践Hive Streaming 134

4.4 运维和监控 138

4.4.1 基础命令 138

4.4.2 监控工具Hive Cube 140

4.5 小结 143

第5章 游戏玩家的用户行为分析——特征提取 144

5.1 项目应用概述 144

5.1.1 场景介绍 144

5.1.2 平台架构与数据采集 145

5.1.3 准备系统环境和软件 147

5.2 分析与设计 148

5.2.1 整体分析 148

5.2.2 指标与数据源分析 149

5.2.3 整体设计 151

5.3 技术选型 153

5.3.1 套件选取简述 154

5.3.2 套件使用简述 154

5.4 编码实践 157

5.4.1 实现代码 157

5.4.2 统计结果处理 163

5.4.3 应用调度 169

5.5 小结 174

第6章 Hadoop平台管理与维护 175

6.1 Hadoop分布式文件系统（HDFS） 175

6.1.1 HDFS特性 175

6.1.2 基础命令详解 176

6.1.3 解读NameNode Standby 179

6.2 Hadoop平台监控 182

6.2.1 Hadoop日志 183

6.2.2 常用分布式监控工具 187

6.3 平台维护 196

6.3.1 安全模式 196

6.3.2 节点管理 198

6.3.3 HDFS快照 200

6.4 小结 203

第7章 Hadoop异常处理解决方案 204

7.1 定位异常 204

7.1.1 跟踪日志 204

7.1.2 分析异常信息 208

7.1.3 阅读开发业务代码 209

7.2 解决问题的方式 210

7.2.1 搜索关键字 211

7.2.2 查看Hadoop JIRA 212

7.2.3 阅读相关源码 213

7.3 实战案例分析 216

7.3.1 案例分析1：启动HBase失败 216

7.3.2 案例分析2：HBase表查询失败 219

7.3.3 案例分析3：Spark的临时数据不自动清理 222

7.4 小结 223

第8章 初识Hadoop核心源码 224

8.1 基础准备与源码编译 224

8.1.1 准备环境 224

8.1.2 加载源码 228

8.1.3 编译源码 230

8.2 初识Hadoop 2 233

8.2.1 Hadoop的起源 233

8.2.2 Hadoop 2源码结构图 234

8.2.3 Hadoop模块包 235

8.3 MapReduce框架剖析 236

8.3.1 第一代MapReduce框架 236

8.3.2 第二代MapReduce框架 238

8.3.3 两代MapReduce框架的区别 239

8.3.4 第二代MapReduce框架的重构思路 240

8.4 序列化 241

8.4.1 序列化的由来 242

8.4.2 Hadoop序列化 243

8.4.3 Writable实现类 245

8.5 小结 247

第9章 Hadoop通信机制和内部协议 248

9.1 Hadoop RPC概述 248

9.1.1 通信模型 248

9.1.2 Hadoop RPC特点 250

9.2 Hadoop RPC的分析与使用 251

9.2.1 基础结构 251

9.2.2 使用示例 257

9.2.3 其他开源RPC框架 264

9.3 通信协议 266

9.3.1 MapReduce通信协议 266

9.3.2 RPC协议的实现 273

9.4 小结 277

第10章 Hadoop分布式文件系统剖析 278

10.1 HDFS介绍 278

10.1.1 HDFS概述 278

10.1.2 其他分布式文件系统 282

10.2 HDFS架构剖析 283

10.2.1 设计特点 283

10.2.2 命令空间和节点 285

10.2.3 数据备份剖析 289

10.3 数据迁移实战 292

10.3.1 HDFS跨集群迁移 292

10.3.2 HBase集群跨集群数据迁移 297

10.4 小结 301

第11章 ELK实战案例——游戏应用实时日志分析平台 302

11.1 Logstash——实时日志采集、分析和传输 302

11.1.1 Logstash介绍 302

11.1.2 Logstash安装 306

11.1.3 实战操作 308

11.2 Elasticsearch——分布式存储及搜索引擎 309

11.2.1 应用场景 309

11.2.2 基本概念 310

11.2.3 集群部署 312

11.2.4 实战操作 317

11.3 Kibana——可视化管理系统 323

11.3.1 Kibana特性 324

11.3.2 Kibana安装 324

11.3.3 实战操作 328

11.4 实时日志分析平台案例 331

11.4.1 案例概述 331

11.4.2 平台体系架构与剖析 332

11.4.3 实战操作 334

11.5 小结 339

第12章 Kafka实战案例——实时处理游戏用户数据 340

12.1 应用概述 340

12.1.1 Kafka回顾 340

12.1.2 项目简述 347

12.1.3 Kafka工程准备 348

12.2 项目的分析与设计 349

12.2.1 项目背景和价值概述 349

12.2.2 生产模块 350

12.2.3 消费模块 352

12.2.4 体系架构 352

12.3 项目的编码实践 354

12.3.1 生产模块 354

12.3.2 消费模块 356

12.3.3 数据持久化 362

12.3.4 应用调度 364

12.4 小结 369

第1 3章 Hadoop拓展——Kafka剖析 370

13.1 Kafka开发与维护 370

13.1.1 接口 370

13.1.2 新旧API编写 372

13.1.3 Kafka常用命令 380

13.2 运维监控 383

13.2.1 监控指标 384

13.2.2 Kafka开源监控工具——Kafka Eagle 384

13.3 Kafka源码分析 391

13.3.1 源码工程环境构建 391

13.3.2 分布式选举算法剖析 394

13.3.3 Kafka Offset解读 398

13.3.4 存储机制和副本 398

13.4 小结 402