-
内容大纲
本书由校企“双元”合作开发,以企业真实项目的实施流程为主线,通过“电商平台用户行为数据分析”项目实战,贯穿Hadoop大数据核心技术,包括项目需求、大数据平台部署、数据采集、离线数据仓库设计与开发和项目数据可视化展示。
本书内容主要涉及VMware、Xshell、IDEA等软件的安装配置;Hadoop分布式集群环境搭建;Flume、Kafka、Hive、Sqoop、ZooKeeper等Hadoop生态组件的基本工作原理、搭建及配置方法;使用Flume-Kafka-Flume架构实现数据采集;Hive离线数据仓库的设计与开发;使用pyecharts工具进行数据可视化展示。
本书可以作为高等职业院校大数据、云计算、软件技术等相关专业教材,也可以作为从事大数据平台运维、大数据分析、云计算应用等技术人员的参考用书。 -
作者介绍
-
目录
绪论
学习目标
重点难点
学习方法
思考与练习
模块1 项目需求
学习目标
项目概述
1.1 项目业务背景
1.2 项目实施计划
1.2.1 项目实施流程规划
1.2.2 技术选型及版本
1.2.3 项目实施的教学路径
1.3 项目数据字典介绍
1.3.1 数据源数据结构字典
1.3.2 Hive表数据字典
素养园地
项目总结
思考与练习
模块2 大数据平台部署
学习目标
项目概述
2.1 大数据相关开发软件安装
2.2 Linux系统环境配置
2.2.1 安装虚拟机
2.2.2 克隆虚拟机
2.2.3 虚拟机免密码登录配置
2.2.4 Linux项目路径规划
2.3 Hadoop分布式集群环境搭建
2.3.1 JDK安装配置
2.3.2 Hadoop框架介绍及组成
2.3.3 HDFS集群配置
2.3.4 YARN集群配置
2.3.5 HDFS Shell命令行操作
2.3.6 HDFS客户端开发环境配置及测试
2.3.7 HDFS API基本操作
2.3.8 MapReduce原理
2.3.9 MapReduce案例——词频统计
2.4 Hive数据仓库服务配置
2.4.1 MySQL环境配置
2.4.2 Hive环境配置
2.4.3 Hive与MySQL整合操作及Hive服务启动
2.4.4 HQL语句基本操作
2.4.5 HQL统计分析案例
2.5 Flume原理及安装部署
2.6 Sqoop原理及应用
2.6.1 Sqoop原理及安装部署
2.6.2 Sqoop数据迁移案例
2.7 ZooKeeper集群环境搭建
2.8 Kafka集群环境搭建及应用
2.8.1 Kafka集群环境搭建
2.8.2 Kafka常用命令及使用方法
素养园地
项目总结
思考与练习
模块3 数据采集
学习目标
项目概述
3.1 项目数据源及产生方法
3.2 Flume脚本设计
3.2.1 Flume采集原理及流程
3.2.2 Flume数据采集脚本设计
3.2.3 拦截器链的创建流程
3.2.4 ETL拦截器业务逻辑分析
3.2.5 分流标记拦截器业务逻辑分析
3.2.6 Flume数据采集执行脚本及实现
3.2.7 Flume数据消费脚本设计
3.2.8 Flume数据消费执行脚本及实现
素养园地
项目总结
思考与练习
模块4 离线数据仓库设计与开发
学习目标
项目概述
4.1 离线数据仓库概述
4.2 ODS层设计与开发
4.3 DWD层设计与开发
4.3.1 项目JSON解析函数及应用
4.3.2 启动日志表设计及数据加载
4.4 DWS层设计与开发
4.5 DWT层设计与开发
4.5.1 HQL关联查询(1)
4.5.2 HQL关联查询(2)
4.5.3 HQL关联查询(3)
4.5.4 设备主题表设计及数据加载
4.6 ADS层设计与开发
4.6.1 活跃用户数据表设计及数据加载
4.6.2 每日新增用户数据表设计及数据加载
4.6.3 沉默用户数据表设计及数据加载
4.6.4 本周回流用户数据表设计及数据加载
4.6.5 用户留存率数据表设计及数据加载
素养园地
项目总结
思考与练习
模块5 项目数据可视化展示
学习目标
项目概述
5.1 创建MySQL数据表
5.1.1 大数据报表系统
5.1.2 MySQL数据表的创建
5.2 Sqoop数据迁移
5.3 数据可视化
5.3.1 pyecharts可视化工具介绍
5.3.2 导入数据、绘制大屏标题
5.3.3 绘制柱状图
5.3.4 绘制象形柱状图、水球图
5.3.5 绘制柱状图与折线图的叠加图
5.3.6 绘制轮播图
5.3.7 数据大屏展示
素养园地
项目总结
思考与练习
课程学习成果评价
参考文献
同类热销排行榜
- C语言与程序设计教程(高等学校计算机类十二五规划教材)16
- 电机与拖动基础(教育部高等学校自动化专业教学指导分委员会规划工程应用型自动化专业系列教材)13.48
- 传感器与检测技术(第2版高职高专电子信息类系列教材)13.6
- ASP.NET项目开发实战(高职高专计算机项目任务驱动模式教材)15.2
- Access数据库实用教程(第2版十二五职业教育国家规划教材)14.72
- 信号与系统(第3版下普通高等教育九五国家级重点教材)15.08
- 电气控制与PLC(普通高等教育十二五电气信息类规划教材)17.2
- 数字电子技术基础(第2版)17.36
- VB程序设计及应用(第3版十二五职业教育国家规划教材)14.32
- Java Web从入门到精通(附光盘)/软件开发视频大讲堂27.92
推荐书目
-

孩子你慢慢来/人生三书 华人世界率性犀利的一枝笔,龙应台独家授权《孩子你慢慢来》20周年经典新版。她的《...
-

时间简史(插图版) 相对论、黑洞、弯曲空间……这些词给我们的感觉是艰深、晦涩、难以理解而且与我们的...
-

本质(精) 改革开放40年,恰如一部四部曲的年代大戏。技术突变、产品迭代、产业升级、资本对接...
[
