数据Hadoop佳实践培训
培训内容
第一部分
第1个主题:Hadoop思考
1.Hadoop的设计目标和适用场景
2.Hadoop架构解析
3.MapReduce工作原理和案例说明
第2个主题:Hadoop集群与管理
1、 Hadoop集群的搭建
2、 Hadoop集群的监控
3、 Hadoop集群的管理
4、 集群下运行MapReduce程序
第3主题:彻底掌握HDFS (具备修改HDFS具体源码实现的能力)
1、HDFS体系架构剖析
2、NameNode、DataNode、SecondaryNameNode架构
3、保证NodeName高可靠性佳实践
4、DataNode中Block划分的原理和具体存储方式
5、修改Namenode、DataNode数据存储位置
6、使用CLI操作HDFS
7、使用Java操作HDFS
第4主题:彻底掌握HDFS (具备修改HDFS具体源码实现的能力)
1、RPC架构剖析
2、源码剖析Hadoop构建于RPC之上
3、源码剖析HDFS的RPC实现
4、源码剖析客户端与与NameNode的RPC通信
第5个主题:彻底掌握MapReduce(从代码的角度剖析MapReduce执行的具体过程并具备开发MapReduce代码的能力)
1、MapReduce执行的经典步骤
2、wordcount运行过程解析
3、Mapper和Reducer剖析
4、自定义Writable
5、新旧API的区别以及如何使用就API
6、把MapReduce程序打包成Jar包并在命令行运行
第6个主题:彻底掌握MapReduce(具备掌握Hadoop如何把HDFS文件转化为Key-Value让供Map调用的能力)
1、 Hadoop是如何把HDFS文件转化为键值对的?
2、 源码剖析Hadoop读取HDFS文件并转化为键值对的过程实现
3、 源码剖析转化为键值对后供Map调用的过程实现
第7个主题:彻底掌握MapReduce(具备掌握MapReduce内部运行和实现细节并改造MapReduce的能力)
1、 Hadoop内置计数器及如何自定义计数器
2、 Combiner具体的作用和使用以及其使用的限制条件
3、 Partitioner的使用佳实践
4、 Hadoop内置的排序算法剖析
5、 自定义排序算法
6、 Hadoop内置的分组算法
7、 自定义分组算法
8、 MapReduce常见场景和算法实现
第二部分
第1个主题:HBase架构设计和实现剖析
1、 HBase定义
2、 HBase与RDBMS的对比
3、 数据模型
4、 系统架构
5、 HBase上的MapReduce
6、 表的设计
第2个主题:HBase集群及其管理
1、 集群的搭建过程讲解
2、 集群的监控
3、 集群的管理
第3个主题:HBase客户端
1、 HBase Shell以及演示
2、 Java客户端以及代码演示
第4个主题:HBase案例实战1---使用HBase实现微博系统
1. 项目架构和设计
2. 开发环境搭建
3. 实现用户登录和注销
4.“关注”功能的设计和实现
5.“发微博”功能的设计和实现
6.发布和运行整个基于HBase的微博系统
第5个主题:HBase与MapReduce
1. HBase与MapReduce的关系
2. HBase如何使用MapReduce
第6个主题:HBase案例实战2---话单查询与统计
1. 项目架构设计
2. 开发环境搭建
3. 话单入库和查询的设计与实现
4.统计功能的设计与实现
第7个主题:安装和使用Hive
1. Hive剖析
2. 安装Hive
3.Hive的基本使用
第8个主题:Hive与HDFS、MapReduce
1. Hive向HDFS存入结构化数据
2. 使用MySQL作为Hive的元数据库
3.Hive与MapReduce
第三部分
第1个主题:Hive
1. Hive的Java扩展开发
2. Hive UDF和UDAF开发
3. Hive常见场景,实战练习
第2个主题:Hive案例实战---数据统计
1. 项目架构设计
2. 表结构设计
3.数据的插入与统计实现
第3个主题:Sqoop
1. Sqoop原理
2. Sqoop使用详解
3. 用Sqoop实现HDFS/Hive与关系数据库的数据交互
4. 用Sqoop实现HBase与关系数据库的数据交互
第4个主题:电商业日志流量分析项目
电商业日志流量分析项目,互联网企业对海量日志的分析是Hadoop应用的一个重要用途,也是对网站流量、客户行为分析的重要途径。该项目整合Hive、Hbase、Sqoop等常用组件,涉及从后台处理到前台呈现的每一个技术环节。包括:
1·业务需求介绍
2·数据建模
3·后台算法设计
4·后台业务处理
5·前台WEB展示等
第5个主题:Hadoop开发者之路
1. Hadoop技能模型
2. Hadoop开发者佳学习路线和方式
3.Hadoop开发者佳成长路线 |