课程概述

1468 未经授权,禁止转载了解课程
课程介绍
讨论{{interaction.discussNum ? '(' + interaction.discussNum + ')' : ''}}
适合人群
已掌握Hadoop的基础知识、并想进一步掌握Avro序列化机制的学员
你将会学到
学习avro工具的作用以及相关定义,并且可以结合Hadoop实现Avro的MapReduce操作
课程简介


购买大数据Hadoop课程套餐,享八五折优惠!!

套餐地址:https://edu.51cto.com/topic/1155.html   


赵渝强老师博客地址:http://collen7788.blog.51cto.com/


Avro是一个通用的序列化数据结构形式,在Hadoop大数据开发之中有着重要的通用结构化作用,本课程将为读者讲解Avro数据结构的定义,并且实现AVRO程序,同时为读者讲解如何基于Avro实现Java数据的序列化与反序列化处理操作;同时,将为学员详细介绍Avro RPC的实现和在MapReduce中如何使用Avro序列化。


本系列课程共包含以下六门课程:
1、Hadoop 2.x (一)大数据基础
    
https://edu.51cto.com/course/course_id-6704.html 

2、Hadoop 2.x (二)大数据进阶
     
https://edu.51cto.com/course/course_id-6705.html 

3、Hadoop 2.x (三) 数据分析引擎:Hive
     
https://edu.51cto.com/course/course_id-6706.html 

4、Hadoop 2.x (四)数据分析引擎:Pig
     
https://edu.51cto.com/course/course_id-6707.html 


5、Hadoop 2.x(五)  MapReduce实战案例集锦 

     https://edu.51cto.com/course/course_id-8288.html 
 

6、Hadoop 2.x(六)  使用Avro实现序列化 

     https://edu.51cto.com/course/course_id-8978.html 


7、Hadoop 2.x (七):工作流引擎Oozie

      https://edu.51cto.com/course/10353.html 


建议学员从第一门课程开始,逐步学习;并完成相应的实验,这样可以更好的理解和学习Hadoop的体系结构。

《Hadoop 2.x(六)  使用Avro实现序列化》课程大纲


第一章 课程概述和Avro基础
(*)课程概述
(*)Java的序列化

(*)Hadoop的序列化

(*)Avro的数据类型和Schema


第二章 在Java序列化中使用Avro
(*)使用Schema实现Java的序列化

(*)使用Schema实现Java的反序列化

(*)使用Avro Tools生成Schema生成类实现Java的序列化

(*)使用Avro Tools生成Schema生成类实现Java的反序列化


第三章 在RPC中使用Avro
(*)知识点回顾:Hadoop中的RPC通信

(*)在RPC使用Avro实现消息的通信之一:定义消息格式Schema

(*)在RPC使用Avro实现消息的通信之二:开发服务器端程序

(*)在RPC使用Avro实现消息的通信之三:开发客户端端程序


第四章 在MapReduce中使用Avro
(*)知识点回顾:Hadoop中的MapReduce

(*)在MapReduce中使用Avro之一:定义数据格式Schema

(*)在MapReduce中使用Avro之二:开发Mapper端程序

(*)在MapReduce中使用Avro之三:开发Reducer端程序

(*)在MapReduce中使用Avro之四:开发Job主程序端程序

(*)在MapReduce中使用Avro之五:运行测试

(*)在MapReduce任务中使用Schema的生成类

展开更多
发布
头像

{{ item.user.nick_name }} {{ EROLE_NAME[item.user.identity] }}

置顶笔记
讨论图
{{ item.create_time }}回复
  • 删除

    是否确认删除?

    确认
    取消
  • {{ item.is_top == 1 ? '取消置顶' : '置顶'}}

    已有置顶的讨论,是否替换已有的置顶?

    确认
    取消
{{ tag.text}}
头像
{{ subitem.user.nick_name }}{{ EROLE_NAME[subitem.user.identity] }}
{{ subitem.create_time }}回复
删除

是否确认删除?

确认
取消
发布
{{pageType === 'video' ? '讨论区抢占沙发,可获得双倍学分' :'讨论区空空如也,你来讲两句~'}}
发布
{{tips.text}}
{{ noteHeaderTitle }} 笔记{{ hasMyNote ? '我的笔记' : '记笔记' }}
{{ hasMyNote ? '我的笔记' : '记笔记' }}
优质笔记
更新于:{{ $dayjs.formate('YYYY-MM-DD HH:mm:ss', item.last_uptime*1000) }}
头像
{{ detail.username }}

公开笔记对他人可见,有机会被管理员评为“优质笔记”

{{ noteEditor.content.length }}/2000

公开笔记
保存
提问

讲师收到你的提问会尽快为你解答。若选择公开提问,可以获得更多学员的帮助。

记录时间点
记录提问时视频播放的时间点,便于后续查看
公开提问
提交