【案例】使用Python编写MapReduce代码求最低温度

2106 未经授权,禁止转载了解课程
课程介绍
讨论{{interaction.discussNum ? '(' + interaction.discussNum + ')' : ''}}
适合人群
Python开发者, 大数据开发者, Hadoop开发者, 零基础初学者
你将会学到
零基础学习使用Python编写Hadoop代码,学习使用Hadoop构建电商相似商品推荐引擎,学习Hadoop的架构原理和使用场景,贯穿课程的项目进行实战锻炼,熟练使用Hadoop进行MapReduce程序开发。课程还涵盖了分布式计算领域的常用算法,帮助学员为企业在利用大数据方面体现自身价值。
课程简介

Hadoop是大数据平台处理的框架的基石,尤其在海量数据的存储HDFS、分布式资源管理和任务调度YARN及分布式计算框架MapReduce。现在Hadoop已经在大中小企业中广泛使用,Hadoop工程师的需求量也越来越大。

 

随着Python在数据分析、大数据和人工智能的广泛使用,越来越多的企业选择使用Python来编写Hadoop代码,从而达到代码的统一性。而目前市面上的Hadoop基本上是使用Java来写的。为适应更多企业的实际需求,特此推出Python大数据之Hadoop编程基础与提升系列课程。

 

本课程由清华学神51CTO高级讲师刘声老师亲自手把手零基础授课,内容详实,深入浅出。学员可在两周内学习大数据Hadoop开发的Python编程技术,使用Python快速写出强大的Hadoop应用。

 

通过本课程的学习,学员可学习Hadoop的架构原理和使用场景,并通过贯穿课程的项目进行实战锻炼,从而熟练使用Hadoop进行MapReduce程序开发。课程还涵盖了分布式计算领域的常用算法介绍,帮助学员为企业在利用大数据方面体现自身价值。


此外,学员还可以学习刘声老师的另一个大数据课程《Python大数据之Spark编程基础与提升》https://edu.51cto.com/course/12649.html 


课程目录

一、Hadoop入门

hadoop介绍


二、Hadoop之HDFS

hadoop HDFS指令全解析

启动hadoop的方法与注意事项

 

三、Hadoop之MapReduce

Mapreduce -Python编程原理+实战

在Hadoop集群中实际运行MapReduce

【案例】使用Python编写MapReduce代码求最低温度

【案例】分析好友交际关系

Hadoop中的Shuffle&Sort原理与应用

 

四、多级MapReduce任务组合级联

MRstep构建多级MapReduce原理与实例

【案例】使用多级MapReduce分析城市年薪数据

 

五、Hadoop中Combiner的原理与应用

Combiner的原理解析

多级MapReduce任务的combiner

【案例】使用combiner分析顾客数据

【案例】分析漫威漫画英雄关系

【扩展】Hadoop参数解析

 

六、企业大项目实战:使用Hadoop构建电影推荐引擎

电影相似度的数学原理——余弦相似度

【大项目】使用Python+Hadoop编写电影推荐引擎代码

 

七、附:Python Hadoop作业与解答

作业解答:商品数据分析


展开更多
发布
头像

{{ item.user.nick_name }} {{ EROLE_NAME[item.user.identity] }}

置顶笔记
讨论图
{{ item.create_time }}回复
  • 删除

    是否确认删除?

    确认
    取消
  • {{ item.is_top == 1 ? '取消置顶' : '置顶'}}

    已有置顶的讨论,是否替换已有的置顶?

    确认
    取消
{{ tag.text}}
头像
{{ subitem.user.nick_name }}{{ EROLE_NAME[subitem.user.identity] }}
{{ subitem.create_time }}回复
删除

是否确认删除?

确认
取消
发布
{{pageType === 'video' ? '讨论区抢占沙发,可获得双倍学分' :'讨论区空空如也,你来讲两句~'}}
发布
{{tips.text}}
{{ noteHeaderTitle }} 笔记{{ hasMyNote ? '我的笔记' : '记笔记' }}
{{ hasMyNote ? '我的笔记' : '记笔记' }}
优质笔记
更新于:{{ $dayjs.formate('YYYY-MM-DD HH:mm:ss', item.last_uptime*1000) }}
头像
{{ detail.username }}

公开笔记对他人可见,有机会被管理员评为“优质笔记”

{{ noteEditor.content.length }}/2000

公开笔记
保存
提问

讲师收到你的提问会尽快为你解答。若选择公开提问,可以获得更多学员的帮助。

记录时间点
记录提问时视频播放的时间点,便于后续查看
公开提问
提交