数据重新分区概述

5974 未经授权,禁止转载了解课程
课程介绍
讨论{{interaction.discussNum ? '(' + interaction.discussNum + ')' : ''}}
适合人群
有 Scala 语言以及 Hadoop 基础的同学
你将会学到
学习分布式内存计算引擎 Spark
课程简介

Spark 是现在非常流行、使用范围最广泛的大数据分布式计算技术,是做大数据开发必备的一项技能。


本课程主要是由浅入深的讲解 Spark 核心知识点,内容如下:

一、Spark 集群和开发环境的搭建

二、站在 high level 上理解 Spark

三、讲解 Spark RDD 的分布式计算原理和特点,以及常用的 API

四、项目实战:会话切割

五、阶段实战:TopN、数据倾斜等问题的解决

六、正确提交 Spark 应用,重点讲解 Spark On Yarn

七、Spark 中的应用、任务的调度机制(面试必问)


展开更多
发布
头像

{{ item.user.nick_name }} {{ EROLE_NAME[item.user.identity] }}

置顶笔记
讨论图
{{ item.create_time }}回复
  • 删除

    是否确认删除?

    确认
    取消
  • {{ item.is_top == 1 ? '取消置顶' : '置顶'}}

    已有置顶的讨论,是否替换已有的置顶?

    确认
    取消
{{ tag.text}}
头像
{{ subitem.user.nick_name }}{{ EROLE_NAME[subitem.user.identity] }}
{{ subitem.create_time }}回复
删除

是否确认删除?

确认
取消
发布
{{pageType === 'video' ? '讨论区抢占沙发,可获得双倍学分' :'讨论区空空如也,你来讲两句~'}}
发布
{{tips.text}}
{{ noteHeaderTitle }} 笔记{{ hasMyNote ? '我的笔记' : '记笔记' }}
{{ hasMyNote ? '我的笔记' : '记笔记' }}
优质笔记
更新于:{{ $dayjs.formate('YYYY-MM-DD HH:mm:ss', item.last_uptime*1000) }}
头像
{{ detail.username }}

公开笔记对他人可见,有机会被管理员评为“优质笔记”

{{ noteEditor.content.length }}/2000

公开笔记
保存
提问

讲师收到你的提问会尽快为你解答。若选择公开提问,可以获得更多学员的帮助。

记录时间点
记录提问时视频播放的时间点,便于后续查看
公开提问
提交