大数据在线教程-RDD之间的依赖关系

836未经授权,禁止转载
编程公开课spark,rdd,窄依赖,宽依赖,数据依赖,map,filter,flatmap,union,join,血统概念,lineage
视频主要介绍了在Spark中进行SPA开发时,RDD之间的依赖关系,包括窄依赖和宽依赖。窄依赖指的是一个父RDD的分区最多被子RDD的一个分区所使用,而宽依赖则是多个子RDD的分区依赖同一个父RDD的分区。通过举例map、filter、flatMap等操作属于窄依赖,而join操作则可能涉及宽依赖。同时,解释了血统概念lineage,即记录RDD的原数据和转换行为,以便恢复丢失的分区,提高Spark运算效率。
讨论{{interaction.discussNum ? '(' + interaction.discussNum + ')' : ''}}
ad
发布
头像

{{ item.user.nick_name }} {{ EROLE_NAME[item.user.identity] }}

置顶笔记
讨论图
{{ item.create_time }}回复
  • 删除

    是否确认删除?

    确认
    取消
  • {{ item.is_top == 1 ? '取消置顶' : '置顶'}}

    已有置顶的讨论,是否替换已有的置顶?

    确认
    取消
{{ tag.text}}
头像
{{ subitem.user.nick_name }}{{ EROLE_NAME[subitem.user.identity] }}
{{ subitem.create_time }}回复
删除

是否确认删除?

确认
取消
发布
{{pageType === 'video' ? '讨论区抢占沙发,可获得双倍学分' :'讨论区空空如也,你来讲两句~'}}
发布
{{tips.text}}
{{ noteHeaderTitle }} 笔记{{ hasMyNote ? '我的笔记' : '记笔记' }}
{{ hasMyNote ? '我的笔记' : '记笔记' }}
优质笔记
更新于:{{ $dayjs.formate('YYYY-MM-DD HH:mm:ss', item.last_uptime*1000) }}
头像
{{ detail.username }}

公开笔记对他人可见,有机会被管理员评为“优质笔记”

{{ noteEditor.content.length }}/2000

公开笔记
保存
讲师头像
扣丁学堂
扣丁学堂是北京千锋互联科技有限公司旗下的在线教育平台,是中国IT教育O2O模式的优秀品牌。通过线上线下相结合的形式,多方位的服务学员。
TA的课程
接下来播放:
自动连播