DataSet 操作案例

5208 未经授权,禁止转载了解课程
课程介绍
讨论{{interaction.discussNum ? '(' + interaction.discussNum + ')' : ''}}
适合人群
本课程适合已经掌握了Spark Core内容的学员。
你将会学到
学习并学习Spark SQL的基础知识,并熟练学习如何使用Spark SQL操作不同的数据源。并学习在集成开发工具中开发Spark SQL的程序。
课程简介


Spark SQL 是一个用来处理结构化数据的spark组件。它提供了一个叫做DataFrames的可编程抽象数据模型,并且可被视为一个分布式的SQL查询引擎。

赵渝强老师博客地址:http://collen7788.blog.51cto.com/


《赵渝强老师:Spark系列视频课程》

===================================================

1、Spark系列视频课程之一:Scala编程语言

     https://edu.51cto.com/course/6724.html 


2、Spark系列视频课程之二:Spark Core

      https://edu.51cto.com/course/10698.html 


3、Spark系列视频课程之三:Spark SQL

      https://edu.51cto.com/course/10796.html 


4、Spark系列视频课程之四:Spark Streaming

      https://edu.51cto.com/course/11066.html 


5、Spark系列视频课程之五:Spark Structured Streaming

      即将发布



===《Spark系列视频课程之三:Spark SQL》课程大纲===


一、Spark SQL基础
    1、Spark SQL的简介
    2、基本概念:DataSets和DataFrames
    3、创建DataFrames
    4、DataFrames操作
    5、Global Temporary view
    6、创建DataSets
    7、DataSets的操作案例

二、使用数据源
    1、通用的load/save函数
    2、Parquet文件
    3、JSON文件
    4、使用JDBC
    5、使用Hive Table

三、性能的优化
    1、在内存中的缓存数据
    2、性能优化相关参数

四、在IDEA中开发Spark SQL程序
    1、案例一:指定的Schema的格式
    2、案例二:使用case class
    3、案例三:将数据保存到关系型数据库中


展开更多
发布
头像

{{ item.user.nick_name }} {{ EROLE_NAME[item.user.identity] }}

置顶笔记
讨论图
{{ item.create_time }}回复
  • 删除

    是否确认删除?

    确认
    取消
  • {{ item.is_top == 1 ? '取消置顶' : '置顶'}}

    已有置顶的讨论,是否替换已有的置顶?

    确认
    取消
{{ tag.text}}
头像
{{ subitem.user.nick_name }}{{ EROLE_NAME[subitem.user.identity] }}
{{ subitem.create_time }}回复
删除

是否确认删除?

确认
取消
发布
{{pageType === 'video' ? '讨论区抢占沙发,可获得双倍学分' :'讨论区空空如也,你来讲两句~'}}
发布
{{tips.text}}
{{ noteHeaderTitle }} 笔记{{ hasMyNote ? '我的笔记' : '记笔记' }}
{{ hasMyNote ? '我的笔记' : '记笔记' }}
优质笔记
更新于:{{ $dayjs.formate('YYYY-MM-DD HH:mm:ss', item.last_uptime*1000) }}
头像
{{ detail.username }}

公开笔记对他人可见,有机会被管理员评为“优质笔记”

{{ noteEditor.content.length }}/2000

公开笔记
保存
提问

讲师收到你的提问会尽快为你解答。若选择公开提问,可以获得更多学员的帮助。

记录时间点
记录提问时视频播放的时间点,便于后续查看
公开提问
提交