什么是Spark Streaming和体系结构
本系列课程将基于RedHat Linux 7.4版本、Hadoop 2.7.3、Spark 2 版本多面介绍大数据的整体内容,让学员深入理解并学习运行机制和原理,从而进一步学习大数据的相关内容。
赵渝强老师博客地址:http://collen7788.blog.51cto.com/
课程说明
==========================================================================
Apache
Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab
(加州大学伯克利分校的AMP实验室)所开源的类Hadoop MapReduce的通用并行框架,Spark,拥有Hadoop
MapReduce所具有的优点;但不同于MapReduce的是——Job中间输出结果可以保存在内存中,从而不再需要读写HDFS,因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。
Spark 是一种与 Hadoop 相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越,换句话说,Spark 启用了内存分布数据集,除了能够提供交互式查询外,它还可以优化迭代工作负载。
Spark 是在 Scala 语言中实现的,它将 Scala 用作其应用程序框架。与 Hadoop 不同,Spark 和 Scala 能够紧密集成,其中的 Scala 可以像操作本地集合对象一样轻松地操作分布式数据集。
赵强老师:大数据系列视频课程
==========================================================================
1、Hadoop大数据迅速学习高级应用系列套餐
https://edu.51cto.com/topic/1155.html
2、Spark 2系列课程视频套餐
https://edu.51cto.com/topic/1258.html
3、大数据消息(Kafka)与实时处理(Storm)系统系列套餐
https://edu.51cto.com/topic/1003.html
4、NoSQL 数据库实战系列视频课程专题(上)
https://edu.51cto.com/topic/955.html
5、NoSQL 数据库实战系列视频课程专题(下)
即将发布
公开笔记对他人可见,有机会被管理员评为“优质笔记”
{{ noteEditor.content.length }}/2000
讲师收到你的提问会尽快为你解答。若选择公开提问,可以获得更多学员的帮助。
课程大纲
- 第一章 Spark Streaming基础
- 1-1试看 Spark Streaming课程概述11:22
- 1-2什么是Spark Streaming和体系结构12:10
- 1-3演示Demo:NetworkWordCount16:19
- 1-4开发自己的NetworkWordCount程序17:21
- 第二章 Spark Streaming进阶
- 2-1StreamingContext和DStream简介15:05
- 2-2DStream中的转换操作21:38
- 2-3窗口操作10:21
- 2-4DStream的输入和输出14:39
- 2-5集成Spark SQL08:18
- 第三章 使用外部数据源
- 3-1集成Spark Streaming和Flume(1)29:40