Spark Streaming及实时计算介绍

Spark Streaming其实就是Spark提供对于大数据进行实时计算的一种框架。它的底层,其实也是基于Spark Core。基本的计算模型还是基于内存的大数据实时计算模型。而且它的底层的组件或者叫做概念其实还是最核心的RDD。

只不过针对实时计算的特点,在RDD之上进行了一层封装,叫做DStream。其实学过了Spark SQL之后,你理解这种封装就容易了。之前在学习Spark SQL我们也发现,它针对数据查询这种应用,提供了一种基于RDD之上的全新概念DataFrame,但是其底层还是基于RDD的。所以,RDD是整个Spark技术生态中的核心。要学好Spark在交互式查询、实时计算上的应用技术和框架,首先必须学好Spark核心编程,也就是Spark Core。