美文网首页
spark从入门到放弃四十五:Spark Streaming(5

spark从入门到放弃四十五:Spark Streaming(5

作者: 意浅离殇 | 来源:发表于2018-05-09 08:00 被阅读0次

文章地址:http://www.haha174.top/article/details/251607
有两种创建StreamingContext的方式
1就是之前用的

 val conf = new SparkConf().setAppName("WorldCountStreaming").setMaster("local[2]")
   
    val jssc = new StreamingContext(conf, Durations.seconds(5))
   
val sc=new SparkContext(conf)
val ssc=new StreamingContext(sc,Durations.seconds(5))

appName 应用名称,master 是spark mesos 或者yarn 的url

batch interval 可以根据你的应用程序的延迟要求以及可用的集群资源情况来设置。

JavaStreamingcontext 还可以使用已有的JavaSparkContext来创建

一个StreamingContext 定义之后必须做以下几件事情
1.通过创建输入DStream 来创建输入数据源。
2.通过对Dstream 定义transformation 和output 算子操作,来定义实时计算逻辑。
3.调用Streamcontext 的start 方法来开始实时处理数据。
4.调用StreamingContext 的awaitTermination 方法,来等待应用程序的终止。开始使用CTRL+C 手动停止,或者就是让他持续不点的运行计算逻辑
5.也可以通过调用StreamingContext 的stop 方法,来停止应用程序。

需要注意的点
1.只要一个Streamingcontext 启动之后,就不能在往其中添加任何的计算逻辑了,比如执行了某个DStream 执行一个算子。
2.一个Streamcontext 停止之后,是肯定不能重启的,调用stop 之后,不能在调用start 方法。
3.一个jvm 同时只能有一个StreamingContext 启动,在你的应用程序中,不能创建两个StreamingContext,
4.调用stop 方法时,会停止内部的SparkContext 如果不希望如此,还希望后面继续使用SparkContext 创建的其他类型的Contrext 比如Sql context 那么就是用stop(false)

  1. 一个Spark Context 可以同时创建多个StreamingContext只要上一个先用stop(false) 停止那么在创建下一个即可
欢迎关注,更多福利
----
![这里写图片描述](https://img.haomeiwen.com/i7822142/23641a8df1ead152.jpg?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

相关文章

网友评论

      本文标题:spark从入门到放弃四十五:Spark Streaming(5

      本文链接:https://www.haomeiwen.com/subject/ucogrftx.html