高级版Spark-Streaming
文章平均质量分 82
zhikanjiani
这个作者很懒,什么都没留下…
展开
-
大数据实战三十一课 - Spark Streaming03
第一章: 上次课回顾第一二章: Kafka和Spark Streaming的整合第一章:上次课回顾https://blog.csdn.net/zhikanjiani/article/details/100412389两大重点:不管写到MySQL、HBase、Redis这几种数据库中,都需要记住是哪三步走。Executor和Driver,在Driver端有的话会无法被序列化;每一...原创 2019-09-05 22:39:40 · 460 阅读 · 0 评论 -
大数据实战三十课-Spark Streaming02
一、 上次课回顾一、上次课回顾https://blog.csdn.net/zhikanjiani/article/details/100191911我们要明白SparkStreaming是对core的一个扩展,Spark来讲,是以批处理为主,用微批处理来处理流数据Flink:以流处理为主,用流处理来处理批数据数据是从外部接进来:注意有无Receiver(local[1]和local[2...原创 2019-09-03 22:16:35 · 288 阅读 · 0 评论 -
大数据实战二十九课-Spark Streaming01
一、 上次课回顾第一章:初识Spark Streaming第二章:Spark Streaming写WC一、上次课回顾主要是Flume01中的课程回顾:主要是source、sink的选择,生产上只有两个sink:Sink --> HDFS(离线)、Sink --> Kafka(实时)注意:提交Spark作业,配置的时候提交中带" \ "符可能会出问题TailDir只要遇到一...原创 2019-09-02 16:42:59 · 626 阅读 · 0 评论