spark
文章平均质量分 73
beetle_lzk
你知道的越多,你不知道的越多
展开
-
读书笔记之<一> - - - Spark内置RPC框架
Spark内置RPC框架RPC框架的基本架构TransportContext内部包含传输上下文的配置信息 TransportConf 和对客户端请求消息进行处理的RPCHandler。原创 2021-02-02 22:29:47 · 168 阅读 · 0 评论 -
sparkStreaming之流状态更新算子updateStateByKey&mapWithState
闲来无事,看到了updateStateByKey&mapWithState两个算子,本着学而不思则罔,思而不学则殆的精神, 写了个小demo测试了一下加深印象,将他们收入脑中updateStateByKey按照惯例,首先来看官网解释1:updateStateByKey算子归属于 Transformations on DStreams。2:需要一个func作为入参,通过对之前 "state" 的每个key作用于这个func,返回一个 “新状态” 的DStream /**原创 2020-08-11 17:34:32 · 284 阅读 · 0 评论 -
spark相关博客总结
spark源码阅读https://juejin.im/post/5d19d133f265da1b971a8c06原创 2020-07-15 17:53:40 · 120 阅读 · 0 评论