Storm
Storm
王坦.
王坦
土旦
半甜清粥
展开
-
STORM启动与部署TOPOLOGY
启动ZOOPKEEPERzkServer.sh start启动NIMBUSstorm nimbus &启动SUPERVISORstorm supervisor &启动UIstorm ui &部署TOPOLOGYstorm jar /opt/hadoop/loganalyst/storm-dependend/data/teststorm-1.0.ja...转载 2020-05-08 10:41:39 · 708 阅读 · 0 评论 -
调整 storm jvm 参数
storm 频繁发生 GC,且回收的内存很少,调整 worker 堆大小。错误信息java.lang.OutOfMemoryError: GC overhead limit exceededat 默认情况下,Storm启动worker进程时,JVM的最大内存是768M。通过在Strom的配置文件storm.yaml中设置worker的启动参数worker.childopts: "-Xm...原创 2020-05-08 10:34:27 · 1300 阅读 · 0 评论 -
学习 storm,整合 springboot
背景过程参考资料Storm框架:Storm整合springboot原创 2020-04-15 11:10:47 · 727 阅读 · 0 评论 -
storm笔记:Storm+Kafka简单应用
这几天工作需要使用storm+kafka,基本场景是应用出现错误,发送日志到kafka的某个topic,storm订阅该topic,然后进行后续处理。场景非常简单,但是在学习过程中,遇到一个奇怪的异常情况:使用KafkaSpout读取topic数据时,没有向ZK写offset数据,致使每次都从头开始读取。纠结了两天,终于碰巧找到原因:应该使用BaseBasicBolt作为bolt的父类,而不是Ba...转载 2020-04-13 09:30:36 · 1163 阅读 · 0 评论 -
storm 使用外部配置文件提交拓扑
背景由于 jar 包需要发布到 storm 分布式环境中运行,所以每次都要将配置文件打进 jar 包里,这样程序运行的时候,才能从 classpath 中找到配置文件。每次发布程序的时候,由于各项环境不同,都要修改配置文件,很麻烦。所以试想如何加载 jar 包外部配置文件。配置文件配置文件包括程序配置文件 .propertiesspring 配置文件 .xml其中 spring 配置...原创 2020-01-20 10:48:55 · 1840 阅读 · 0 评论 -
Unable to get offset lags for kafka. Reason: java.lang.NullPointerException at org.apache.storm.kafk
问题信息Unable to get offset lags for kafka. Reason: java.lang.NullPointerException at org.apache.storm.kafka.monitor.KafkaOffsetLagUtil.getOffsetLags (KafkaOffsetLagUtil.java:272) at org.apache.storm.ka...原创 2020-01-06 15:39:52 · 3096 阅读 · 0 评论 -
springboot 整合 storm 无法使用注解获取 Ioc 里的 bean,获取不到 spring 上下文 applicationContext
问题springboot 整合 storm 无法使用注解获取 Ioc 里的 bean,获取不到 spring 上下文 applicationContext待整理,参考1、https://blog.csdn.net/iteye_14294/article/details/822788522、https://www.cnblogs.com/gouyg/p/storm-springboot....原创 2019-11-21 13:48:35 · 46052 阅读 · 0 评论