流计算平台Storm
文章平均质量分 68
流计算平台Storm
风吹海洋浪
越努力越头秃
展开
-
【已解决】zookeeper配置出现问题合集
【已解决】zookeeper配置出现问题合集1.问题诊断-日志2.问题解决合集2.1zookeeper集群搭建报错“拒绝连接”2.2zookeeper集群搭建报错“没有找到主机路由”1.问题诊断-日志1.进入文件查看日志:zookeeper.out文件,在zoo.cfg文件指定的日志目录下。(如果没有,那可能是文件的权限不够,无法将日志文件写入到该文件中,日志文件会在上级目录甚至上上级目录里)2.命令直接在命令行中查看报错内容:启动zookeeper时输出日志的启动方法:zkServer.sh s原创 2021-06-23 15:12:16 · 1212 阅读 · 0 评论 -
Kafka
KafkaKafka二级目录三级目录kafka-Storm二级标题三级标题四级标题五级标题六级标题MongoDBKafka二级目录三级目录kafka-Storm二级标题三级标题四级标题五级标题六级标题MongoDB原创 2021-01-10 12:24:37 · 326 阅读 · 1 评论 -
Storm UI性能监测,工具:Monit、nmon、Zabbix、Storm-Benchmark
Storm性能监测工具:nmon、Zabbix性能监测Storm UI性能指标监测工具nmon下载与配置运行与使用nmon命令:数据分析nmon analyser下载与使用nmon analyser 参数详解Zabbix待续性能监测参考原文:https://blog.csdn.net/csdn_wangqi/article/details/53377657如何找到Topology的性能瓶颈?除了通过系统命令查看CPU使用,jstack查看堆栈的调用情况以外,还可以通过Storm自身提供的信息来对性能原创 2020-11-17 09:22:42 · 1566 阅读 · 0 评论 -
MQ之ZeroMQ、JZMQ、Kafka简介
MQ之ZeroMQ、JZMQ、Kafka简介MQ消息队列ZeroMQ(又名ØMQ,MQ,或zmq)JZMQZeroMQ简介优缺点SocketTCP/IP协议族简介支持的通信模式MQ消息队列参考链接:https://blog.csdn.net/zhoujiyu123/article/details/84843068?utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7原创 2021-07-02 16:36:33 · 1608 阅读 · 1 评论 -
【调度器】Storm基础知识源码&结合《Storm源码分析》
EvenScheduler调度器:调度器实现IScheduler接口,实现两个方法:该拓扑是否调度的条件两个:拓扑设置的numworkers大于已经分配给该拓扑的worker数量该拓扑未分配的executor数量大于0调度方法:返回一个reassignment:<executor,【node+port】>集合slot排序方法:...原创 2021-09-16 16:41:04 · 147 阅读 · 0 评论 -
Apache Storm中自带的拓扑例子解析
Apache Storm中自带的拓扑例子解析Apache Stormexamplesstorm-starterExclamationTopologyWordCountTopologyNode部分使用js文件实现同样功能WordCountTopologystorm-starter中的WordCountTopology例子代码WordCountTopology.javaRandomSentenceSpout.javaSplitSentence.py自己实现WordCountTopologypom.xmltest原创 2020-11-02 20:51:23 · 954 阅读 · 1 评论 -
Storm-本地模式与集群模式部署
Storm-本地模式与集群模式部署Storm运行模式本地模式Storm开发依赖包开发测试helloworld单机模式集群模式区别于本地模式集群部署业务逻辑部署启动命令Storm相关问题Storm常用命令&yaml文件Storm常见错误Storm运行模式本地模式例如在IDEA或者eclipse开发软件中引入jdk,storm开发jar包,进行编写逻辑业务代码进行测试运行Storm开发依赖包可以利用maven引入依赖:https://mvnrepository.com/search?q=st原创 2020-12-05 20:24:48 · 940 阅读 · 0 评论 -
Storm总体与代码结构和原生调度器、编程基础
Storm总体与代码结构和原生调度器、编程基础1.总体与代码结构1.1总体结构NimbusSupervisorWorkerExecutorTask并行度并行度这个概念分为不同层面的:topology的并行度Executor并行度组件的并行度动态设置组件并行度Topology消息分发策略Storm的Ack消息框架通信机制1.2代码结构2.原生调度器2.1任务调度策略2.2调度器解析EvenScheduler和DefaultSchedulerIsolationSchedulerMultitenantSchedu原创 2020-11-11 16:58:54 · 1005 阅读 · 2 评论