storm 安装 mysql_storm-安装

1. 单机安装storm测试环境

2. 集群storm安装

http://blog.csdn.net/tanggao1314/article/details/52348632

2. storm 将处理结果保存到mysql

2) 将jar包上传到storm lib目录

3) 将jar 导入到idea

4) 按照java 操作mysql 即可

需求,将storm的一个数据流,直接保存到es,可以省略很多环节!

测试1: 百度到 公认的使用 storm-elastic-search 一个jar 很是方便,在maven中进行如下配置

com.hmsonline

storm-elastic-search

0.1.0

同时,部署es 下载最新的2.4.0,安装

tar zxvf elasticsearch-2.4.0.tar.gz

cd elasticsearch-2.4.0

安装es plugin插件

bin/plugin install mobz/elasticsearch-head

问题1: 在storm上进行测试,提示找不到某些class,需要将storm-elastic-search相关的jar包,都上传到storm安装目录lib下。

问题2: 运行后 错误提示 没有节点可用,然后在es错误文件显示,连接库版本为0.90,而当前需要的版本最少为2.0 版本不兼容...

下载一个es0.90版本,发现可以使用

接着安装kibana 4 ,发现不能与es0.9兼容,支持最低es版本为1.4.4

升级es0.9到es1.4.4后,发现storm-elastic-search不能与es1.4.4兼容。

看一下代码 最重要的是EsIndexBolt, 因为需求只是将数据上传到es中,为了与最新es2.4兼容,去掉了storm-elastic-search的依赖,将es2.4安装文件的lib文件统一copy到storm安装目录下的lib中,开始了繁琐的代码修改。因为EsIndexBolt是基于旧版本的es0.90编写的。

每个文件中的org.apache.storm的引用都需要去掉,变成backtype.storm的引用。

EsConfig 中ImmutableSettings.settingsBuilder()   需要修改成Settings.Builder(), 因为新版es jar 没有ImutableSettings

DefaultEsTupleMapper.java 将source 修改为document, 这个是自定义的,与自己的bolt相同即可

StormElasticSearchClient.java 38行 TransportClient transportClient = new TransportClient(settings); 新的es  TransportClient 没有此构造方法需要修改为

TransportClient transportClient = TransportClient.builder().settings(settings).build();

TransportAddresses.java 中的 transformToInetAddress 方法,修改为

return new InetSocketTransportAddress(InetAddress.getByName(hostname), port(hostAndPort[1])); 因为新版本es

InetSocketTransportAddress 类的构造函数发生变化

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值