自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(8)
  • 收藏
  • 关注

原创 Shell

#!/bin/bashsource /etc/profilesource ~/.bashrcexport basepath=$(cd `dirname $0`; pwd)source ${basepath}/cfg/css.cfg#username="root"#password="root"#jdbcUrl="jdbc:mysql://192.

2016-08-24 22:04:45 362

原创 kafka_2.9.1-0.8.1.1 集群的安装

kafka是一种高吞吐量的分布式发布订阅消息系统,她有如下特性:通过O(1)的磁盘数据结构提供消息的持久化,这种结构对于即使数以TB的消息存储也能够保持长时间的稳定性能。高吞吐量:即使是非常普通的硬件kafka也可以支持每秒数十万的消息。支持通过kafka服务器和消费机集群来分区消息。支持Hadoop并行数据加载。kafka的目的是提供一个发布订阅解决方案,它可

2014-07-25 11:08:42 959

原创 Storm-9.1.0 WordCount jar 实例

提交Topologies命令格式:storm jar 【jar路径】 【拓扑包名.拓扑类名】 【拓扑名称】样例:storm jar /storm-starter.jar storm.starter.WordCountTopology wordcountTop

2014-05-23 11:42:46 2940

原创 storm-0.9.1 集群安装

从 apache storm 官网 选中 storm-0.9.1 的版本下载 ,放入到linux

2014-05-16 11:49:51 1166 2

原创 Flume1.4 相关参数设置,将收集的数据汇总到hdfs,解决许多小文件问题

参照官方文档,flume clflume sink收集端

2014-05-13 12:44:17 2813

原创 利用shell 生成 hadoop 实验大数据 以及如何获取时间戳

脚本命令如下,将原文件zeng#!/bin/bashfor (( i=1; ido cat tests.log.old >> testdata.logdone

2014-05-09 16:35:12 963

原创 hadoop 集群环境Sqoop 将数据导入mysql问题 many connection errors; unblock with 'mysqladmin flush-hosts'

hadoop 集群环境下面, 使用 sqoop 将hive 统计wan

2014-05-04 14:56:35 1031

原创 Flume 1.4.0 NG 分布式集群搭建

最近使用Flume1.4 做日志收集,分享一下具体的集群环境配置搭建。其中使用到了3台机器, hadoop  192.168.80.100   hadoop1  192.168.80.101    hadoop2   192.168.80.102 ,  将 hadoop  和 hadoop2 机器上面指定的flume 监控到的文件夹中产生的日志文件通过 agent 汇集到 hadoop1 机器

2014-04-18 18:13:40 2345 2

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除