hive作日志分析(一)

本文介绍了如何利用Hive进行日志分析,包括日志收集、Hadoop和Hive的安装部署、日志文件上传到HDFS、创建数据库和表、加载数据以及查询操作。通过实例展示了基础的日志分析流程。
摘要由CSDN通过智能技术生成

通过hive进行日志分析,因时间关系分几部分发布,以下为不使用format类的最基本情况:

1、日志收集,使用logstash或者flume均可,得到汇总后的日志文件。 

      例如:upp.log.2014-01-27.log,保存在服务器/export/logs目录


2、安装部署hadoop,具体请看http://blog.csdn.net/u013696226/article/details/19415037


3、安装hive,解压缩hive-0.12.0-bin.tar.gz,修改配置文件

      进入conf后:

      cp hive-env.sh.template hive-env.sh

      cp hive-default.xml.template hive-default.xml

      vi hive-env.conf 修改HADOOP_HOME=/usr/hadoop-1.2.1


4、将日志文件存放到hdfs,进入hadoop/bin目录,执行如下指令

       建立hdfs目录:./hadoop fs -mkdir /upp

       将日志文件读入hdfs:./hadoop fs -put /export/logs/upp.log.2014-01-27.log /upp

       查看文件:./hadoop fs -ls /upp

       显示如下则成功:-rw-r--r--   2 root supergroup    1204106 2014-03-04 14:50 /upp/upp.log.2014-01-27.log


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值