Hadoop(2)—— HDFS(2)—— shell采集数据到HDFS(有亿点bug需要解决)

本文介绍了如何使用shell脚本来采集服务器日志并上传到HDFS,包括创建目录、生成日志文件、编写upload2HDFS.sh脚本的详细步骤。在执行过程中遇到了文件上传的问题,需要对脚本进行调试,以确保日志能成功存入HDFS。
摘要由CSDN通过智能技术生成

通过编写shell脚本,用于采集服务器上的日志文件,并将海量日志上传至HDFS中。

1. 准备工作:创建以下目录、创建日志文件

1.1创建目录

输入:mkdir –p /export/data/logs

输入:mkdir –p /export/data/logs/log (存放日志)

输入:mkdir –p /export/data/logs/toupload (存放待上传文件)

验证创建:

输入:cd /export/data/logs

输入:ls

 

 

 1.2创建日志文件

切目录到 /export/data/logs/log/ ,创建access.log文件并复制三份

输入:cd /export/data/logs/log/

 输入:vi access.log

随意输入一些内容,保存退出后

输入: cp access.log access.log.1
输入: cp access.log access.log.2
输入: cp access.log access.log.3

输入:ls (查看日志文件创建完毕)

  • 3
    点赞
  • 20
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值