hadoop问题总结:hive load写入数据很慢

1.hadoop fs -Ddfs.replication=1 -put file.txt /tmp/a.txt 这个速度很快.
因为一个副本是写本地硬盘的.硬盘排除了
2.网卡坏了
http://www.cnblogs.com/ggjucheng/archive/2012/04/17/2454590.html

vmstat 1 检测内存,io,cpu

set mapred.reduce.slowstart.completed.maps=0.9 ;

jps -m
30688 Child 127.0.0.1 54561 attempt_201409281524_0001_r_000025_1
r代表reduce,m代表map。
基本上 8核心cpu 配6个硬盘比较好. 除去两核心来运行系统和datanode TaskTracker

剩下6个线程 对应 6个硬盘 比较靠谱.

hadoop balancer -threshold 5

http://slave05:50060/tasklog?attemptid=attempt_201409291605_2544_r_000012_0&all=true
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值