hadoop
文章平均质量分 68
wodeyuer125
这个作者很懒,什么都没留下…
展开
-
hadoop系列文章
http://www.cnblogs.com/xia520pi/archive/2012/04/08/2437875.html转载 2014-02-26 16:21:34 · 619 阅读 · 0 评论 -
hadoop集群优化之内存设置
hotshttp://docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.0.9.1/bk_installing_manually_book/content/rpm-chap1-11.html原创 2014-05-12 09:37:55 · 1547 阅读 · 0 评论 -
sqoop-1.4.3-cdh4.5.0+hadoop-2.0.0-cdh4.5.0出现找不到mysql驱动异常原理解析
sqoop import --connect jdbc:mysql://ip:3306/库名 --table 表名 --username 用户名 --password 密码异常:14/03/26 13:31:34 INFO sqoop.Sqoop: Running Sqoop version: 1.4.3-cdh4.5.014/03/26 13:31:34 WARN tool.Base原创 2014-03-26 14:01:32 · 2106 阅读 · 0 评论 -
hadoop job 重要性能参数
hadoop job 重要性能参数mapred.task.profile是否对任务进行profiling,调用java内置的profile功能,打出相关性能信息mapred.task.profile.{maps|reduces}对几个map或reduce进行profiling。非常影响速度,建议在小数据量上尝试mapred.job.reuse.jvm.num.tasks转载 2014-04-21 13:29:46 · 1413 阅读 · 0 评论 -
hadoop2.0日志问题
http://dongxicheng.org/mapreduce-nextgen/hadoop-2-0-jobhistory-log/原创 2014-04-04 11:57:49 · 680 阅读 · 0 评论 -
hadoop-lzo-0.4.20安装
一、安装lzop:yum -y install lzop二、安装lzo1、wget http://www.oberhumer.com/opensource/lzo/download/lzo-2.06.tar.gz2、tar -zxvf lzo-2.06.tar.gz3、mv lzo-2.06 lzo && cd lzo4、export CFLAGS=-m645、./原创 2014-03-21 01:28:08 · 3546 阅读 · 0 评论 -
hadoop-2.0.0-cdh4.5.0安装
1、创建hadoop用户【所有操作都是root,在所有master和slaver上】1)、创建hadoop用户:adduser hadoop2)、更换密码:passwd hadoop====================================================================================2、安装jdk【所有操作都是roo原创 2014-03-20 18:12:53 · 1087 阅读 · 0 评论 -
mahout-0.7-cdh4.5.0安装
1、下载mahout:http://archive.cloudera.com/cdh4/cdh/4/mahout-0.7-cdh4.6.0.tar.gz2、解压:mahout-0.7-cdh4.5.0.tar.gz3、改名:mv mahout-0.7-cdh4.5.0 mahout4、添加环境变量/tec/profile:export MAHOUT_HOME=/usr/local/原创 2014-03-21 01:25:38 · 1335 阅读 · 0 评论 -
sqoop-1.4.3-cdh4.5.0安装
1、下载sqoop到/usr/local:wget http://archive.cloudera.com/cdh4/cdh/4/sqoop-1.4.3-cdh4.6.0.tar.gz2、解压:tar -zxvf sqoop-1.4.3-cdh4.6.0.tar.gz3、重命名:mv sqoop-1.4.3-cdh4.6.0 sqoop4、添加环境变量/etc/profile:ex原创 2014-03-21 01:23:28 · 1076 阅读 · 0 评论 -
sqoop2-1.99.2-cdh4.5.0依赖的所有jar包
sqoop2-1.99.2-cdh4.5.0在安装过程中遇到各种NoClassDefFoundError异常,例如:Exception sending context initialized event to listener instance of class org.apache.sqoop.server.ServerInitializerjava.lang.NoClassDefFou原创 2014-03-21 01:49:51 · 2210 阅读 · 0 评论 -
安装sqoop-1.4.3-cdh4.5.0遇到找不到Sqoop类的异常
异常:Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/sqoop/SqoopCaused by: java.lang.ClassNotFoundException: org.apache.sqoop.Sqoop at java.net.URLClassLoader$1.run(UR原创 2014-03-21 01:56:58 · 1193 阅读 · 0 评论 -
大数据
转载 2018-03-28 18:07:16 · 355 阅读 · 0 评论