hadoop
cjd007
喜欢学习,听轻音乐,最近学习SAP,自己在搞Compiere,关注Flex
展开
-
Win7下开发运行hadoop MR程序的注意事项
环境: win7+eclipse+ ubuntu+hadoop 开始运行时报没有权限,只要把 hdfs的权限加大: [code="java"] hadoop dfs -chmod -R 777 /usr/local/hadoop/hadoop-dir/hadoop-dev/tmp/ [/code] 接着运行MR报 内存一出: 运行时加入参数:因为 mapred.child.j...原创 2011-11-29 21:22:21 · 130 阅读 · 0 评论 -
Hbase在Hadoop Ecosystem中的位置
Hbase在Hadoop Ecosystem中的位置 [url]http://dl.iteye.com/upload/attachment/0063/9761/6aa8e129-9c21-3fef-882d-deeac3f96fa9.jpg[/url]原创 2012-03-01 09:12:49 · 144 阅读 · 0 评论 -
hadoop hbase的相关命令
[code="java"] //是否进入或者是否还在安全模式 hadoop dfsadmin -safemode get //输出 Safe mode is ON //namenode节点的启动和关闭 hadoop-daemon.sh stop namenode hadoop-daemon.sh start namenode //停止某个数据节点上的 HRegionse...原创 2012-03-03 14:07:26 · 86 阅读 · 0 评论 -
Hadoop的调优(一)-Linux文件系统参数调整
Linux文件系统参数调整: (1) noatime 和 nodiratime属性 文件挂载时设置这两个属性可以明显提高性能。。默认情况下,Linux ext2/ext3文件系统在文件被访问、创建、修改时会记录下文件的时间戳,比如:文件创建时间、最近一次修改时间和最近一次访问时间。如果系统运行时要访问大量文件,关闭这些操作,可提升文件系统的性能。Linux 提供了 noatime 这个参数来禁...原创 2012-03-09 22:50:24 · 191 阅读 · 0 评论 -
HBase启动不了的一个原因处理
几天没有启动hbase,今天重新启动,却发现 HRegionServer没有启动, 到 region server 查看 jps,里面只有HQuorumPeer,没有 HRegionServer。 于是就单独启动: [code="java"] hbase-daemon.sh --config /usr/local/hbase/hbase-conf start regionserver [...2012-07-31 08:53:46 · 372 阅读 · 0 评论 -
删除hdfs文件报 permission denied的处理
删除hdfs文件报 permission denied的处理, 参考: http://heipark.iteye.com/blog/1068139 http://blog.sina.com.cn/s/blog_5f3895a00100w2pu.html 分M/R和客户端程序两种情况. case A: M/R,只要在执行的机器上加入java参数 [code="java"]-...原创 2012-08-02 17:11:40 · 784 阅读 · 0 评论 -
Hadoop必须知道的几个问题
1,master slaves文件只有 namenode secondnamenode jobtracker这3个机器需要知道,其他的datanode不需要知道,也就是说如果修改了这2个文件,那么只要同步以上提到的3个机器就可以了,而一般的开发测试环境,这3个机器是在同一个机器上。 2,需要的默认内存 datanode默认内存为2.8G namenode默认内存为3G secondname...原创 2012-04-12 09:02:12 · 100 阅读 · 0 评论 -
Hadoop1.0.0 eclipse 插件编译包
hadoop1.0.0没有eclipse 插件包,今晚自己编译了一个: [code="java"] check-contrib: init: [echo] contrib: eclipse-plugin init-contrib: ivy-download: [get] Getting: http://repo2.maven.org/maven2...原创 2012-04-23 00:51:16 · 107 阅读 · 0 评论