hadoop命令

1：建个文件夹

hadoop fs -mkdir data

    报错：

mkdir: org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot create directory /user/root/data. Name node is in safe mode.

    解决：

hadoop dfsadmin -safemode leave

    原因

在分布式文件系统启动的时候，开始的时候会有安全模式，当分布式文件系统处于安全模式的情况下，文件系统中的内容不允许修改也不允许删除，直到安全模式结束。安全模式主要是为了系统启动的时候检查各个DataNode上数据块的有效性，同时根据策略必要的复制或者删除部分数据块。

运行期通过命令也可以进入安全模式。在实践过程中，系统启动的时候去修改和删除文件也会有安全模式不允许修改的出错提示，只需要等待一会儿即可。

 网上找的

NameNode在启动的时候首先进入安全模式，如果datanode丢失的block达到一定的比例（1-dfs.safemode.threshold.pct），则系统会一直处于安全模式状态即只读状态。
dfs.safemode.threshold.pct（缺省值0.999f）表示HDFS启动的时候，如果DataNode上报的block个数达到了元数据记录的block个数的0.999倍才可以离开安全模式，否则一直是这种只读模式。如果设为1则HDFS永远是处于SafeMode。
下面这行摘录自NameNode启动时的日志（block上报比例1达到了阀值0.9990）
The ratio of reported blocks 1.0000 has reached the threshold 0.9990. Safe mode will be turned off automatically in 18 seconds.
hadoop dfsadmin -safemode leave
有两个方法离开这种安全模式
（1）修改dfs.safemode.threshold.pct为一个比较小的值，缺省是0.999。
（2）hadoop dfsadmin -safemode leave命令强制离开
用户可以通过dfsadmin -safemode value 来操作安全模式，参数value的说明如下：
enter - 进入安全模式
leave - 强制NameNode离开安全模式
get - 返回安全模式是否开启的信息
wait - 等待，一直到安全模式结束。

 

2：拷文件到hdfs

hadoop fs -copyFromLocal /home/gbz/hadoop-0.20.2.tar.gz hdfs://localhost/user/root/data/adfhadoop.tar.gz

    问题：

Retrying connect to server: localhost/127.0.0.1:8020. Already tried 9 time(s).
java.net.ConnectException: Connection refused

    解决：（我的hosts文件是：192.168.197.131 hadoop3  ，core-site.xml：hdfs://hadoop3:8020）

1：关闭iptables
2:查看/etc/hosts中ip的对应该名称，把hdfs://localhost改成hdfs://hadoop3:8020即可

   补充：

hadoop fs -put <local_file|hdfs_file> <hdfs_path>

   区别：

它们的区别在于copyToLocal的源路径只能是一个本地的文件。而put的源路径
可能是多个文件，也可能是标准输入。
当hadoop fs -put - hdfs://host:port/hadoop/hadoopfile时表示从标准输入接收数据，这个时候目标路径必须是一个文件。

 

 3：查看文件（如果提示没有找到，你须要先创建目录：hadoop fs -mkdir 目录）

hadoop fs -lsr 查看所有目录的所有文件及目录（包含子文件及子目录）
hadoop fs -lsr /user/root 查看root下的所有文件及目录（包含子文件及子目录）
hadoop fs -ls /user/root 查看root下的所有文件及目录(不含子文件及子目录)

 4：把hdfs文件拷到本地

hadoop fs -copyToLocal /user/root/data/adfhadoop.tar.gz hadoop.a
hadoop fs -get /user/root/data/adfhadoop.tar.gz hadoop.b

 5：查看文件内容

hadoop fs -text data/b.txt