Hadoop环境搭建之二配置启动HDFS及本地模式运行MapReduce案例(使用HDFS上数据)

hostname查询用户名
Use the following:

etc/hadoop/core-site.xml:

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://用户名:8020</value>
    </property>
    <property>
        <name>hadoop.tmp.dir</name> //hadoop运行的临时目录
        <value>目录的路径</value>
    </property>
</configuration>

上面配置的解释
hdfs在那台机器:端口号8020
临时目录的创建
cd hadoop-2.5.0
mkdir data
cd data
mkdir tmp
cd tmp
pwd
目录的路径

etc/hadoop/hdfs-site.xml:

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
</configuration>

到安装目录cd hadoop-2.5.0
首先文件格式化

bin/hdfs namenode -format

启用脚本全部在ls sbin/目录下
sbin/hadoop-daemon.sh start namenode//主节点
sbin/hadoop-daemon.sh start datanode//从节点

启动界面端口号 50070

jps 有两个进程
ls
logs
ll
ll logs
bin/hdfs dfs -mkdir -p /user/cj //在用户目录创建文件夹cj
bin/hdfs dfs -ls -R / //循环查看目录
bin/hdfs dfs -mkdir -p /user/cj/mapreduce/wordcount/input 创建上传目录
bin/hdfs dfs -put wcinput/wc.input /user/cj/mapreduce/wordcount/input/ //将wc.input上传到刚才创建的文件
bin/hdfs dfs -cat /user/cj/mapreduce/wordcount/input/wc.input //查看上传的内容
bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.4.1.jar wordcount /user/cj/mapreduce/wordcount/input/ /user/cj/mapreduce/wordcount/output

bin/hdfs dfs -cat /user/cj/mapreduce/wordcount/output/part* //查看结果
和 cat wcoutput/part-r-00000 结果是一样的

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

卡搜偶

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值