Hadoop实战
文章平均质量分 54
专栏主要记录Hadoop集群、HDFS、MapReduce及其Hadoop子项目学习和使用,包含环境搭建、使用案例及使用过程中遇到的问题的记录等。
嘿lemon
http://my.csdn.net/u012343297#
展开
-
Hadoop 新旧API之间区别
从0.20.0 版本开始,Hadoop 同时提供了新旧两套MapReduce API。部分早期的0.20发行版本反对使用旧的api,但是后续版本中可以继续使用旧的api,因此1.x和2.x发行版本同时支持就的api。新旧API之间有如下几个明显区别:新API倾向使用虚类,而不是接口,因为更有利扩展。新API移到org.apache.hadoop.mapreduce包及其子包中,而旧的A...原创 2018-05-04 10:07:16 · 658 阅读 · 0 评论 -
CentOS 7上安装hadoop集群
环境:CentOS 7虚拟机两台(192.168.31.224、192.168.31.225)、Hadoop-2.8.0 、jdk 1.8实现两台虚拟机SSH免密码登录1、修改主机名,192.168.31.224(hserver1),192.168.31.225(hserver2)在主机192.168.31.224上执行>hostname hserver1在主机19...原创 2018-04-16 17:04:52 · 978 阅读 · 0 评论 -
Hadoop HDFS文件操作
1、添加目录,HDFS默认工作目录为 /user/{user},其中{USER}为当前登录的用户名。 hadoop fs -mkdir -p /user/root 2、查看目录文件列表 hadoop fs -ls -R / 3、将文件从本地目录put到hdfs中 hadoop fs -put /root/example.ext /user/root 4、删除文件 hadoop...原创 2018-04-17 10:52:57 · 956 阅读 · 0 评论 -
用hadoop自带的wordcount测试
1、创建文件example.txt,并将其拷贝到hdfs的/user/root中./hadoop fs -put /root/example.txt /user/root2、执行hadoop-mapreduce-examples-2.8.0.jar./hadoop jar ../share/hadoop/mapreduce/hadoop-mapreduce-examples-2...原创 2018-04-18 09:44:09 · 7153 阅读 · 0 评论 -
测试Hadoop程序报错:java.lang.IllegalArgumentException: Wrong FS: hdfs://192.168.31.225:9000/user/root
测试PutMerge程序时,出现java.lang.IllegalArgumentException: Wrong FS: hdfs://192.168.31.225:9000/user/root,测试程序源码如下:package com.hadoop.demo;import java.io.IOException;import org.apache.hadoop.conf.Con...原创 2018-04-18 15:01:44 · 3087 阅读 · 0 评论 -
Hadoop HDFS及MapReduce示例程序
1、实现将本地文件合并,并上传至HDFS 本地文件在D:/hadooptest下merge1.txt----------------------hadooptestmerge2.txt-----------------------hadoopmapreduceHadoop集群namenode:hdfs://192.168.31.225:9000public c...原创 2018-04-26 11:06:56 · 379 阅读 · 0 评论