#Hadoop
雲小妖
我是一只鱼
展开
-
运行WordCuont案例报权限的错:Permission denied: user=Administrator, access=WRITE, inode=“/output/reslt/_t
该错误需要配置log4j才可以看到 log4j配置: log4j.rootLogger=INFO, stdout log4j.appender.stdout=org.apache.log4j.ConsoleAppender log4j.appender.stdout.layout=org.apache.log4j.PatternLayout log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n log4j.appender.原创 2020-10-19 16:13:31 · 184 阅读 · 0 评论 -
HDFS之:小 文件归档和回收站机制
HDFS之:小 文件归档 注意:需要YARN进程 start-yarn.sh 介绍: 小文件太多,会导致内存中存储大量的元数据信息,从而消耗大量的内存,这时候就需要用办法解决存储小文件,HAR:是一个更高效的存档工具,它将文件存入HDFS块,在减少NameNode 内存使用的同时,允许对文件进行透明访问(HDFS存档文件对内还是一个一个的独立文件,对NameNode而言却是一个整体,减少了NameNode的内存)。 1、归档文件 将 /AzF/input/ 下的所有文件归档为一个叫 input.h原创 2020-10-16 16:16:58 · 386 阅读 · 0 评论 -
java代码操作hadoop基本命令(加强版)
import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.BlockLocation; import org.apache.hadoop.fs.FSDataInputStream; import org.apache.hadoop.fs.FSDataOutputStream; import org.apache.hadoop.fs.FileStatus; import org.apache.hadoop.fs.File.原创 2020-10-15 17:27:00 · 270 阅读 · 0 评论 -
java代码操作hadoop基本命令(基本版)
package com.fjh.hadoop; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.BlockLocation; import org.apache.hadoop.fs.FSDataInputStream; import org.apache.hadoop.fs.FSDataOutputStream; import org.apache.hadoop.fs.FileStatus; import or原创 2020-10-15 14:33:13 · 855 阅读 · 0 评论