基于HDFS的FTP

转载 2012年03月27日 10:32:04
原文地址:http://blog.sina.com.cn/s/blog_3dbab2840100w2be.html
一家公司使用apache的ftpserver开发框架开发了针对hadoop的hdfs文件系统的ftp服务器,当然是开源的.站点:http://www.hadoop.iponweb.net/Home/hdfs-over-ftp

安装过程非常简单,本人只是在linux下安装过,windows下没有成功安装,linux下安装步骤如下:
1.下载安装文件并解压
http://www.hadoop.iponweb.net/Home/hd ... tp.tar.bz2?attredirects=0

tar zxvf hdfs-over-ftp.tar.bz2

2.配置
软件根目录下的hdfs-over-ftp.conf
设置hdfs-uri的值
hdfs-uri = hdfs://hdfs的namenode的地址:9000

3.用户的设置
软件根目录下的users.conf
缺省用户好象不能login,在文件最后增加如下内容(用户和密码都是hadoop)
ftpserver.user.hadoop.userpassword=0238775C7BD96E2EAB98038AFE0C4279
ftpserver.user.hadoop.homedirectory=/
ftpserver.user.hadoop.enableflag=true
ftpserver.user.hadoop.writepermission=true
ftpserver.user.hadoop.maxloginnumber=0
ftpserver.user.hadoop.maxloginperip=0
ftpserver.user.hadoop.idletime=0
ftpserver.user.hadoop.uploadrate=0
ftpserver.user.hadoop.downloadrate=0
ftpserver.user.hadoop.groups=hadoop,users

密码使用md5生成,JAVA代码如下
PasswordEncryptor passwordEncryptor = new Md5PasswordEncryptor();
System.out.println(passwordEncryptor.encrypt("hadoop"));

4.log的设置
软件根目录下的log4j.conf
和普通的Log4j一样的设置

5.启动和停止方法
./hdfs-over-ftp.sh start
./hdfs-over-ftp.sh stop

6.测试结果
只有权限设置不能用,其它常用的ftp命令都能正常执行
而且上传下载速度甚至比直接使用hadoop的shell还快,当然要在网络环境一样的情况下

使用hadoop distcp从ftp拷贝文件到hdfs

distcp从ftp到hdfs拷贝文件: hadoop distcp ftp://fptuser:ftppassword@host/ftp/path/ hdfs://node:port1/hdfs/p...

hadoop2.7.3的ftp over hdfs搭建:

1 环境准备 1.1 ubuntu16.04 1.2 hadoop 2.7.3 安装见:http://blog.csdn.net/tengxing007/article/details/5316...

ftp提取文件到hdfs

实际场景中,我们经常需要通过ftp协议把不同数据源的文件统一汇入到hdfs数据中心,经过实践,有以下的三种方法,分别列出其优缺点及适用场景。...

Delphi7高级应用开发随书源码

  • 2003年04月30日 00:00
  • 676KB
  • 下载

FTP to HDFS代码示例

FTP to HDFS An FTP client that stores content directly into HDFS is good. It allows data from FTP...

Nifi实例-Ftp抽取文件到HDFS中

Nifi实例-Ftp抽取文件到HDFS中

使用Apache FtpServer搭建FTP服务器

本文参考了网上的 、仅为留作以后自用,谢谢

hadoop2.4.1的ftp服务器搭建

把本地文件上传到hadoop的hdfs-over-ftp

hadoop 2.7.1 hdfs-over-ftp

  • 2015年10月10日 11:36
  • 452KB
  • 下载

hdfs-over-ftp的重构

  • 2014年05月08日 09:39
  • 32.11MB
  • 下载
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:基于HDFS的FTP
举报原因:
原因补充:

(最多只允许输入30个字)