使用Node.js和WebHDFS REST API访问Hadoop HDFS数据

本文介绍了如何通过启用WebHDFS API,并使用Node.js的node-webhdfs模块来访问和操作Hadoop HDFS,包括文件和目录的创建、读取、重命名等操作。详细讲解了连接URL的准备、列出目录、读取文件内容以及读取目录中所有文件的步骤。
摘要由CSDN通过智能技术生成

可用服务

以下是可用的服务集:

1)文件和目录操作

    1.1创建和写入文件:CREATE(HTTP PUT)
    1.2附加到文件:APPEND(HTTP POST)
    1.3打开并读取文件:OPEN(HTTP GET)
    1.4创建目录:MKDIRS(HTTP PUT)
    1.5重命名文件/目录:RENAME(HTTP PUT)
    1.6删除文件/目录:DELETE(HTTP DELETE)
    1.7文件/目录的状态:GETFILESTATUS(HTTP GET)
    1.8列出目录:LISTSTATUS(HTTP GET)

2)其他文件系统操作

    2.1获取目录的内容摘要:GETCONTENTSUMMARY(HTTP GET)
    2.2获取文件校验和:GETFILECHECKSUM(HTTP GET)
    2.3获取主目录:GETHOMEDIRECTORY(HTTP GET)
    2.4设置权限:SETPERMISSION(HTTP PUT)
    2.5设置所有者:SETOWNER(HTTP PUT) )
    2.6设置复制因子:SETREPLICATION(HTTP PUT)
    2.7设置访问或修改时间:SETTIMES(HTTP PUT)

启用WebHDFS API

确保在hdfs-site.xml文件中将config参数dfs.webhdfs.enabled设置为  true(此配置文件可以在里面找到  {your_hadoop_home_dir}/etc/hadoop

< 配置>
    < property >
        .....
    </ property >
    < property >
        < name > dfs.webhdfs.enabled </ name >
        < value > true </ 
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值