python访问hdfs

core-site.xml 配置信息

<property>
    <name>fs.default.name</name>
    <value>hdfs://localhost:9000</value>
  </property>
from hdfs.client import Client
client = Client("http://localhost:9000", root="/", timeout=100, session=False)
result = client.list("/")
print result

如果访问core的配置的信息是无法访问,会有以下报错

It looks like you are making an HTTP request to a Hadoop IPC port. This is not the correct port for the web interface on this daemon.

这里要使用的是web可访问的管理页面的地址
hadoop3的 NameNode管理页面
http://localhost:9870可
如果启动了hdfs可直接浏览器打开
代码改为

from hdfs.client import Client
client = Client("http://localhost:9870", root="/", timeout=100, session=False)
result = client.list("/")
print result

如果要使用rpc 9000的端口的话

from snakebite.client import Client

client = Client("localhost", 9000, use_trash=False)
result = list(client.ls(['/']))
print result
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值