在Amazon EMR中开启Webhdfs服务

在使用命令

curl -i -X PUT -T test_data01.txt "http://ec2-54-241-143-9.us-west-1.compute.amazonaws.com:14000/webhdfs/v1/user/tmp/test_data01.txt?user.name=redpulse&op=CREATE" -H "Content-Type:application/octet-stream"

上传文件到hdfs时,遇到了如下报错:

{"RemoteException":{"message":"User: httpfs is not allowed to impersonate redpulse","exception":"RemoteException","javaClassName":"org.apache.hadoop.ipc.RemoteException"}}

这是因为需要在Hadoop的配置文件core-site.xml中加入下列配置代码:

<property>
        <name>hadoop.proxyuser.[用户名].hosts</name>
        <value>*</value>
</property>
<property>
        <name>hadoop.proxyuser.[用户名].groups</name>
        <value>*</value>
</property>

“[用户名]”就是重启EMR的当前用户

之后需要重启EMR(参考链接给出的文档):
https://amazonaws-china.com/premiumsupport/knowledge-center/restart-service-emr/

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值