hadoop中文乱码问题

1.hadoop默认编码上utf-8
2.如果输入文件如果是保存成utf-8格式,则wordcount.java程序中不需要转码,输出文件也是uft-8文件格式;
如果输出文件格式为其他格式,则在wordcount.java程序中需要对其转码,如果不转换编码,在程序打钱出输入文件内容时中文显示为乱码,转到GBK后,输出文件中的内容自动生成到输出文件时格式为utf-8.
3.在Xshell中查看输出文件时,使用命令/home/hadoop/hadoop/bin/hadoop fs -cat /wanghongen/demo/fileout/wordcount_out1/part-r-00000前,要将Xshell客户端的encoding编码设置为utf-8才能正常看到输出文件的内容。


public static Text transformText(Text text, String encoding) {
String value = null;
try {
value = new String(text.getBytes(), 0, text.getLength(), encoding);
} catch (UnsupportedEncodingException e) {
e.printStackTrace();
}
return new Text(value);
}
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值