Java处理文件BOM头的方式推荐

4 篇文章 0 订阅
3 篇文章 0 订阅

背景:

java普通的文件读取方式对于bom是无法正常识别的。使用普通的InputStreamReader,如果采用的编码正确,那么可以获得正确的字符,但bom仍然附带在结果中,很容易导致数据处理出错。另外,对于存在BOM头的文件,无法猜测它使用的编码。


目标:实现一种方式,可对BOM头进行捕捉和过滤


方案一、  使用apache的工具类,以BOMStream为例:

    BOMStream,api参考:http://commons.apache.org/io/apidocs/org/apache/commons/io/input/BOMInputStream.html

    该类的构造方式:
   BOMInputStream bomIn = new BOMInputStream(in) ; //仅能检测到UTF8的bom,且在流中exclude掉bom
   BOMInputStream bomIn = new BOMInputStream(in, include);  //同上,且指定是否包含bom
   # 也可以指定检测多种编码的bom,但目前仅支持UTF-8/UTF-16LE/UTF-16BE三种,对于UTF32之类不支持。
   BOMInputStream bomIn = new BOMInputStream(in, ByteOrderMark.UTF_16LE, ByteOrderMark.UTF_16BE);
   # 有用的方法:
   bomIn.hasBOM()、hasBOM(ByteOrderMask.**)可用于判断当前流中是否检测到了bom。
    #读取文件示例:
[java]  view plain copy
  1. FileInputStream fis = new FileInputStream(file);  
  2.   //可检测多种类型,并剔除bom  
  3.   BOMInputStream bomIn = new BOMInputStream(in, false,ByteOrderMark.UTF-8, ByteOrderMark.UTF_16LE, ByteOrderMark.UTF_16BE);  
  4.   String charset = "utf-8";  
  5.   //若检测到bom,则使用bom对应的编码  
  6.   if(bomIn.hasBOM()){  
  7.      charset = bomIn.bs.getBOMCharsetName();  
  8.   }  
  9.   InputStreamReader reader = new InputStreamReader(bomIn, charset);  
  10.   ...  



方案二、使用一个更强大点的工具类(可以支持UTF-8/UTF-16LE/UTF-16BE/UTF-32LE/UTF-32BE):       

   参考地址:http://koti.mbnet.fi/akini/java/unicodereader/, 下载其中两个文件:UnicodeStream和UnicodeReader

   以UnicodeReader为例:

[java]  view plain copy
  1. FileInputStream fis = new FileInputStream(file);  
  2. UnicodeReader ur = new UnicodeReader(fis, "utf-8");  
  3. BufferedReader br = new BufferedReader(ur);  
  4. ...  

   相较于Apache的工具类,这里的UnicodeReader 支持更多的BOM编码。

   #源码解读:

   UnicodeReader 通过PushbackInputStream+InputStreamReader实现BOM的自动检测和过滤读取;

   当没有检测到BOM时,pushback流将回退,并采用构造函数传入的编码进行读取。
   否则使用BOM对应的编码进行读取。

   

   #相对来说,第二种方式更加轻量和强大;另外也更加透明,可以随便修改源码来实现自己的需求

Java 中,我们可以使用 `java.nio.charset.CharsetDecoder` 类来处理 UTF-16 编码的 BOM 。 下面是一个例子: ```java import java.io.*; import java.nio.charset.Charset; import java.nio.charset.CharsetDecoder; import java.nio.charset.CodingErrorAction; public class RemoveBOM { public static void main(String[] args) throws IOException { // 打开 UTF-16 编码的文件 FileInputStream fis = new FileInputStream("file.txt"); InputStreamReader isr = new InputStreamReader(fis, Charset.forName("UTF-16")); // 创建 CharsetDecoder 对象 CharsetDecoder decoder = Charset.forName("UTF-16").newDecoder(); decoder.onMalformedInput(CodingErrorAction.IGNORE); decoder.onUnmappableCharacter(CodingErrorAction.IGNORE); // 读取文件内容 CharBuffer cb = CharBuffer.allocate(fis.available()); isr.read(cb); cb.flip(); // 去除 BOM if (cb.length() > 0 && cb.charAt(0) == '\ufeff') { cb.deleteCharAt(0); } // 处理文件内容 // ... // 保存文件内容 FileOutputStream fos = new FileOutputStream("file.txt"); OutputStreamWriter osw = new OutputStreamWriter(fos, Charset.forName("UTF-16")); osw.write(cb.toString()); osw.close(); } } ``` 在这个例子中,我们首先使用 `java.io.FileInputStream` 和 `java.io.InputStreamReader` 打开了一个 UTF-16 编码的文件,并通过 `java.nio.charset.Charset.forName` 方法创建了一个 `java.nio.charset.CharsetDecoder` 对象。 然后,我们使用 `java.nio.charset.CharsetDecoder` 对象读取了文件内容,并检查了它是否以 BOM 。如果是,我们使用 `java.lang.CharSequence.deleteCharAt` 方法从内容中去除了 BOM 。 在处理文件内容后,我们再次使用 `java.io.FileOutputStream` 和 `java.io.OutputStreamWriter` 将内容写入文件中。这次,由于我们已经去除了 BOM ,所以写入的文件是没有 BOM 的。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值