Java如何获取上传的二进制字节流中的文件编码格式以及解决文件乱码问题

平凡之路无尽路

已于 2023-06-14 22:02:16 修改

阅读量6.3k

点赞数 1

分类专栏： java 文章标签： java 数据库开发语言

于 2018-10-18 15:24:45 首次发布

本文链接：https://blog.csdn.net/gududedabai/article/details/83147369

版权

java 专栏收录该内容

29 篇文章 0 订阅

订阅专栏

通过UltraEdit查看文件编码格式可得：bgk是没有文件字符集编码格式头的，所以在可以通过下面方式大略判断。

GB2312-80编码的编码范围是高位0xa1－0xfe，低位是 0xa1-0xfe ，其中汉字范围为 0xb0a1 和 0xf7fe，如果只是简单地判断汉字，则只要查看高字节是否大于等于0xa1就可以了，还有就是，全角字符的高字节统统等于0xa3，所以很容易可以区别出全角字符来。

通过编辑器UltraEdit整理可得：

utf-8:对应二进制编码格式头为-17 -69 -65 十进制为：EF BB BF

unicode:对应二进制编码格式头为-1 -2 十进制为：FF FE

gbk格式没有自己编码头，所以无法比较.且gbk2312与gbk是包含关系

Unicode big endian:FE、FF
因此可以通过两种方式判断；如下：

1、if (log[0] == -17 && log[1] == -69 && log[2] == -65)
        System.out.println("：编码为UTF-8");
   else
        System.out.println("：可能是GBK，也可能是其他编码");

2、if (Integer.toHexString(0xFF & log[0]).equals("ef")
      && Integer.toHexString(0xFF & log[1]).equals("bb")
      && Integer.toHexString(0xFF & log[2]).equals("bf")) {
       System.out.println("：编码为UTF-8");
  } else {
       System.out.println("：可能是GBK，也可能是其他编码");
  }

这里只是举例常用几种文件字符集编码格式。

注意这个方法的局限：文件头必须有文件存储编码的信息，对于不规范的文件或被篡改过的就另当别论

用法如下：

/**
 * 获取二进制文件字节流中内容的编码格式
 * utf-8:对应二进制编码格式头为-17 -69 -65 十进制为：EF BB BF
 * unicode:对应二进制编码格式头为-1 -2  十进制为：FF FE
 * gbk格式没有自己编码头，所以无法比较.且gbk2312与gbk是包含关系
 */
public static String getCodeType(byte[] b) {
    if (b[0] == -17 && b[1] == -69 && b[2] == -65) {
        return "utf8";
    } else if (b[0] == -1 && b[1] == -2) {
        return "unicode";
    } else {
        return "gbk";
    }
}

采用第二种方式：

更复杂的文件编码检测，可以使用一个开源项目cpdetector，它所在的网址是：http://cpdetector.sourceforge.net/。它的类库很小，只有500K左右，cpDetector是基于统计学原理的，不保证完全正确，利用该类库判定文本文件的代码如下：

读外部文件(先利用cpdetector检测文件的编码格式，然后用检测到的编码方式去读文件)

还需要使用到三个第三方JAR包：antlr.jar、chardet.jar和cpdetector.jar

可以这里下载所有全部架包：https://download.csdn.net/my 或者留言
/**
   * 利用第三方开源包cpdetector获取文件编码格式
   *
   * @param path
   * 要判断文件编码格式的源文件的路径
   */
   public static String getFileEncode(String path) {
       /*
       * detector是探测器，它把探测任务交给具体的探测实现类的实例完成。
       * cpDetector内置了一些常用的探测实现类，这些探测实现类的实例可以通过add方法加进来，如ParsingDetector、
       * JChardetFacade、ASCIIDetector、UnicodeDetector。
       * detector按照“谁最先返回非空的探测结果，就以该结果为准”的原则返回探测到的
       * 字符集编码。使用需要用到三个第三方JAR包：antlr.jar、chardet.jar和cpdetector.jar
       * cpDetector是基于统计学原理的，不保证完全正确。
       */
       CodepageDetectorProxy detector = CodepageDetectorProxy.getInstance();
       /*
       * ParsingDetector可用于检查HTML、XML等文件或字符流的编码,构造方法中的参数用于
       * 指示是否显示探测过程的详细信息，为false不显示。
       */
       detector.add(new ParsingDetector(false));
       /*
       * JChardetFacade封装了由Mozilla组织提供的JChardet，它可以完成大多数文件的编码
       * 测定。所以，一般有了这个探测器就可满足大多数项目的要求，如果你还不放心，可以
       * 再多加几个探测器，比如下面的ASCIIDetector、UnicodeDetector等。
       */
       detector.add(JChardetFacade.getInstance());// 用到antlr.jar、chardet.jar
       // ASCIIDetector用于ASCII编码测定
       detector.add(ASCIIDetector.getInstance());
       // UnicodeDetector用于Unicode家族编码的测定
       detector.add(UnicodeDetector.getInstance());
       java.nio.charset.Charset charset = null;
       File f = new File(path);
       try {
           charset = detector.detectCodepage(f.toURI().toURL());
       } catch (Exception ex) {
           ex.printStackTrace();
       }
       if (charset != null)
           return charset.name();
       else
           return null;
   }
   String charsetName = getFileEncode(configFilePath);
   System.out.println(charsetName);
   inputStream = new FileInputStream(configFile);
   BufferedReader in = new BufferedReader(new InputStreamReader(inputStream, charsetName));
读jar包内部资源文件(先利用cpdetector检测jar内部的资源文件的编码格式，然后以检测到的编码方式去读文件)：

/**
   * 利用第三方开源包cpdetector获取URL对应的文件编码
   *
   * @param path
   * 要判断文件编码格式的源文件的URL
   */
   public static String getFileEncode(URL url) {
       /*
       * detector是探测器，它把探测任务交给具体的探测实现类的实例完成。
       * cpDetector内置了一些常用的探测实现类，这些探测实现类的实例可以通过add方法加进来，如ParsingDetector、
       * JChardetFacade、ASCIIDetector、UnicodeDetector。
       * detector按照“谁最先返回非空的探测结果，就以该结果为准”的原则返回探测到的
       * 字符集编码。使用需要用到三个第三方JAR包：antlr.jar、chardet.jar和cpdetector.jar
       * cpDetector是基于统计学原理的，不保证完全正确。
       */
       CodepageDetectorProxy detector = CodepageDetectorProxy.getInstance();
       /*
       * ParsingDetector可用于检查HTML、XML等文件或字符流的编码,构造方法中的参数用于
       * 指示是否显示探测过程的详细信息，为false不显示。
       */
       detector.add(new ParsingDetector(false));
       /*
       * JChardetFacade封装了由Mozilla组织提供的JChardet，它可以完成大多数文件的编码
       * 测定。所以，一般有了这个探测器就可满足大多数项目的要求，如果你还不放心，可以
       * 再多加几个探测器，比如下面的ASCIIDetector、UnicodeDetector等。
       */
       detector.add(JChardetFacade.getInstance());// 用到antlr.jar、chardet.jar
       // ASCIIDetector用于ASCII编码测定
       detector.add(ASCIIDetector.getInstance());
       // UnicodeDetector用于Unicode家族编码的测定
       detector.add(UnicodeDetector.getInstance());
       java.nio.charset.Charset charset = null;
       try {
           charset = detector.detectCodepage(url);
       } catch (Exception ex) {
           ex.printStackTrace();
       }
       if (charset != null)
           return charset.name();
       else
           return null;
   }
   URL url = CreateStationTreeModel.class.getResource("/resource/" + "配置文件");
   URLConnection urlConnection = url.openConnection();
   inputStream=urlConnection.getInputStream();
   String charsetName = getFileEncode(url);
   System.out.println(charsetName);
   BufferedReader in = new BufferedReader(new InputStreamReader(inputStream, charsetName));

3：探测任意输入的文本流的编码，方法是调用其重载形式：

charset=detector.detectCodepage(待测的文本输入流,测量该流所需的读入字节数);

上面的字节数由程序员指定，字节数越多，判定越准确，当然时间也花得越长。要注意，字节数的指定不能超过文本流的最大长度。

4：判定文件编码的具体应用举例：
    属性文件(.properties)是Java程序中的常用文本存储方式，象STRUTS框架就是利用属性文件存储程序中的字符串资源。它的内容如下所示：
    #注释语句
    属性名=属性值
    读入属性文件的一般方法是：
FileInputStream ios=new FileInputStream(“属性文件名”);
Properties prop=new Properties();
prop.load(ios);
String value=prop.getProperty(“属性名”);
ios.close();

利用java.io.Properties的load方法读入属性文件虽然方便，但如果属性文件中有中文，在读入之后就会发现出现乱码现象。发生这个原因是load方法使用字节流读入文本，在读入后需要将字节流编码成为字符串，而它使用的编码是“iso-8859-1”,这个字符集是ASCII码字符集，不支持中文编码，
方法一：使用显式的转码：
String value=prop.getProperty(“属性名”);
String encValue=new String(value.getBytes(“iso-8859-1″),”属性文件的实际编码”);

    方法二：象这种属性文件是项目内部的，我们可以控制属性文件的编码格式，比如约定采用Windows内定的GBK，就直接利用”gbk”来转码，     如果约定采用UTF-8，就使用”UTF-8″直接转码。
    方法三：如果想灵活一些，做到自动探测编码，就可利用上面介绍的方法测定属性文件的编码，从而方便开发人员的工作
    补充：可以用下面代码获得Java支持编码集合：
    Charset.availableCharsets().keySet();
    可以用下面的代码获得系统默认编码：
    Charset.defaultCharset();

参考：Java判断文件编码格式_jgit 判断编码_IT_熊的博客-CSDN博客

判断文件的编码格式_如何判断一个文件的编码格式_shuijianbaozi的博客-CSDN博客

平凡之路无尽路

关注

1
点赞
踩
6

收藏

觉得还不错? 一键收藏
打赏
0
评论
Java如何获取上传的二进制字节流中的文件编码格式以及解决文件乱码问题

通过UltraEdit查看文件编码格式可得：bgk是没有文件字符集编码格式头的，所以在可以通过下面方式大略判断。GB2312-80编码的编码范围是高位0xa1－0xfe，低位是0xa1-0xfe，其中汉字范围为0xb0a1和0xf7fe，如果只是简单地判断汉字，则只要查看高字节是否大于等于0xa1就可以了，还有就是，全角字符的高字节统统等于0xa3，所以很容易可以区别出全角字符来。...
复制链接

扫一扫