jChardet探测文件字符编码

原创 2016年08月28日 14:10:56
package test;
import java.io.BufferedInputStream;
import java.io.File;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;

import org.mozilla.intl.chardet.nsDetector;
import org.mozilla.intl.chardet.nsICharsetDetectionObserver;
// jChardet 火狐所用字符编码检测算法
public class FileCharsetDetector {
    private boolean found = false;
    private String encoding = null;

    public static void main(String[] argv) throws Exception {
        File file1 = new File("C:\\Users\\Administrator\\Desktop\\VideoViewDemo\\VideoViewDemo\\src\\org\\apache\\android\\media\\AudioPlayer.java");
        
        System.out.println("文件编码:" + new FileCharsetDetector().guessFileEncoding(file1));
    }

    /**
     * 传入一个文件(File)对象,检查文件编码
     * 
     * @param file
     *            File对象实例
     * @return 文件编码,若无,则返回null
     * @throws FileNotFoundException
     * @throws IOException
     */
    public String guessFileEncoding(File file) throws FileNotFoundException, IOException {
        return guessFileEncoding(file, new nsDetector());
    }

    /**
     * <pre>
     * 获取文件的编码
     * @param file
     *            File对象实例
     * @param languageHint
     *            语言提示区域代码 @see #nsPSMDetector ,取值如下:
     *             1 : Japanese
     *             2 : Chinese
     *             3 : Simplified Chinese
     *             4 : Traditional Chinese
     *             5 : Korean
     *             6 : Dont know(default)
     * </pre>
     * 
     * @return 文件编码,eg:UTF-8,GBK,GB2312形式(不确定的时候,返回可能的字符编码序列);若无,则返回null
     * @throws FileNotFoundException
     * @throws IOException
     */
    public String guessFileEncoding(File file, int languageHint) throws FileNotFoundException, IOException {
        return guessFileEncoding(file, new nsDetector(languageHint));
    }

    /**
     * 获取文件的编码
     * 
     * @param file
     * @param det
     * @return
     * @throws FileNotFoundException
     * @throws IOException
     */
    private String guessFileEncoding(File file, nsDetector det) throws FileNotFoundException, IOException {
        // Set an observer...
        // The Notify() will be called when a matching charset is found.
        det.Init(new nsICharsetDetectionObserver() {
            public void Notify(String charset) {
                encoding = charset;
                found = true;
            }
        });

        BufferedInputStream imp = new BufferedInputStream(new FileInputStream(file));
        byte[] buf = new byte[1024];
        int len;
        boolean done = false;
        boolean isAscii = false;

        while ((len = imp.read(buf, 0, buf.length)) != -1) {
            // Check if the stream is only ascii.
            isAscii = det.isAscii(buf, len);
            if (isAscii) {
                break;
            }
            // DoIt if non-ascii and not done yet.
            done = det.DoIt(buf, len, false);
            if (done) {
                break;
            }
        }
        imp.close();
        det.DataEnd();

        if (isAscii) {
            encoding = "ASCII";
            found = true;
        }

        if (!found) {
            String[] prob = det.getProbableCharsets();
            //这里将可能的字符集组合起来返回
            for (int i = 0; i < prob.length; i++) {
                if (i == 0) {
                    encoding = prob[i];
                } else {
                    encoding += "," + prob[i];
                }
            }

            if (prob.length > 0) {
                // 在没有发现情况下,也可以只取第一个可能的编码,这里返回的是一个可能的序列
                return encoding;
            } else {
                return null;
            }
        }
        return encoding;
    }
}


参考文章:

http://www.cnblogs.com/yejg1212/p/3402322.html


本文出自 “点滴积累” 博客,请务必保留此出处http://tianxingzhe.blog.51cto.com/3390077/1774032

版权声明:本文为博主原创文章,未经博主允许不得转载。

java字符集探测器jchardet

import java.io.BufferedInputStream; import java.io.ByteArrayInputStream; import java.net.URL; impo...
  • earbao
  • earbao
  • 2014年10月19日 22:09
  • 1000

Java字符集编码的自动识别 jchardet

jchardet是mozilla自动字符集探测算法代码的java移植。这个算法的最初作者是frank Tang,C++源代码在http://lxr.mozilla.org/mozilla/source...
  • wuhenzhangxing
  • wuhenzhangxing
  • 2015年01月08日 10:00
  • 1739

Java自动探测文件的字符编码

import java.io.BufferedInputStream; import java.io.File; import java.io.FileInputStream; import java...
  • kinglearnjava
  • kinglearnjava
  • 2015年01月03日 18:50
  • 510

字符编码的概念及字符编码的探测

1 关于多字节与宽字符的解释 非英语系的大部分语言,存在无法用有限的ascii字符表达的问题。 由此产生了使用多字节字符来表示的办法,比如GB编码的汉字。 但多字节带来的一个显著不便就是多字节字符在处...
  • zzulp
  • zzulp
  • 2014年01月06日 19:21
  • 3116

使用 jchardet 获得文件编码 -javacode

转载自:http://hi.baidu.com/hxzon/blog/item/f2b8b51bfa5101108618bfd1.html //使用 jchardet 获得文件编码 -javacod...
  • yang3wei
  • yang3wei
  • 2012年04月16日 00:50
  • 1209

使用jchardet1.1 判断文件或网页编码

package org.shefron.utils; import java.io.BufferedInputStream; import java.io.FileInputStream; ...
  • shefron
  • shefron
  • 2014年08月27日 18:21
  • 1533

Java中检测文件字符编码

使用工具juniversalchardet.jar 包检测工具:https://code.google.com/p/juniversalchardet/。这是Mozilla开发的一个用于检测文件编码的...
  • u012841509
  • u012841509
  • 2015年03月25日 10:02
  • 948

xml如何探测字符编码

xml如何探测字符编码 之前一度以为,xml头部的字符声明部分,即: 可以轻易被parser解析,因为这部分可以保证全英文,都是基础的ascii字符,所有编码对这块兼容。 看了这篇帖子和...
  • doraeimo
  • doraeimo
  • 2012年09月13日 00:37
  • 659

java自动探测文件的字符编码

import java.io.BufferedInputStream; import java.io.File; import java.io.FileInputStream; import java...
  • u012602382
  • u012602382
  • 2014年09月13日 02:46
  • 123

jchardet

有时需要InputStreamReader(InputStream in, Charset cs)这个构造来处理字符流。然而Charset不一定知道。这个时候就需要检测编码方式了。jchardet是f...
  • wuhenzhangxing
  • wuhenzhangxing
  • 2015年01月08日 10:18
  • 601
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:jChardet探测文件字符编码
举报原因:
原因补充:

(最多只允许输入30个字)