Java字符集检测,更好的支持中文字符集

import java.nio.charset.Charset;
import java.util.regex.Matcher;
import java.util.regex.Pattern;

import org.mozilla.universalchardet.UniversalDetector;

/**
 * 字符集工具类,提供了检测字符集的工具方法
 * 首先当然是使用mozilla的开源工具包universalchardet进行字符集检测,对于检测失败的,使用中文常用字进行再次检测
 * @date 2015年4月21日下午5:24:30
 */
public class CharsetUtils {

    /**
     * 中文常用字符集
     */
    public static final String[] AVAILABLE_CHINESE_CHARSET_NAMES = new String[] { "GBK", "gb2312", "GB18030", "UTF-8", "Big5" };

    /**
     * 中文常用字
     */
    private static final Pattern CHINESE_COMMON_CHARACTER_PATTERN = Pattern.compile("的|一|是|了|我|不|人|在|他|有|这|个|上|们|来|到|时|大|地|为|子|中|你|说|生|国|年|着|就|那|和|要");

    public static Charset detect(byte[] content) {
        String charset = universalDetect(content);
        if (charset != null && !charset.isEmpty()) {
            return Charset.forName(charset);
        }

        int longestMatch = 0;
        for (String cs : AVAILABLE_CHINESE_CHARSET_NAMES) {
            String temp = new String(content, Charset.forName(cs));
            Matcher matcher = CHINESE_COMMON_CHARACTER_PATTERN.matcher(temp);

            int count = 0;
            while (matcher.find()) {
                count += 1;
            }
            if (count > longestMatch) {
                longestMatch = count;
                charset = cs;
            }
        }
        return charset == null ? Charset.forName("GB18030") : Charset.forName(charset);
    }

    /**
     * 使用mozilla的开源工具包universalchardet进行字符集检测,不一定能完全检测中文字符集
     */
    public static String universalDetect(byte[] content) {
        UniversalDetector detector = new UniversalDetector(null);
        detector.handleData(content, 0, content.length);
        detector.dataEnd();
        return detector.getDetectedCharset();
    }
}
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值