Python中动态检测编码chardet的使用教程

最近利用python抓取一些网上的数据，遇到了编码的问题。非常头痛，幸运的是找到了解决的方法，下面这篇文章主要跟大家介绍了关于Python中动态检测编码chardet的使用方法，需要的朋友可以参考借鉴，下面来一起看看吧。
前言

在互联网的世界里，每个页面都使用了编码，但是形形色色的编码让我们的代码何以得知其棉麻格式呢？charset将很好的解决这个问题。

1. chardet
   chardet是Python社区提供了一个类库包，方便我们在代码中动态检测当前页面或者文件中的编码格式信息。接口非常的简单和易用。
   Project主页： https://github.com/chardet/chardet
   本地下载地址：http://xiazai.jb51.net/201707/yuanma/chardet(jb51.net).rar

文档主页： http://chardet.readthedocs.io/en/latest/usage.html
2. 使用示例
Notice： 笔者使用的python 3.5 +
Case 1： 检测特定页面的编码格式

import chardet
import urllib.request
TestData = urllib.request.urlopen('http://www.baidu.com/').read()
print(chardet.detect(TestData))

输出结果：

{'confidence': 0.99, 'encoding': 'utf-8'}

结果分析， 其准确率99%的概率，编码格式为utf-8
使用说明：detect（）为其关键方法
Case 2: 增量检测编码格

import urllib.request
from chardet.universaldetector import UniversalDetector
usock = urllib.request.urlopen('http://yahoo.co.jp/')
detector = UniversalDetector()
for line in usock.readlines():
detector.feed(line)
if detector.done: break
detector.close()
usock.close()
print(detector.result)

输出结果：

{'confidence': 0.99, 'encoding': 'utf-8'}

说明： 为了提高预测的准确性，基于dector.feed()来实现持续的信息输入，在信息足够充足之后结束信息输入，给出相应的预测和判断。
如果需要复用detector方法，需要进行detector.reset()进行重置，从而可以复用。
Case 3: 在安装chardet之后，可以基于命令行来检测文件编码

% chardetect somefile someotherfile
somefile: windows-1252 with confidence 0.5
someotherfile: ascii with confidence 1.0

在系统层面，可以直接基于命令行来进行文件编码检测，非常简单易用。
3. 总结
chardet是非常易用和功能强大的Python包，相信大家在web世界中遨游之时，肯定会用上这个chardet的。 如有问题，欢迎大家反馈给我。
内容就以上怎么多，最后给大家推荐一个口碑不错的公众号【程序员学府】，这里有很多的老前辈学习技巧，学习心得，面试技巧，职场经历等分享，更为大家精心准备了零基础入门资料，实战项目资料，每天都有程序员定时讲解Python技术，分享一些学习的方法和需要留意的小细节，要记得关注我