python网页提取需要用的字符编码_python 获取网页编码方式实现代码

python 获取网页编码方式实现代码

python开发，自动化获取网页编码方式用到了chardet库，字符集检测，这个类在python2.7中没有，需要在官网上下载。

这里我下载好了chardet-2.3.0.tar.gz压缩包文件，只需要将压缩包文件解压后的chardet文件放到python安装包下的

python27/lib/site-packages/下，就可以了。

然后import chardet

下面写了一个自动化检测的函数供检测Url连接，然后返回网页url的编码方式。

import chardet #字符集检测

import urllib

url="http://www.jd.com"

def automatic_detect(url):

content=urllib.urlopen(url).read()

result=chardet.detect(content)

encoding=result['encoding']

return encoding

urls=['http://www.baidu.com','http://www.163.com','http://dangdang.com']

for url in urls:

print url,automatic_detect(url)

上面用到了chardet类的detect方法，返回字典，然后取出编码方式encoding

感谢阅读，希望能帮助到大家，谢谢大家对本站的支持！